Giorno: 06 settembre 2024 | Ora: 05:50

Il Nuovo Modello AI "Reflection 70B"

Un nuovo chatbot di intelligenza artificiale sta per entrare nel mercato affollato di AI, promettendo di imparare dai propri errori. Questo modello, chiamato "Reflection 70B", è stato sviluppato da HyperWrite AI e sfrutta una tecnica innovativa nota come "Reflection-Tuning".

Cos'è il Reflection-Tuning?

Il modello Reflection 70B è stato addestrato con una tecnica chiamata Reflection-Tuning, progettata per consentire ai modelli di linguaggio di correggere i propri errori. Secondo il CEO di HyperWrite AI, Matt Shumer, questo approccio permette all'AI di "tenere testa" anche ai modelli chiusi più avanzati, come Claude 3.5 Sonnet di Anthropic e GPT-4o di OpenAI.

Le Caratteristiche di Reflection 70B

Shumer ha affermato che i modelli AI attuali tendono spesso a hallucinate, ovvero a generare output inaccurati. Grazie al Reflection-Tuning, Reflection 70B è in grado di riconoscere i propri errori e correggerli prima di fornire una risposta finale. Un'AI che hallucina percepisce pattern o oggetti inesistenti, creando output che non corrispondono alla realtà.

Il Processo di Apprendimento dell'AI

Il Reflection-Tuning migliora i modelli AI permettendo loro di analizzare e apprendere dai propri output. Le risposte generate possono essere reinserite nel sistema, dove l'AI viene invitata a valutare i propri risultati, identificando punti di forza, debolezze e aree di miglioramento. Questo processo ripetuto consente all'AI di affinare continuamente le proprie capacità, diventando più consapevole dei suoi output e migliore nel criticarli e migliorarli.

Prospettive Future e Ricerche Correlate

Shumer ha sottolineato che con il giusto input, Reflection 70B può diventare un "animale da competizione" per molte applicazioni. Inoltre, nel 2023, OpenAI ha pubblicato un documento di ricerca che esplora idee per prevenire le hallucinations nelle AI. Tra queste, l'idea di supervisione dei processi, che premia il modello per ogni passo corretto nel ragionamento, non solo per la conclusione finale.

La rilevazione e la mitigazione degli errori logici nei modelli AI rappresentano un passo cruciale verso lo sviluppo di una AGI allineata (intelligenza generale artificiale).