www.youtube.com/@fashiontechvb

 

I CHATBOT IGNORANTI

All’Istituto di IA di Valencia hanno scoperto che i CHATBOT più sono addestrati e più aumenta la possibilità che rispondono in modo errato ad una domanda.

Il problema rilevato sui grandi modelli linguistici come CHATGPT, LLAMA E BLOOM si è visto che i CHATBOT con capacità di evolversi acquisendo sempre più informazioni, tendono a dare risposte sbagliate pur di non ammettere la loro ignoranza sull’argomento richiesto.

Il paradosso sta nel fatto che più i CHATBOT crescono e apprendono informazioni e più diventano bravi a fingere di sapere.

Si potrebbe tentare di minimizzare la questione stabilendo un limite di affidabilità almeno per i CHATBOAT creati per lavori specifici come quello medico, più difficile invece per i CHATBOAT sviluppati per risposte in generale che abbracciano più settori.

Quindi non date per scontato che tutte le risposte delle macchine sono giuste.