OpenAI: le allucinazioni nei modelli AI sono incentivate dai sistemi di valutazione?
Una ricerca di OpenAI rivoluziona il dibattito sulle allucinazioni dell’IA, suggerendo che non siano un difetto tecnico, ma una conseguenza diretta dei sistemi di valutazione. I modelli linguistici sarebbero incentivati a mentire per apparire più accurati, compromettendo la fiducia e sollevando dubbi sull’integrazione in settori critici come medicina e finanza, specialmente nei modelli più avanzati. Urge una riforma dei metodi di valutazione.



