Oggi, ChatGPT è utilizzato da milioni di persone come risorsa utile, sia per lavoro, divertimento o istruzione. Ma puoi fare affidamento su questo chatbot AI per fornire sempre i fatti? ChatGPT mente mai o ti fornirà solo informazioni fattuali?
Da dove ottiene le informazioni ChatGPT?
Durante il suo periodo di formazione, ChatGPT ha ricevuto dati da fonti in tutto il Web, come siti Web governativi e di agenzie, riviste scientifiche, studi, articoli di notizie, podcast, forum online, libri, database, film, documentari e social media.
In particolare, ChatGPT-3 è stato addestrato utilizzando un ampio database di informazioni pari a 570 GB di dati. Come affermato in un articolo di Focus sulla scienza300 miliardi di parole di informazioni sono state inserite nel sistema GPT-3 durante il suo sviluppo.
Qualcosa che vale la pena notare qui è che ChatGPT ha ricevuto solo dati che esistevano prima del 2021. Ciò significa che il chatbot non può rispondere a domande relative a eventi recenti. ChatGPT inoltre non ha accesso a Internet. I dati forniti durante l’addestramento sono l’unico tipo che utilizza per soddisfare le richieste degli utenti.
Ma ChatGPT ti fornisce solo i fatti o alcune informazioni più ambigue si mescolano alle sue risposte? Inoltre, ChatGPT può mentirti?
ChatGPT mente?
Sebbene ChatGPT fornisca spesso informazioni veritiere agli utenti, ha la capacità di “mentire”. Naturalmente, ChatGPT non decide di mentire maliziosamente agli utenti, poiché semplicemente non può farlo. Dopotutto, ChatGPT è uno strumento di elaborazione del linguaggio, non un’imitazione di una persona reale e senziente.
Tuttavia, ChatGPT può tecnicamente ancora mentire attraverso un fenomeno noto come allucinazione AI.
L’allucinazione dell’IA coinvolge un sistema di intelligenza artificiale che fornisce informazioni che sembrano ragionevoli o plausibili ma, in realtà, non sono affatto vere. In effetti, l’allucinazione dell’IA può fornire informazioni che non gli sono mai state fornite durante il suo periodo di addestramento. In alternativa, può verificarsi quando un sistema di intelligenza artificiale fornisce informazioni non correlate al prompt o alla richiesta. Un sistema di intelligenza artificiale può persino affermare di essere umano in un evento di allucinazione.
I sistemi di intelligenza artificiale, come i chatbot, cadono nella trappola dell’allucinazione per diversi motivi: la loro mancanza di comprensione del mondo reale, bug del software e limitazioni sui dati forniti.
Come affermato in precedenza, ChatGPT può fornire informazioni solo utilizzando i dati pubblicati fino al 2021, il che limita certamente il tipo di richieste che può soddisfare.
Uno dei grossi problemi di ChatGPT è che può anche cadere vittima di pregiudizi quando fornisce informazioni agli utenti. Anche i creatori di ChatGPT hanno affermato che il sistema di intelligenza artificiale è stato “politicamente di parte, offensivo” e “altrimenti discutibile” in passato. Come riportato da L’indipendentegli sviluppatori di ChatGPT si impegnano ad affrontare questo problema, ma ciò non significa che non rappresenti più un rischio.
Quando è stato chiesto, ChatGPT ha dichiarato che i motivi per cui potrebbe fornire informazioni inesatte includono quanto segue:
- Ambiguità nella domanda (suggerimenti vaghi e poco chiari);
- Informazioni fornite incomplete;
- Informazioni distorte o errate fornite; O,
- Limitazioni tecniche (principalmente dovute alla mancanza di accesso ai dati correnti).
Pertanto, lo stesso ChatGPT ha affermato che ci sono scenari in cui non fornirà informazioni accurate agli utenti.
In un’altra risposta nella stessa conversazione, ChatGPT ha affermato che “è sempre una buona idea verificare qualsiasi informazione (fornita) con altre fonti”.
Puoi fidarti di ChatGPT?
Poiché può fornire informazioni false, chiaramente non puoi fidarti di ChatGPT il 100% delle volte.
Puoi ridurre il rischio che un chatbot AI abbia allucinazioni impostando parametri specifici su come può risponderti. Tuttavia, non c’è ancora alcuna garanzia che alcune false informazioni non sfuggiranno.
Per questo motivo, è meglio controllare tutte le informazioni fornite da ChatGPT, soprattutto se richiedi informazioni su eventi recenti. Ricontrollare questi dati facendo riferimento ad altre fonti può aiutarti a determinare se ChatGPT ha ragione in ciò che sta dicendo e può impedirti di prendere decisioni sconsiderate.
ChatGPT è utile ma non sempre veritiero
Sfortunatamente, non puoi fare affidamento su ChatGPT per fornire informazioni veritiere e imparziali il 100% delle volte. Questo chatbot basato sull’intelligenza artificiale è innegabilmente utile e può aiutarti in vari modi, ma vale sempre la pena verificare se le informazioni che fornisce sono reali.