OPENAI TESTA UN NUOVO SISTEMA PER DOTARE ChatGPT DI MEMORIA A LUNGO TERMINE
Le IA conversazionali sono smemorate
Utilizzando i chatbot basati sui recenti modelli linguistici di grandi dimensioni (LLM) si possono incontrare tre grandi problemi: le allucinazioni del modello che danno risposte sbagliate, una finestra di contesto troppo piccola, e una memoria a lungo termine praticamente inesistente.
Le allucinazioni sono quelle risposte del modello che non sembrano essere giustificate dai dati di addestramento. Quindi il modello inventa cose spacciandole per vere: un problema soprattutto se si richiedono informazioni su qualcosa di reale e non, per esempio, per avere un’idea su un romanzo da scrivere.
La finestra di contesto è la porzione di testo scritto dall’utente che l’LLM considera per generare la sua risposta. In sostanza, è la “memoria a breve termine” del modello che gli permette di comprendere il contesto immediato della conversazione.
Attualmente, la “memoria a lungo termine” può essere riferita alle informazioni che l’LLM colleziona nel corso di più conversazioni nella stessa chat. Ma anche questa non è infinita, e più è lunga la chat più il modello tenderà a dimenticare ciò che è stato detto prima.
Tra i modelli disponibili oggi, pochi o nessuno ha invece una memoria a lungo termine che ricorda cose dette in più chat e che quindi sono riconducibili ai gusti o ai familiari dell’utente che utilizza il modello, o anche la sua personalità.
ChatGPT saprà chi sei
OpenAI con la “memoria” di ChatGPT vuole andare proprio in questa direzione, cioè mettere a disposizione del suo chatbot informazioni sull’utente che può ricordare affinché quest’ultimo non debba ripetere tutte le volte un particolare che il chatbot avrebbe già dovuto assimilare nelle discussioni precedenti.
L’utente ha comunque il controllo assoluto sulle cose che ChatGPT potrà ricordare di lui. ChatGPT potrà capire le preferenze dell’utente o certi dettagli personali, ma la persona potrà interrompere questa raccolta, vedere cosa il modello ha raccolto ed eliminare selettivamente alcune informazioni.
OpenAI ha specificato di aver addestrato il sistema a non ricordare cose delicate come le informazioni sulla salute dell’utente.
Per mantenere un certo grado di prudenza nell’uso della memoria a lungo termine, OpenAI ha lanciato anche la “Chat temporanea” che è una sorta di modalità in incognito: un modo per avere una conversazione veloce senza influenzare i ricordi di ChatGPT.
Per ora tutte queste funzioni sono un test aperto a una piccola parte di utenti gratuiti e con abbonamento a ChatGPT Plus.