martedì, Marzo 19, 2024

Che sono i plugin di ChatGPT e cosa possono fare?

Giovedì, OpenAI ha annunciato un sistema di plug-in per il suo assistente AI ChatGPT . I plug-in danno a ChatGPT la possibilità di interagire con il resto del mondo attraverso Internet, inclusa la prenotazione di voli, l’ordinazione di generi alimentari, la navigazione sul Web e altro ancora. I plugin sono frammenti di codice che dicono a ChatGPT come utilizzare una risorsa esterna su Internet.

Fondamentalmente, se uno sviluppatore desidera dare a ChatGPT la possibilità di accedere a qualsiasi servizio di rete (ad esempio: “cercare i prezzi delle azioni correnti”) o eseguire qualsiasi attività controllata da un servizio di rete (ad esempio: “ordinare la pizza tramite Internet”), ora è possibile, purché non vada contro le regole di OpenAI.

Convenzionalmente, i modelli linguistici più grandi (LLM) come ChatGPT sono stati vincolati in una bolla, per così dire, in grado di interagire con il mondo solo attraverso conversazioni di testo con un utente. Come scrive OpenAI nel suo post introduttivo sul blog sui plug-in ChatGPT, “L’unica cosa che i modelli linguistici possono fare immediatamente è emettere testo”.

Bing Chat ha portato avanti questo paradigma consentendogli di cercare sul Web informazioni più recenti, ma finora ChatGPT è stato ancora isolato dal resto del mondo. Sebbene chiuso in questo modo, ChatGPT può attingere solo ai dati dal suo set di formazione (limitato al 2021 e precedenti) e a qualsiasi informazione fornita da un utente durante la conversazione. Inoltre, ChatGPT può essere incline a commettere errori ed errori fattuali (ciò che i ricercatori di intelligenza artificiale chiamano “allucinazioni”).

Per aggirare queste limitazioni, OpenAI ha fatto scoppiare la bolla e ha creato un’interfaccia plug-in ChatGPT (ciò che OpenAI chiama “occhi e orecchie” di ChatGPT) che consente agli sviluppatori di creare nuovi componenti che “si collegano” a ChatGPT e consentono al modello AI di interagire con altri servizi su Internet. Questi servizi possono eseguire calcoli e fare riferimento a informazioni fattuali per ridurre le allucinazioni e possono anche potenzialmente interagire con qualsiasi altro servizio software su Internet, se gli sviluppatori creano un plug-in per tale attività.

Di che tipo di plugin stiamo parlando?

Il "negozio di plug-in" di ChatGPT consente agli utenti di selezionare tra i plug-in che desiderano "installare" nella loro sessione di ChatGPT.

Nel caso di ChatGPT, OpenAI consentirà agli utenti di selezionare da un elenco di plug-in prima di avviare una sessione di ChatGPT. Si presentano quasi come app in un app store, ogni plug-in ha la propria icona e descrizione.

OpenAI afferma che un primo giro di plugin è stato creato dalle seguenti società:

  • Expedia (per la pianificazione del viaggio)
  • Nota fiscale (per i dati di mercato in tempo reale)
  • Instacart (per ordinare generi alimentari)
  • Kayak (ricerca di voli e auto a noleggio)
  • Klarna (per lo shopping con confronto dei prezzi)
  • Milo (un assistente genitore basato sull’intelligenza artificiale)
  • OpenTable (per consigli sui ristoranti e prenotazioni)
  • Shopify (per fare acquisti su quel sito)
  • Slack (per le comunicazioni)
  • Parla (per il tutoraggio linguistico basato sull’intelligenza artificiale)
  • Wolfram (per calcolo e dati in tempo reale)
  • Zapier (una piattaforma di automazione)

In particolare, il plug-in Zapier sembra particolarmente potente poiché garantisce a ChatGPT l’accesso a un sistema di automazione del software esistente, o come afferma Zapier: “Puoi chiedere a ChatGPT di eseguire una qualsiasi delle 50.000 azioni di Zapier (inclusi ricerca, aggiornamento e scrittura) con Zapier’s Oltre 5.000 app supportate, che trasformano la chat in azione. Può scrivere un’e-mail, quindi inviarla per te. Oppure trovare i contatti in un CRM, quindi aggiornarli direttamente. Oppure aggiungere righe a un foglio di calcolo, quindi inviarle come messaggio Slack. Il le possibilità sono infinite.”

OpenAI ospita anche tre plug-in, un browser Web (che può acquisire informazioni dal Web in modo simile a Bing Chat), un interprete di codice per l’esecuzione di programmi Python (in una sandbox) e uno strumento di recupero che consente l’accesso a ” fonti di informazioni personali o organizzative” ospitate altrove (in pratica, recupero di informazioni da documenti).

Sebbene OpenAI definisca il processo di selezione dei plug-in un “negozio di plug-in”, la società non ha annunciato l’intenzione di vendere singoli plug-in. Ma usando l’etichetta “negozio”, quel risultato sembra probabile a un certo punto.

Gli sviluppatori con accesso anticipato hanno già creato rapidamente prototipi di plug-in per ChatGPT. Rispetto ad altri approcci nello sviluppo di plug-in, il modo in cui funzionano i plug-in ChatGPT è notevole. Invece di un processo arcano di utilizzo del ” codice colla ” per interfacciare un’API con ChatGPT, lo sviluppatore sostanzialmente “dice” a ChatGPT come utilizzare il proprio servizio utilizzando il linguaggio naturale e ChatGPT lo fa.

Oltre a ciò, gli sviluppatori hanno utilizzato ChatGPT e GPT-4 per scrivere i manifest dei plug-in ChatGPT (un manifest è “una descrizione leggibile dalla macchina delle capacità del plug-in e di come richiamarli”, secondo OpenAI), semplificando ulteriormente il processo di sviluppo del plug-in.

Questo tipo di capacità di sviluppo autocomposto sembra un territorio inesplorato per alcuni programmatori. In un caso, un utente di Twitter di nome Rohit si è preoccupato ad alta voce : ” Ragazzi. Crisi esistenziale. OpenAI ha appena finito il software? Cosa resta da fare se non ripulire e spazzare? ”

Sam Altman, CEO di OpenAI, ha risposto : “No”.

È sicuro?

Un'immagine iperbolica e sensazionale generata dall'intelligenza artificiale della terra avvolta da un'esplosione.

Dato che OpenAI ha già testato i suoi modelli di intelligenza artificiale (come GPT-4) per vedere se hanno l’agenzia per modificare, migliorare e diffondersi tra i sistemi informatici del mondo, non sorprende che OpenAI spenda quasi la metà dei suoi post sul blog dei plugin ChatGPT parlando di sicurezza e impatti. “I plug-in avranno probabilmente implicazioni sociali ad ampio raggio”, la società menziona casualmente in una sezione sui potenziali impatti sui posti di lavoro .

Al di là dei posti di lavoro, una paura ricorrente tra alcuni ricercatori di intelligenza artificiale consiste nel concedere a un modello di intelligenza artificiale avanzato l’accesso ad altri sistemi, dove può potenzialmente causare danni. Il sistema di intelligenza artificiale non deve essere “cosciente” o “senziente”, ma solo spinto a completare un determinato compito che ritiene necessario. In questo caso con i plugin, sembra che OpenAI stia facendo esattamente questo.

OpenAI sembra essere consapevole dei rischi, facendo spesso riferimento alla sua scheda di sistema GPT-4 che descrive il tipo di test dello scenario peggiore che abbiamo descritto in un precedente articolo . Al di là di ipotetici scenari apocalittici, i danni causati dall’intelligenza artificiale potrebbero presentarsi sotto forma di versioni accelerate degli attuali pericoli online, come anelli di phishing automatizzati, campagne di disinformazione, astroturfing o attacchi personali.

“Esiste il rischio che i plug-in possano aumentare le sfide per la sicurezza intraprendendo azioni dannose o non intenzionali, aumentando le capacità di malintenzionati che frodano, fuorviano o abusano degli altri”, scrive OpenAI. “Aumentando la gamma di possibili applicazioni, i plug-in possono aumentare il rischio di conseguenze negative dovute ad azioni errate o disallineate intraprese dal modello in nuovi domini. Fin dal primo giorno, questi fattori hanno guidato lo sviluppo della nostra piattaforma di plug-in e ne abbiamo implementati diversi tutele”.

ULTERIORI LETTURE

OpenAI ha verificato se GPT-4 potesse conquistare il mondo

Una di queste salvaguardie sembra essere una distribuzione graduale dell’accesso ai plug-in. Inoltre, mentre l’uso del plug-in ChatGPT è coperto dalla politica di utilizzo generale di OpenAI che ne vieta l’utilizzo per generare disinformazione e forme di contenuto proibite, specifica anche regole per i plug-in , come il divieto di automatizzare le conversazioni con persone reali. Inoltre, i plug-in che utilizzano contenuti generati da ChatGPT (come le e-mail) devono negare che il contenuto sia stato generato da AI.

I singoli plug-in OpenAI hanno le proprie dichiarazioni di non responsabilità sulla sicurezza, inclusa la possibilità di disattivare la scansione web di ChatGPT con un file robots.txt e il fatto che l’interprete del codice Python viene eseguito in una sandbox “firewalled”. Ma queste restrizioni si applicheranno ai plug-in di altri servizi che possono eseguire codice? Queste sono domande che OpenAI e gli sviluppatori dovranno affrontare e risolvere insieme nei prossimi giorni, settimane e mesi a venire.

Al momento, i plug-in ChatGPT sono disponibili solo su base alpha per selezionare gli sviluppatori e quelli approvati da una lista d’attesa . “Anche se inizialmente daremo la priorità a un numero limitato di sviluppatori e utenti di ChatGPT Plus, prevediamo di implementare un accesso su larga scala nel tempo”.

ARTICOLI COLLEGATI:

ULTIMI ARTICOLI: