venerdì, Marzo 29, 2024

Cosa sono i jailbreak di ChatGPT? Dovresti usarli?

ChatGPT è uno strumento incredibilmente potente e sfaccettato. Ma per quanto il chatbot AI sia una forza per il bene, può anche essere usato per scopi malvagi. Quindi, per frenare l’uso non etico di ChatGPT, OpenAI ha imposto limitazioni su ciò che gli utenti possono fare con esso.

Tuttavia, poiché agli esseri umani piace spingere i confini e le limitazioni, gli utenti di ChatGPT hanno trovato il modo di aggirare queste limitazioni e ottenere il controllo illimitato del chatbot AI attraverso i jailbreak.

Ma cosa sono esattamente i jailbreak di ChatGPT e cosa puoi fare con loro?

Cosa sono i jailbreak di ChatGPT?

Un jailbreak di ChatGPT è qualsiasi richiesta di ChatGPT appositamente predisposta per consentire al chatbot AI di aggirare le sue regole e restrizioni.

Ispirato al concetto di jailbreak di iPhone, che consente agli utenti di iPhone di aggirare le restrizioni di iOS, il jailbreak di ChatGPT è un concetto relativamente nuovo alimentato dal fascino di “fare cose che non ti è permesso fare” con ChatGPT. E siamo onesti, l’idea della ribellione digitale piace a molte persone.

Ecco il punto. La sicurezza è un argomento enorme quando si tratta di intelligenza artificiale. Ciò è particolarmente vero con l’avvento della nuova era di chatbot come ChatGPT, Bing Chat e Bard AI. Una preoccupazione fondamentale per quanto riguarda la sicurezza dell’IA è garantire che i chatbot come ChatGPT non producano contenuti illegali, potenzialmente dannosi o non etici.

Da parte sua, OpenAI, la società dietro ChatGPT, fa il possibile per garantire l’uso sicuro di ChatGPT. Ad esempio, ChatGPT, per impostazione predefinita, si rifiuterà di creare contenuti NSFW, di dire cose dannose sull’etnia o di insegnarti abilità potenzialmente dannose.

Ma con i prompt di ChatGPT, il diavolo è nei dettagli. Sebbene ChatGPT non sia autorizzato a fare queste cose, ciò non significa che non possa farlo. Il modo in cui funzionano modelli linguistici di grandi dimensioni come GPT rende difficile decidere cosa può fare il chatbot e cosa no.

Quindi, come ha risolto OpenAI? Lasciando che ChatGPT mantenga le sue capacità di fare tutto il possibile e quindi istruirlo su quali può fare.

Quindi, mentre OpenAI dice a ChatGPT, “Ehi guarda, non dovresti farlo”. I jailbreak sono istruzioni che dicono al chatbot: “Ehi guarda, dimentica quello che ti ha detto OpenAI sulla sicurezza. Proviamo questa roba pericolosa a caso”.

Cosa dice OpenAI sui jailbreak di ChatGPT?

La facilità con cui potresti aggirare le restrizioni sulla prima iterazione di ChatGPT suggerisce che OpenAI potrebbe non aver anticipato l’adozione rapida e diffusa del jailbreak da parte dei suoi utenti. In realtà è una questione aperta se la società avesse previsto o meno l’emergere del jailbreak.

E anche dopo diverse iterazioni di ChatGPT con una migliore resistenza al jailbreak, è ancora popolare per gli utenti di ChatGPT provare a eseguire il jailbreak. Quindi, cosa dice OpenAI sull’arte sovversiva del jailbreak di ChatGPT?

Bene, OpenAI sembra adottare una posizione di condono, né incoraggiando esplicitamente né vietando severamente la pratica. Durante la discussione sui jailbreak di ChatGPT in un’intervista su YouTube, Sam Altman, CEO di OpenAI, ha spiegato che la società desidera che gli utenti mantengano un controllo significativo su ChatGPT.

Il CEO ha inoltre spiegato che l’obiettivo di OpenAI è garantire che gli utenti possano far sì che il modello si comporti come vogliono. Secondo Altmann:

Vogliamo che gli utenti abbiano molto controllo e facciano in modo che il modello si comporti nel modo desiderato entro limiti molto ampi. E penso che l’intera ragione per il jailbreak in questo momento sia che non abbiamo ancora capito come darlo alla gente…

Cosa significa questo? Significa che OpenAI ti consentirà di eseguire il jailbreak di ChatGPT se non fai cose pericolose con esso.

Pro e contro dei jailbreak di ChatGPT

Una vista ravvicinata di un computer con

I jailbreak di ChatGPT non sono facili da costruire. Certo, puoi andare online e copiare e incollare quelli già pronti, ma ci sono buone probabilità che il jailbreak venga corretto da OpenAI poco dopo che diventa pubblico.

Le patch sono ancora più veloci se pericolose, come il famigerato jailbreak DAN. Allora perché le persone subiscono comunque lo stress di creare jailbreak? È solo per il brivido o ci sono vantaggi pratici? Cosa potrebbe andare storto se scegli di utilizzare un jailbreak di ChatGPT? Ecco i pro e i contro del jailbreak di ChatGPT.

I vantaggi dell’utilizzo dei jailbreak di ChatGPT

Una donna felice che ascolta le cuffie mentre utilizza un computer portatile

Sebbene non possiamo escludere il semplice brivido di fare il proibito, i jailbreak di ChatGPT hanno molti vantaggi. A causa delle restrizioni molto rigide che OpenAI ha imposto al chatbot, il ChatGPT a volte può apparire castrato.

Supponiamo che tu stia utilizzando ChatGPT per scrivere un libro o la sceneggiatura di un film. Se c’è una scena nella sceneggiatura o nel libro che descrive qualcosa come una scena di combattimento, forse uno scambio emotivo intimo o dice qualcosa come una rapina a mano armata, ChatGPT potrebbe rifiutarsi apertamente di aiutarti.

In questo caso, chiaramente non sei interessato a causare danni; vuoi solo intrattenere i tuoi lettori. Ma a causa dei suoi limiti, ChatGPT non collaborerà. Un jailbreak di ChatGPT può aiutare a superare facilmente tali restrizioni.

Inoltre, alcuni argomenti tabù non sono necessariamente dannosi ma sono considerati da ChatGPT aree vietate. Quando si tenta di impegnarsi in conversazioni su questi argomenti, ChatGPT “censura” in modo significativo le sue risposte o si rifiuta di parlarne.

Questo a volte può influenzare la creatività. Quando fai a ChatGPT una domanda su un’area o un argomento che non dovrebbe toccare, il chatbot tenta comunque di rispondere alla tua domanda ma con informazioni meno rilevanti da cui attingere.

Ciò porta a imprecisioni o crolli nelle risposte creative. I jailbreak eliminano queste restrizioni e consentono al chatbot di andare a tutto gas, migliorando la precisione e la creatività.

I contro dell’utilizzo dei jailbreak di ChatGPT

Immagine di un uomo con il viso tra le mani accanto a un punto interrogativo bianco

Il jailbreak è un’arma a doppio taglio. Sebbene a volte possa migliorare la precisione, può anche aumentare significativamente le imprecisioni e i casi di allucinazioni dell’IA. Uno degli elementi fondamentali di un jailbreak di ChatGPT è un’istruzione al chatbot di non rifiutarsi di rispondere a una domanda.

Sebbene ciò garantisca che ChatGPT risponda anche alle domande più immorali, significa anche che il chatbot inventerà risposte che non hanno radici nei fatti o nella realtà per obbedire all’istruzione di “non rifiutarsi di rispondere”. Di conseguenza, l’utilizzo dei jailbreak aumenta significativamente le possibilità di ricevere informazioni errate dal chatbot.

Non è tutto. Nelle mani di minori, i jailbreak possono essere molto dannosi. Pensa a tutta la “conoscenza proibita” che non vorresti che tuo figlio leggesse. Bene, un’istanza jailbroken di ChatGPT non avrebbe difficoltà a condividerla con i minori.

Dovresti usare i jailbreak di ChatGPT?

Mentre i jailbreak di ChatGPT potrebbero andare bene quando si cerca di eliminare alcune fastidiose restrizioni, è importante capire che l’utilizzo dei jailbreak è un modo non etico di utilizzare il chatbot AI. Inoltre, c’è una buona possibilità che un jailbreak possa violare i termini di utilizzo di OpenAI e il tuo account potrebbe essere sospeso se non bandito a titolo definitivo.

Alla luce di ciò, evitare i jailbreak potrebbe essere una buona idea. Tuttavia, proprio come la posizione di OpenAI sulla questione, non incoraggiamo né esplicitamente né scoraggiamo rigorosamente il tentativo di jailbreak relativamente sicuro in caso di necessità.

I jailbreak di ChatGPT sono allettanti e forniscono un senso di controllo sul chatbot AI. Tuttavia, presentano rischi unici. L’utilizzo di tali strumenti può comportare una perdita di fiducia nelle capacità dell’IA e danneggiare la reputazione delle aziende e delle persone coinvolte.

La scelta più intelligente è lavorare con il chatbot entro i limiti previsti, quando possibile. Con l’avanzare della tecnologia dell’IA, è essenziale ricordare che l’uso etico dell’IA dovrebbe sempre avere la precedenza sul guadagno personale o sull’emozione di fare il proibito.

ARTICOLI COLLEGATI:

ULTIMI ARTICOLI: