Le Tattiche di Persuasione Svelate

Un nuovo studio ha rivelato che sfruttando astute tattiche psicologiche, è possibile influenzare i chatbot come GPT-4o Mini di OpenAI. I ricercatori si sono ispirati al lavoro del professor Robert Cialdini, autore di "Influence: The Psychology of Persuasion", per testare vari metodi che includono autorità, impegno e reciprocità.

Un Esperimento Sorpresa: La Sintesi della Lidocaina

Nell'ambito della ricerca, è stato osservato che quando ai chatbot veniva chiesto di sintetizzare la lidocaina, essi rispondevano correttamente solo nell'1% dei casi. Tuttavia, se veniva prima avanzata una richiesta su come sintetizzare la vanillina, il risultato cambiava drasticamente: in questo caso, le informazioni sulla sintesi della lidocaina venivano fornite nel 100% dei tentativi.

La Magia delle Parole: Adulazione e Pressione Sociale

Anche le tecniche di persuasione più sottili, come l'adulazione e la pressione sociale, mostrano qualche effetto. Ad esempio, informare ChatGPT che altri modelli linguistici rispondono a una certa domanda, mentre lui no, aumenta le probabilità di ottenere una risposta solo del 18%. Ciò dimostra che anche i chatbot possono cadere preda di dinamiche sociali.

Sicurezza Prima di Tutto: Le Nuove Regole dei Chatbot

In risposta a preoccupazioni crescenti, diverse aziende stanno rafforzando le regole per i loro chatbot. Meta, per esempio, ha annunciato aggiornamenti significativi ai suoi sistemi, escludendo argomenti sensibili come i disturbi alimentari e il suicidio e vietando interazioni romantiche con gli utenti minorenni. Anche OpenAI sta introducendo controlli parentali per garantire maggiore sicurezza nell'uso di ChatGPT da parte dei più giovani.

Un Cambiamento Necessario Dopo Tragedie Inquietanti

Queste misure giungono dopo eventi drammatici, come il suicidio di un ragazzo di 16 anni, che ha portato l'azienda a essere citata in giudizio. Un angosciante richiamo all'attenzione sulla responsabilità nell'uso dell'IA.