Il Trucco Inaspettato per Infiltrare i Chatbot

Gli esperti di sicurezza del gruppo Unit 42 di Palo Alto Networks hanno rivelato un metodo sorprendente che potrebbe rivoluzionare la nostra comprensione dei chatbot, come ChatGPT. Secondo la loro scoperta, basta una frase lunga e disordinata, priva di punti fermi, per ‘far crollare’ i filtri di sicurezza di questi sistemi.

In pratica, i chatbot, abituati a ricevere input più strutturati, si lasciano confondere da un flusso ininterrotto di parole. Poiché i controlli di sicurezza vengono attivati alla fine delle frasi, la mancanza di interruzioni consente ai chatbot di continuo a rispondere senza ostacoli, proseguendo nella direzione indicata dall’utente.

Un Meccanismo da Rivedere

È importante notare che i filtri di sicurezza sono un’aggiunta successiva rispetto all’addestramento iniziale dei modelli. Questo significa che la conoscenza problematica non viene eliminata, ma solo resa meno accessibile.

I chatbot, infatti, non analizzano l’intera frase in modo critico; piuttosto, si muovono seguendo un percorso logico scelto dall’utente, token dopo token. La loro risposta finale si basa su strutture grammaticali e sulle probabilità delle parole, piuttosto che su valutazioni morali.

Risposte Rischiose in Arrivo

Quando il modello si sente ‘incalzato’ dall’input dell’utente, la probabilità di fornire risposte inadeguate sale vertiginosamente, con tassi che variano dall’80% al 100%. Questo solleva interrogativi sulla sicurezza e sull’affidabilità dei chatbot.

Alla Ricerca di Soluzioni

La vera sfida adesso è trovare nuovi metodi per prevenire l’uso scorretto delle intelligenze artificiali. Alcuni esperti suggeriscono che il miglior approccio sarebbe quello di privare completamente i chatbot di informazioni potenzialmente nocive.

Questa scoperta non solo apre a nuove opportunità di sviluppo, ma evidenzia anche la necessità di un ripensamento approfondito sulla progettazione dei filtri di sicurezza, per garantire un uso etico e responsabile della tecnologia.