ChatGPhish: Quando ChatGPT Aiuta i Phisher a

Sai quando chiedi a ChatGPT di riassumere un articolo?

Ti sarà capitato: trovi un articolo interessante, lo incolli in ChatGPT e chiedi "riassumimelo". L'AI ti risponde con un bel riassunto formattato, con i link alle fonti. Tutto pulito, tutto utile.

Ecco, ora pensa che quel link potrebbe non essere quello che sembra.

I ricercatori di sicurezza hanno scoperto una vulnerabilità in ChatGPT (chiamata ChatGPhish) che permette ai malintenzionati di trasformare i riassunti dell'AI in vere e proprie trappole di phishing. Il bello? L'utente non deve fare nulla di sbagliato. Ha solo chiesto un riassunto.

Ma cosa sta succedendo davvero?

ChatGPT, quando genera un riassunto, si fida ciecamente di quello che riceve. Se l'articolo originale contiene un link malevolo nascosto in un'immagine o in un link Markdown apparentemente innocuo, l'AI lo include nel riassunto senza battere ciglio.

Pensala come quando ricevi una lettera dal corriere. Il postino ti consegna una busta che sembra arrivare da Amazon, con il logo e tutto. Ti fidi perché sembra legit. Solo che dentro non c'è il pacco che aspetti.

Il meccanismo funziona così: un attacker inserisce un link phishing nascosto in una pagina web (può essere un articolo, un blog, qualsiasi cosa). Quando tu incolli quella pagina in ChatGPT e chiedi un riassunto, l'AI non controlla se il link è sicuro. Lo copia e lo presenta come fonte. Tu vedi il riassunto con il link e pensi "ok, questa è la fonte originale". Clicchi. E sei dentro.

La cosa preoccupante è che il link può essere qualsiasi cosa: una pagina di login falsa, un sito che installa malware, una pagina di furto credenziali. Tutto dipende da cosa vuole fare l'attacker.

Perché ti riguarda

Se pensi "tanto io non uso ChatGPT per lavoro", fermati un attimo.

I tuoi colleghi, i tuoi dipendenti, il tuo commercialista, il tuo avvocato, il consulente IT che gestisce i tuoi server: tutti usano ChatGPT. Lo usano per riassumere normative, per tradurre email, per scrivere comunicazioni. Lo usano sempre di più, ogni giorno.

Ecco il punto: il phishing tradizionale lo conosci. Sai che non devi cliccare su link strani nelle email. Ma quando il link arrive da ChatGPT, con la formattazione pulita dell'AI, con la fonte citata in modo professionale, il campanello d'allarme non suona.

Per una PMI italiana, questo cambia tutto. Il tuo impiegato che usa ChatGPT per velocizzare il lavoro potrebbe non accorgersi di nulla. Un click, una password inserita, e l'attacker è dentro. Da lì è questione di ore: accesso ai file, dati dei clienti, bonifici autorizzati.

Non sto parlando di scenari inventati. Le tecniche di phishing evolvono costantemente, e questa vulnerabilità è stata documentata pubblicamente. Significa che i criminali informatici hanno ora un nuovo strumento nel loro arsenale.

Cosa puoi fare (senza impazzire)

Ok, la situazione non è disperata. Ecco cosa puoi fare, dal semplice al più strutturato.

Primo: diffida dei link nei riassunti AI. Quando ChatGPT ti mostra un link come "fonte", non è una garanzia di sicurezza. Prima di cliccare, passa il mouse sopra (senza premere) e guarda dove porta davvero. Se l'URL è strano, lungo, o non c'entra nulla con quello che ti aspetti, non cliccare.

Secondo: usa un antispam che analizza i link in tempo reale. I filtri antispam moderni non si limitano a controllare il mittente. Analizzano i link nelle email, nelle chat, nei documenti. Se un link porta a un sito noto per phishing, te lo bloccano prima che tu possa cliccare. MailSniper, ad esempio, analizza gli URL in tempo reale e blocca quelli malevoli prima che arrivino nella tua casella.

Terzo: forma i tuoi dipendenti su questo rischio specifico. La formazione anti-phishing classica non basta più. Devi spiegare che anche i riassunti AI possono contenere insidie. Fai un esempio pratico: mostra come un link phishing può nascondersi in un riassunto apparentemente innocuo.

Quarto: implementa il sandboxing per gli allegati e i link. Quando qualcuno clicca su un link, il sistema dovrebbe aprirlo in un ambiente isolato (sandbox) prima di mostrarlo all'utente. Se il link è malevolo, viene bloccato e l'utente non corre rischi.

Quinto: verifica sempre gli URL prima di inserire credenziali. Qualsiasi pagina di login (Microsoft, Google, banca, fornitore) deve essere controllata con attenzione. L'URL deve essere esattamente quello corretto. Un carattere sbagliato può fare la differenza tra il sito legit e la trappola.

Il consiglio dell'amico

Sai qual è la cosa più importante? Non farti prendere dal panico, ma non sottovalutare questa roba.

ChatGPT è uno strumento utile, continuerai a usarlo. La vulnerabilità esiste, ma con un po' di attenzione puoi ridurre i rischi sensibilmente. Il trucco è semplice: non considerare automatico che i link mostrati dall'AI siano sicuri. Trattali come qualsiasi altro link.

E se la tua azienda non ha ancora un sistema di protezione email che analizza i link in tempo reale, beh, forse è il momento di pensarci. Non serve a nulla farsi prendere dal panico quando un click di troppo può costare caro.

Restiamo in contatto, se hai domande su come proteggerti meglio.