L’utilizzo dell’Ia nel comparto dei cybercrime è sempre più frequente e Sophos, azienda specializzata in cybersicurezza ha pubblicato due interessanti studi sul tema. Il primo, dimostra come nel futuro potranno essere sfruttate tecnologie come ChatGpt per perpetrare frodi su vasta scala a fronte di competenze tecniche minime. Tuttavia, un secondo report ha rilevato come, nonostante le potenzialità dell’Intelligenza Artificiale, alcuni cybercriminali siano ancora lontani dall'adottare gli Llm (Large Language Model) come ChatGpt, rimanendo scettici e persino preoccupati circa il ricorso all’Ia per i loro attacchi.
Utilizzando un semplice template per e-commerce e tool Llm come Gpt-4, gli specialisti di Sophos X-Ops sono stati in grado di costruire un sito web completamente funzionante dotato di immagini, contributi audio e descrizioni di prodotto generati da Ia, il tutto completato da un finto login Facebook e una finta pagina di checkout con cui è possibile sottrarre le credenziali di login e i numeri di carta di credito di utenti inconsapevoli. Costruire e attivare il sito web ha richiesto pochissime conoscenze tecniche e, con lo stesso strumento, Sophos X-Ops è riuscita in pochi minuti a creare centinaia di siti simili semplicemente premendo un pulsante.
«È naturale – e prevedibile – che i criminali sfruttino le nuove tecnologie per automatizzare le loro attività. Tuttavia, uno dei motivi che ci hanno spinto a effettuare questa ricerca è quello di restare un passo avanti rispetto ai cybercriminali», ha dichiarato Ben Gelman di Sophos.
Per capire cosa pensano i cybercriminali dell’Ia, Sophos X-Ops ha esaminato quattro importanti forum del dark web alla ricerca di conversazioni inerenti i modelli Llm. Sebbene il ricorso all’Intelligenza Artificiale da parte dei cybercriminali sia solo agli inizi, all'interno del dark web si discute sulle potenzialità di questa tecnologia ai fini del social engineering e gli esperti di Sophos hanno già verificato l'impiego di Ia nelle criptotruffe a sfondo romantico. La Divisione X-Ops ha inoltre scoperto che la maggioranza dei post riguardava la vendita di account ChatGpt compromessi e dei cosiddetti “jailbreak” – sistemi che permettono di aggirare le protezioni integrate negli Llm in modo da poterli sfruttare per obiettivi illeciti. Sophos ha trovato anche dieci derivati da ChatGpt che, secondo i relativi autori, possono essere usati per lanciare cyberattacchi e sviluppare malware. Le reazioni di fronte a questi tool e ad altre applicazioni illecite degli Llm non sono univoche: molti criminali temono addirittura che gli autori di queste imitazioni di ChatGpt stiano tentando a loro volta di truffarli.
«Per quanto dal lancio di ChatGpt vi siano state notevoli preoccupazioni sul possibile abuso dell’Ia da parte dei cybercriminali, la nostra ricerca ha rilevato che per ora nell'underground circola più scetticismo che entusiasmo. Abbiamo visto che alcuni cybercriminali hanno provato a creare malware o tool di attacco mediante Llm, ma i risultati sono stati alquanto rudimentali e spesso accolti con scetticismo dagli altri utenti. In un caso, un cybercriminale deciso a dimostrare le potenzialità di ChatGpt ha rivelato inavvertitamente informazioni significative sulla sua reale identità. In altre parole, almeno per ora, pare che i dibattiti sugli Llm in corso tra cybercriminali siano gli stessi di chiunque altro», ha commentato Christopher Budd di Sophos.
