ChatGPT può rivoluzionare la sicurezza informatica

efks - stock.adobe.com

Insieme all’apprendimento automatico (ML), l’intelligenza artificiale (AI) rappresenta sia la risposta a molte sfide di sicurezza informatica, sia il futuro distopico presentato da tutti i migliori film e libri di fantascienza apocalittici.

Al di là dell’inclusione dell’intelligenza artificiale nelle presentazioni di molti fornitori come un modo per posizionare la tecnologia di prossima generazione e un approccio più avanzato e automatizzato alla tecnologia, sta diventando un concetto sempre più diffuso. Alla fine del 2022, ha fatto irruzione nella consapevolezza del pubblico in un modo completamente nuovo con il lancio di ChatGPT, parte della piattaforma OpenAI che consente il dialogo conversazionale per rispondere a domande, impegnarsi in un dialogo e fornire risposte dettagliate.

Questo passo avanti rispetto a una glorificata query di Google ha acceso l'immaginazione, con la consapevolezza degli studenti che cercano risposte rapide ai saggi senza la frustrante necessità di leggere effettivamente i materiali originali in prima linea, seguiti dagli insegnanti che cercano di automatizzare in modo simile la correzione.

Chi ha sofferto per mano di un chatbot su un sito web cercando di ottenere aiuto o una risposta a una domanda un po' complessa, ha visto la speranza anche nella possibilità di un risultato più positivo quando ha parlato con un computer. Senza dubbio, ha aperto un mondo di potenzialità affinché l’intelligenza artificiale possa influenzare il modo in cui interagiamo quotidianamente con la tecnologia come individui, piuttosto che semplicemente una misteriosa scatola nera che alimenta i sistemi, dalle previsioni meteorologiche ai razzi spaziali.

Inevitabilmente, anche il potenziale impatto sulla sicurezza informatica diventa rapidamente un argomento di conversazione chiave, da entrambe le parti. Per gli aggressori, c'è stata immediatamente la possibilità di trasformare testi di phishing di base, spesso infantili, in strutture più professionali, insieme alla possibilità di automatizzare il coinvolgimento di più potenziali vittime che cercano di trovare una via d'uscita dalla trappola del ransomware in cui sono caduti.

Per i difensori, questo potrebbe anche offrire la possibilità di rivoluzionare processi, come la verifica del codice o il miglioramento della formazione sul phishing? È in una fase molto iniziale e certamente presenta una serie di difetti (non ultimo il modo in cui si inganna il sistema per produrre risposte dannose nonostante le protezioni integrate), ma ha ampliato il dibattito su come l'intelligenza artificiale può cambiare il settore della sicurezza informatica. .

Essendo un nuovo strumento, ChatGPT è divertente con cui giocare e, come afferma Dave Barnett, responsabile del Secure Access Service Edge (SASE) e della sicurezza e-mail per Europa, Medio Oriente e Africa (EMEA) presso Cloudflare: "È uno strumento spaventosamente buono" system: chiunque abbia chiesto a ChatGPL di spiegare qualche oscuro concetto tecnico sotto forma di poesia si renderà conto di quanto sia potente."

Tuttavia, Barnett evidenzia le gravi preoccupazioni che sono emerse. "Penso che l'istituzione della sicurezza informatica debba prendersi un po' di tempo per considerare le implicazioni: in primo luogo, che una volta era abbastanza facile capire quando venivamo ingannati dalle truffe 419, dagli SMS con pagamento di consegna o dalla compromissione della posta elettronica aziendale, poiché sembravano tutti falsi agli umani," dice.

"L'intelligenza sintetica potrebbe ingannarci? Dobbiamo anche prestare molta attenzione ai rischi legati alla protezione dei dati, ad esempio dove vanno a finire e chi sono il responsabile del trattamento e il responsabile del trattamento. Gli esseri umani sono naturalmente curiosi, quindi se iniziamo a parlare ai computer come se "siamo umani, è molto probabile che condividiamo informazioni che probabilmente non dovremmo. Infine, potrebbe essere questo un modo per affrontare la carenza di competenze nel settore IT? Se OpenAI può anche scrivere codice in un linguaggio dimenticato da tempo, probabilmente sarà di grande aiuto grande aiuto."

Per Ronnie Tokazowski, principale consulente sulle minacce presso Cofense, la possibilità di essere creativi con la piattaforma era da sfruttare, poiché "creare testi rap generati dall'intelligenza artificiale sulla pace nel mondo e sulle rivelazioni sugli UFO è divertente e sfacciato, tuttavia è possibile ingannare l'intelligenza artificiale". nel fornire le informazioni che stai cercando".

Garantire la presenza di misure di sicurezza è essenziale per qualsiasi build di applicazioni e la sicurezza fin dalla progettazione per l'intelligenza artificiale rispetto a un semplice wrapper di sicurezza post-build sarà sempre l'opzione preferita. Questo è chiaramente l'obiettivo degli sviluppatori, poiché "l'intento dell'IA è buono e non vuole creare simulazioni di phishing", ma chiedere in più modi (come rimuovere la parola phish) non riesce ancora a generare una risposta positiva. Tuttavia, essere creativi ha prodotto risultati.