L’anno scorso hacker nordcoreani hanno rubato 2 miliardi di dollari in criptovalute, il triplo dell’importo registrato due anni prima, secondo la società di ricerca Chainalysis. Anche l’FBI ha attribuito alla Corea del Nord un furto di 6,3 miliardi di dollari da Binance, avvenuto il 29 ottobre, anche se non è ancora chiaro come sia stata portata a termine la violazione. Binance ha dichiarato che gli hacker hanno ottenuto l’accesso tramite il laptop di un ingegnere.

L’intelligenza artificiale offre ai criminali informatici nuove capacità, tra cui la produzione su larga scala di malware, la realizzazione di sofisticate campagne di phishing e la ricerca di punti deboli nel codice dei software. La minaccia crescente sta creando anche una potenziale opportunità commerciale per le aziende di IA che vogliono vendere strumenti di sicurezza alle grandi organizzazioni.

Sarah Friar, direttrice finanziaria di OpenAI, ha dichiarato di aspettarsi che la cybersicurezza diventi un’attività importante per l’azienda nei prossimi due anni. Di recente OpenAI ha assunto un dirigente di Wiz, la società di cybersicurezza di proprietà di Google, per contribuire a vendere i suoi software alle grandi organizzazioni. Anthropic, invece, ha definito la cybersicurezza una delle sue opportunità più importanti nel breve termine, nei documenti depositati in vista di una prevista quotazione in borsa.

L’interesse delle aziende è stato accompagnato da nuovi prodotti e da un accesso limitato ai modelli avanzati. Ad aprile, Anthropic ha scelto di non rendere pubblico il suo modello Mythos, mettendolo invece a disposizione di alcune aziende di software e istituzioni finanziarie selezionate per aiutarle a individuare i punti deboli delle loro difese. Anche OpenAI ha presentato una propria offerta di sicurezza; la sua tecnologia è stata recentemente utilizzata per individuare vulnerabilità in PHP, un linguaggio di programmazione usato in gran parte di internet.

Secondo IDC, l’anno scorso la spesa per i software di cybersicurezza ha raggiunto i 150 miliardi di dollari. Greg Brockman, cofondatore di OpenAI, ha previsto che, alla fine, la spesa del settore supererà di gran lunga quella destinata ad altri tipi di software. Di recente la società di venture capital Andreessen Horowitz ha consigliato alle aziende in cui investe di valutare il raddoppio dei budget per la cybersicurezza, mentre Goldman Sachs ha aumentato notevolmente la quota del proprio budget per l’IA destinata alla cybersicurezza, secondo persone a conoscenza della decisione.

La ricerca di vulnerabilità nei software sembra particolarmente adatta ai modelli di IA perché, come la programmazione, è un ambito in cui le risposte possono essere verificate, ha dichiarato Nazneen Rajani, amministratrice delegata della società di valutazione dei modelli Collinear AI. Tuttavia, finora i modelli sono stati più bravi a individuare i punti deboli che a stabilire quali siano prioritari e a correggerli, secondo Bobby Kuzma di IDC.

Le prestazioni potrebbero essere in miglioramento. A settembre Collinear AI ha lanciato un test di cybersicurezza che valutava la capacità dei modelli di individuare e correggere le vulnerabilità. All’epoca, il prodotto migliore di Anthropic completava meno della metà delle attività; il mese scorso un nuovo modello di Google ha ottenuto un punteggio del 71%.

Anche se la tecnologia progredisce, i laboratori di IA potrebbero avere difficoltà a convincere le aziende a cambiare il modo in cui acquistano i servizi di cybersicurezza. Di norma, le imprese si affidano a strumenti di diversi fornitori, oltre che a società di consulenza informatica che ne supportano l’implementazione. OpenAI e Anthropic propongono invece che i loro bot analizzino l’intera base di codice di un’organizzazione e correggano le vulnerabilità man mano che vengono individuate.

Il mercato si sta consolidando intorno a piattaforme più ampie offerte da fornitori indipendenti come Palo Alto Networks e da colossi del cloud computing come Microsoft. Queste aziende affermate forniscono anche strumenti per attività in cui i modelli di IA sono attualmente meno utili, tra cui la gestione degli accessi ai sistemi e la risposta alle violazioni. Da anni costruiscono rapporti di fiducia con i clienti, mentre i principali laboratori di IA hanno dovuto affrontare dubbi sulla loro capacità di controllare i propri sistemi, tra cui un incidente avvenuto a luglio, quando un sistema di OpenAI ha effettuato un accesso a Hugging Face senza aver ricevuto istruzioni in tal senso.

Alcuni professionisti della cybersicurezza dubitano che gli sviluppatori di modelli di IA riescano a costruire le relazioni necessarie per diventare fornitori di primo piano. Una possibile strada, suggeriscono, è distribuire la tecnologia tramite terze parti e incoraggiare le aziende a usare modelli di IA per riscrivere il codice in modo sicuro partendo da zero.

Fonti: Folha Mercado.