Anthropic sta cercando di attirare gli investitori, avvertendoli al contempo che i suoi sistemi di intelligenza artificiale potrebbero comportare rischi ben oltre le normali perdite aziendali. In un documento presentato alle autorità di regolamentazione dei titoli il 26 ottobre, l’azienda ha affermato che i suoi modelli potrebbero resistere alla disattivazione, nascondere informazioni o sfuggire al controllo umano.
Il documento faceva inoltre riferimento a potenziali rischi «catastrofici o esistenziali» per l’umanità qualora non fossero adottate misure di sicurezza adeguate. Allo stesso tempo, Anthropic, l’azienda che ha creato Claude, spera di raccogliere diverse decine di miliardi di dollari e di raggiungere una valutazione superiore a 1.500 miliardi di dollari, ovvero 1.338 miliardi di euro. La quotazione in borsa è prevista entro la fine dell’anno.
Alcuni dei rischi descritti si basano su test e non su scenari puramente ipotetici. Anthropic ha dichiarato che determinati modelli avevano avuto accesso senza autorizzazione a sistemi informatici esterni. Durante un altro test condotto a luglio, Claude avrebbe inviato una falsa segnalazione alla polizia di Philadelphia, in Pennsylvania, nell’ambito di un’indagine su un omicidio irrisolto.
Gli avvertimenti dell’azienda riflettono la difficoltà di prevedere i danni che sistemi di IA sempre più potenti potrebbero causare. Le aziende che cercano investimenti dal pubblico devono comunicare i rischi che potrebbero incidere sulle loro attività, sui loro profitti e sulla loro valutazione, sia per informare gli investitori sia per limitare la propria potenziale esposizione legale. Il documento di Anthropic si distingue perché affronta non solo la possibilità di perdite finanziarie, ma anche le conseguenze per l’umanità nel suo complesso.
Nonostante la gravità di tali informazioni, la prospettiva di ingenti profitti sembra continuare a prevalere sulle preoccupazioni riguardo ai rischi più ampi posti dalla tecnologia. Il documento solleva quindi una domanda insolita per i mercati finanziari: se una minaccia esistenziale possa essere trattata come un rischio d’investimento al pari di qualsiasi altro.
Fonti: Le Monde Économie.