Des pirates nord-coréens ont dérobé 2 milliards de dollars en cryptomonnaies l’année dernière, soit trois fois le montant enregistré deux ans auparavant, selon la société d’études Chainalysis. Le FBI a également imputé à la Corée du Nord un vol de 6,3 milliards de dollars sur Binance, le 29 octobre, même si les détails de l’attaque restent flous. Binance a déclaré que les pirates avaient obtenu un accès par l’intermédiaire de l’ordinateur portable d’un ingénieur.

L’intelligence artificielle donne aux cybercriminels de nouvelles capacités, notamment la production de logiciels malveillants à grande échelle, le lancement de campagnes d’hameçonnage sophistiquées et la recherche de failles dans le code des logiciels. La menace croissante crée aussi une occasion commerciale potentielle pour les entreprises d’IA qui cherchent à vendre des outils de sécurité aux grandes organisations.

Sarah Friar, directrice financière d’OpenAI, a déclaré s’attendre à ce que la cybersécurité devienne une activité majeure pour l’entreprise au cours des deux prochaines années. OpenAI a récemment recruté un cadre de Wiz, l’entreprise de cybersécurité détenue par Google, pour l’aider à vendre ses logiciels aux grandes organisations. Anthropic, de son côté, a qualifié la cybersécurité de l’une de ses principales perspectives à court terme dans des documents déposés avant une introduction en Bourse envisagée.

L’intérêt des entreprises s’est accompagné de nouveaux produits et d’un accès restreint à des modèles avancés. En avril, Anthropic a choisi de ne pas rendre son modèle Mythos accessible au public. L’entreprise l’a plutôt mis à la disposition de certaines sociétés de logiciels et institutions financières afin de les aider à repérer les faiblesses de leurs défenses. OpenAI a également lancé sa propre offre de sécurité ; sa technologie a récemment été utilisée pour identifier des vulnérabilités dans PHP, un langage de programmation employé dans une grande partie d’Internet.

Les dépenses consacrées aux logiciels de cybersécurité ont atteint 150 milliards de dollars l’année dernière, selon IDC. Greg Brockman, cofondateur d’OpenAI, a prédit que les dépenses de ce secteur finiraient par dépasser de très loin celles consacrées aux autres types de logiciels. Andreessen Horowitz, société de capital-risque, a récemment conseillé aux entreprises qu’elle soutient d’envisager de doubler leur budget de cybersécurité, tandis que Goldman Sachs a considérablement augmenté la part de son budget consacré à l’IA allouée à la cybersécurité, selon des personnes au fait de cette décision.

La recherche de vulnérabilités dans les logiciels semble particulièrement adaptée aux modèles d’IA, car, comme la programmation, c’est un domaine où les réponses peuvent être vérifiées, a déclaré Nazneen Rajani, directrice générale de Collinear AI, une société d’évaluation de modèles. Mais, jusqu’à présent, les modèles se sont montrés plus efficaces pour repérer les failles que pour les classer par ordre de priorité et les corriger, selon Bobby Kuzma, d’IDC.

Les performances pourraient s’améliorer. Collinear AI a lancé en septembre un test de cybersécurité évaluant la capacité des modèles à repérer et à réparer des vulnérabilités. À l’époque, le meilleur produit d’Anthropic a réussi moins de la moitié des tâches ; le mois dernier, un nouveau modèle de Google a obtenu un score de 71 %.

Même si la technologie progresse, les laboratoires d’IA pourraient avoir du mal à convaincre les entreprises de changer leur façon d’acheter des services de cybersécurité. Les entreprises s’appuient généralement sur des outils de plusieurs fournisseurs, ainsi que sur des sociétés de conseil en informatique qui les aident à les mettre en œuvre. OpenAI et Anthropic proposent plutôt que leurs agents analysent l’ensemble du code d’une organisation et corrigent les vulnérabilités à mesure qu’elles sont découvertes.

Le marché s’est consolidé autour de plateformes plus complètes proposées par des fournisseurs indépendants tels que Palo Alto Networks et des géants de l’informatique en nuage tels que Microsoft. Ces entreprises établies fournissent également des outils pour des tâches où les modèles d’IA sont actuellement moins utiles, notamment la gestion des accès aux systèmes et la réponse aux intrusions. Elles ont passé des années à bâtir des relations de confiance avec leurs clients, tandis que les principaux laboratoires d’IA ont dû répondre à des questions sur leur capacité à contrôler leurs propres systèmes, notamment après un incident survenu en juillet, au cours duquel un système d’OpenAI a accédé à Hugging Face sans en avoir reçu l’instruction.

Certains professionnels de la cybersécurité doutent que les développeurs de modèles d’IA puissent nouer les relations nécessaires pour devenir des fournisseurs de premier plan. Selon eux, l’une des voies possibles consisterait à distribuer la technologie par l’intermédiaire de tiers et à encourager les entreprises à utiliser des modèles d’IA pour réécrire leur code de façon sécurisée, depuis la base.

Sources: Folha Mercado.