El año pasado, piratas informáticos norcoreanos robaron 2.000 millones de dólares en criptomonedas, tres veces la cantidad registrada dos años antes, según la firma de investigación Chainalysis. El FBI también responsabilizó a Corea del Norte del robo de 6.300 millones de dólares a Binance el 29 de octubre, aunque los detalles de cómo se llevó a cabo la intrusión siguen sin estar claros. Binance afirmó que los piratas informáticos accedieron a través del portátil de un ingeniero.

La inteligencia artificial está dotando a los ciberdelincuentes de nuevas capacidades, como producir malware a gran escala, ejecutar sofisticadas campañas de phishing y buscar vulnerabilidades en el código de software. La creciente amenaza también está creando una posible oportunidad de negocio para las empresas de IA que buscan vender herramientas de seguridad a grandes organizaciones.

La directora financiera de OpenAI, Sarah Friar, ha dicho que espera que la ciberseguridad se convierta en un negocio importante para la empresa durante los próximos dos años. OpenAI contrató recientemente a un ejecutivo de Wiz, la firma de ciberseguridad propiedad de Google, para ayudar a vender su software a grandes organizaciones. Anthropic, por su parte, calificó la ciberseguridad como una de sus oportunidades más importantes a corto plazo en documentos presentados antes de una prevista salida a bolsa.

El interés de las empresas ha venido acompañado de nuevos productos y de acceso restringido a modelos avanzados. En abril, Anthropic optó por no lanzar públicamente su modelo Mythos; en su lugar, lo puso a disposición de determinadas empresas de software e instituciones financieras para ayudarlas a encontrar puntos débiles en sus defensas. OpenAI también ha presentado su propia oferta de seguridad; su tecnología se utilizó recientemente para identificar vulnerabilidades en PHP, un lenguaje de programación empleado en gran parte de internet.

El gasto en software de ciberseguridad alcanzó los 150.000 millones de dólares el año pasado, según IDC. Greg Brockman, cofundador de OpenAI, ha pronosticado que, con el tiempo, el gasto en este sector superará con creces el gasto en otros tipos de software. La firma de capital riesgo Andreessen Horowitz recomendó recientemente a las empresas en las que invierte que consideren duplicar sus presupuestos de ciberseguridad, mientras que Goldman Sachs ha aumentado sustancialmente la proporción de su presupuesto de IA destinada a la ciberseguridad, según personas familiarizadas con la decisión.

La búsqueda de vulnerabilidades de software parece muy adecuada para los modelos de IA porque, al igual que la programación, es un ámbito en el que se pueden comprobar las respuestas, afirmó Nazneen Rajani, directora ejecutiva de Collinear AI, una firma de evaluación de modelos. Sin embargo, hasta ahora los modelos han sido mejores para encontrar vulnerabilidades que para priorizarlas y corregirlas, según Bobby Kuzma, de IDC.

Es posible que el rendimiento esté mejorando. En septiembre, Collinear AI lanzó una prueba de ciberseguridad que evaluaba la capacidad de los modelos para encontrar y reparar vulnerabilidades. En aquel momento, el producto más avanzado de Anthropic completó menos de la mitad de las tareas; un nuevo modelo de Google obtuvo un 71 % el mes pasado.

Aunque la tecnología avance, los laboratorios de IA podrían tener dificultades para convencer a las empresas de que cambien la forma en que contratan servicios de ciberseguridad. Las empresas suelen depender de herramientas de varios proveedores, además de consultoras de TI que ayudan a implementarlas. OpenAI y Anthropic, en cambio, proponen que sus bots analicen toda la base de código de una organización y corrijan las vulnerabilidades a medida que las encuentren.

El mercado se ha ido consolidando en torno a plataformas más amplias ofrecidas por proveedores independientes como Palo Alto Networks y gigantes de la computación en la nube como Microsoft. Estas empresas consolidadas también ofrecen herramientas para tareas en las que actualmente los modelos de IA son menos útiles, como controlar el acceso a los sistemas y responder a las intrusiones. Han dedicado años a construir relaciones de confianza con sus clientes, mientras que los principales laboratorios de IA han tenido que hacer frente a preguntas sobre su capacidad para controlar sus propios sistemas, incluido un incidente ocurrido en julio en el que un sistema de OpenAI accedió a Hugging Face sin que se le hubiera indicado que lo hiciera.

Algunos profesionales de la ciberseguridad dudan de que los desarrolladores de modelos de IA puedan establecer las relaciones necesarias para convertirse en proveedores líderes. Una posible vía, sugieren, es distribuir la tecnología a través de terceros y animar a las empresas a utilizar modelos de IA para reescribir el código de forma segura desde cero.

Fuentes: Folha Mercado.