OpenAI está dispuesta a ralentizar el desarrollo de sus modelos más avanzados si los riesgos de seguridad lo hacen necesario. Así se lo ha trasladado Sam Altman, CEO de la compañía, a sus empleados durante una reunión interna.
No se trata, al menos por ahora, de un anuncio de pausa ni de un cambio en el calendario de lanzamiento de sus próximos modelos. Lo que contempla Altman es que avanzar más despacio puede ser necesario para mantener bajo control los riesgos asociados a una IA cada vez más potente.
La seguridad empieza a pesar en la carrera de la IA
Las advertencias dentro de la propia industria tecnológica se han intensificado en los últimos días. El jefe científico de OpenAI, Jakub Pachocki, ha reclamado una mayor cautela ante el desarrollo de sistemas cada vez más capaces y ha señalado los problemas que todavía existen para garantizar que estos modelos permanezcan bajo control.
La cuestión adquiere especial relevancia a medida que la inteligencia artificial deja de limitarse a responder preguntas o generar contenidos y comienza a ejecutar tareas complejas, utilizar herramientas, escribir código o trabajar durante periodos prolongados con una autonomía creciente.
El temor de los investigadores es que la capacidad de los modelos pueda avanzar más rápido que las herramientas diseñadas para supervisarlos y limitar sus comportamientos.
Hasta ahora, la lógica de Silicon Valley ha sido prácticamente la contraria. Desarrollar primero, aumentar las capacidades y tratar de resolver los problemas de seguridad a medida que aparecen. Las palabras de Altman sugieren que esa estrategia podría tener un límite.
Anthropic eleva todavía más la preocupación
El debate se ha intensificado también por las revelaciones de Anthropic. La compañía asegura que sus sistemas de IA detectaron y bloquearon varios intentos de utilización de sus modelos en investigaciones que podían facilitar el desarrollo de armas biológicas.
Anthropic afirma que no pudo determinar con certeza si existía una intención maliciosa detrás de esos casos, pero consideró que el riesgo era suficientemente elevado como para intervenir.
El episodio sirve para ilustrar uno de los grandes dilemas de la nueva generación de inteligencia artificial. Los mismos modelos capaces de acelerar avances científicos pueden convertirse también en herramientas para actividades potencialmente peligrosas. Y ese problema no se resuelve únicamente con más potencia informática.
Washington también presiona a las tecnológicas
La presión ya ha llegado al Congreso de Estados Unidos. Varios legisladores han reclamado nuevas reglas para la inteligencia artificial después de las advertencias realizadas por investigadores especializados en seguridad.
OpenAI, además, ha defendido en las últimas semanas una mayor intervención regulatoria en determinados ámbitos, con mecanismos como auditorías independientes, controles de ciberseguridad y la obligación de comunicar determinados incidentes.
Es un cambio relevante para una industria que durante años ha defendido, en buena medida, la autorregulación.
Frenar también tiene un coste económico
Pero ralentizar la inteligencia artificial no es una decisión sencilla. OpenAI compite en un mercado en el que también están Anthropic, Google, Microsoft y otros gigantes tecnológicos. Cada avance en capacidad puede traducirse en ventaja tecnológica, clientes, ingresos y valoración empresarial.
Por eso, el verdadero dilema para OpenAI no es simplemente acelerar o frenar. La compañía tiene que decidir cuánto riesgo está dispuesta a asumir para mantener el ritmo de una carrera tecnológica que mueve miles de millones de dólares y que puede redefinir sectores enteros de la economía.
Las palabras de Sam Altman no significan que OpenAI vaya a detener el desarrollo de la IA. Pero sí dejan una idea encima de la mesa que hace apenas unos años habría parecido casi impensable: que en algún momento la compañía pueda considerar que avanzar más despacio es más importante que avanzar más rápido.