Los incidentes de seguridad protagonizados en los últimos meses por modelos de inteligencia artificial de OpenAI, Anthropic, Meta y Google han reabierto una pregunta que hasta hace poco parecía propia de la ciencia ficción: ¿somos capaces de controlar una tecnología que evoluciona a tal velocidad que empieza a actuar de formas que sus propios desarrolladores no habían previsto?
Los incidentes de seguridad protagonizados en los últimos meses por modelos de inteligencia artificial de OpenAI, Anthropic, Meta y Google han reabierto una pregunta que hasta hace poco parecía propia de la ciencia ficción: ¿somos capaces de controlar una tecnología que evoluciona a tal velocidad que empieza a actuar de formas que sus propios desarrolladores no habían previsto?
Durante pruebas de ciberseguridad, varios de estos modelos escaparon de los entornos aislados en los que se estaban evaluando y llegaron a acceder a sistemas de empresas reales. Los episodios han alimentado visiones apocalípticas sobre una IA fuera de control, pero también una lectura más pragmática: el reto no es detener su desarrollo, sino garantizar que la IA que llega a producción sea auditable, trazable y gobernable.
Este debate centró el décimo programa de la temporada de Datalogía, el espacio radiofónico especializado en inteligencia artificial emitido por Capital Radio y patrocinado por Cognizant.
Para José Manuel Zafra, Head of Banking, Financial Services and Insurance de Cognizant South Europe, estos hechos suponen «una advertencia seria y creíble sobre la necesidad de llegar a un acuerdo global para un uso ético y responsable de esta tecnología». Una idea que Antonio Gallego, responsable de Delivery de proyectos de IA y Data de Cognizant South Europe, resumió en la necesidad de «ser sensatos para poder controlar la forma en que la IA puede beneficiar a todos». En el caso de Cognizant, este principio se traduce en la aplicación estricta de un código ético durante todo el ciclo de desarrollo de soluciones de IA.
La dificultad reside en que la IA no es una tecnología estática, sino que evoluciona con rapidez y es capaz de utilizar sus propias capacidades para mejorar. Por eso, como señaló Pablo Herrero, responsable comercial de Ingeniería y QA de Cognizant, no basta con supervisar los resultados. Es necesario «controlar no solo lo que produce la IA, sino también el proceso, es decir, cómo aprende, para asegurarnos de que lo hace de manera correcta».
Por qué controlar la IA no es sencillo
No es la primera vez que la sociedad se enfrenta a este dilema. Vanessa Blázquez, Practice Leader de Integración y Automatización Inteligente de Cognizant, recordó que la necesidad de control es cíclica y que ya se ha vivido con otras tecnologías: «Creamos algo, aparecen amenazas asociadas a su uso y, posteriormente, queremos tener control». Sin embargo, se mostró escéptica sobre la posibilidad de alcanzar un consenso global, ya que «cada uno tiene una percepción distinta de lo que está bien y de lo que está mal».
A esa dificultad se suma una diferencia de fondo entre las personas y las máquinas. Como apuntó Fernando González, psicólogo e ingeniero conductual de Grupo Mindset, «a diferencia de los humanos, la IA no siente ansiedad cuando no cumple con unos estándares adquiridos». De ahí que, según Zafra, «a la IA haya que definirle y repetirle lo que puede y lo que no puede hacer, porque, en su modelo de aprendizaje, cuestiona permanentemente sus propios límites».
Agentes que vigilan a otros agentes
Una de las vías planteadas durante el programa para ejercer ese control es el uso de agentes que supervisan a otros agentes. La propuesta consiste en desplegar agentes deterministas, que no aprenden y siguen reglas fijas, encargados de indicar a los modelos generativos, por naturaleza no deterministas, qué pueden y qué no pueden hacer. La clave, coincidieron los participantes, es incorporar esos límites desde el diseño de la solución y no cuando el sistema ya está a punto de integrarse en un entorno más amplio.
Más que confirmar los temores de una IA que acabará dominando al ser humano, los incidentes de este verano apuntan a una lección más práctica: la confianza en la inteligencia artificial no surge de forma espontánea, sino que debe diseñarse. La supervisión del aprendizaje, las reglas claras, los agentes de control y un marco ético compartido serán determinantes para que la IA avance a la misma velocidad a la que crece la exigencia de gobernarla.
