Sam Altman, CEO de OpenAI, y Dario Amodei, máximo responsable de Anthropic, han comparecido ante el Consejo de Seguridad de Naciones Unidas para advertir de los peligros que puede generar una tecnología que avanza a una velocidad muy superior a la capacidad de los gobiernos para establecer controles.
Y el mensaje resulta especialmente llamativo porque no procede de críticos de la industria. Lo han pronunciado dos de los ejecutivos que están liderando la carrera mundial por construir los modelos de inteligencia artificial más avanzados.
Altman: la IA puede avanzar más rápido que los gobiernos
Altman ha planteado ante la ONU la disyuntiva de que la inteligencia artificial puede convertirse en una nueva era de descubrimientos y productividad, pero también generar desorden, concentración de poder y pérdida de control humano.
El CEO de OpenAI ha puesto el foco en uno de los grandes desafíos de los próximos años: sistemas cada vez más autónomos capaces de mejorar sus propias capacidades y tomar decisiones a una velocidad que las instituciones difícilmente podrían seguir.
Su advertencia tiene además una dimensión política. Altman defiende que, si la IA quiere desarrollarse dentro de sociedades democráticas, las decisiones fundamentales sobre esta tecnología no pueden quedar exclusivamente en manos de las grandes compañías tecnológicas.
La gobernanza, sostiene, debe involucrar a los gobiernos y a instituciones sometidas a procesos democráticos.
Amodei reclama controles internacionales
Dario Amodei ha sido todavía más explícito sobre los riesgos. El CEO de Anthropic afirma que, si la inteligencia artificial se gestiona mal, puede convertirse en un riesgo para la humanidad en su conjunto.
Su propuesta pasa por una mayor coordinación internacional. Entre las medidas planteadas se encuentran estándares comunes para evaluar los nuevos modelos, sistemas de verificación de sus mecanismos de seguridad y un sistema internacional para compartir información sobre incidentes y riesgos.
Amodei también defiende un acuerdo internacional que impida utilizar la inteligencia artificial para desarrollar armas biológicas.
