La inteligencia artificial representa "un tsunami, un efecto disruptivo casi comparable a lo que en su momento fue la aparición de Internet", afirma Rafael Miranda, Digital Trust Certification Manager en SGS. El experto en seguridad de la información identifica los riesgos más críticos que deben gestionarse en la implementación de esta tecnología.
Escucha el programa al completo aquí:
Riesgos prioritarios: sesgos y discriminación
El principal peligro es "el riesgo asociado a la introducción de un sesgo que pueda repercutir en una discriminación de determinadas personas o grupos sociales". Miranda explica que estos sesgos pueden originarse tanto en los datos de entrenamiento como en el diseño del algoritmo, y destaca que "no basta simplemente con diseñar un algoritmo justo, equitativo o transparente, sino que es obligatorio realizar un seguimiento continuo".
Otro riesgo importante es la desinformación, pues "si utilizamos datos o modelos de inteligencia artificial erróneos podemos llegar a generar estados de opinión o conclusiones que produzcan desinformación" o incluso manipulación.
El nuevo marco regulatorio europeo
El Parlamento Europeo ha desarrollado un reglamento de inteligencia artificial que establece principios para un uso responsable, y clasifica las aplicaciones según su nivel de riesgo. "Identifica una serie de modelos o usos inaceptables que están absolutamente prohibidos", como la manipulación de personas o la puntuación social de individuos.
También define usos de "riesgo alto" en sectores sensibles como educación o infraestructuras críticas, que exigen requisitos estrictos; aplicaciones de "riesgo limitado" que requieren principalmente transparencia; y usos de "riesgo limitado o nulo" como los chatbots generales.
Consejos para una implementación segura
"Por encima del 80% de las grandes empresas de nuestro país ya están utilizando modelos de inteligencia artificial", pero "solo por debajo del 25% reconocen haber dado formación suficiente a sus empleados", señala Miranda.
Para implementar la IA de forma responsable, recomienda "definir muy claramente los objetivos", realizar una "evaluación de riesgos" y un "análisis de impacto tanto en las personas como en los grupos sociales que se puedan ver afectados". También destaca la importancia de seleccionar datos de calidad y garantizar la seguridad de la información.