Los desafíos de la sociedad ante el avance de la inteligencia artificial son una de las preocupaciones digitales más importantes de usuarios y empresas para el próximo año. La importancia de la transparencia y explicabilidad de los sistemas de IA a la hora de crear contenidos o gestionar datos personales será clave a corto plazo para delimitar la seguridad tanto del propio sistema digital como de las aplicaciones prácticas de esta nueva tecnología.
Cada vez son más países los que piden un sistema de gestión analítico y un control de los procesos que impidan un abuso y una excesiva independencia de estas inteligencias digitales. Mientras que el aprendizaje automático desarrolla el reconocimiento de patrones o la capacidad de aprender continuamente para realizar predicciones basadas en datos puede tener un cierto margen de gestión por parte de los programadores, el avance de las redes neuronales complica esa dependencia de la máquina hacia el hombre, convirtiendo los procesos informáticos en un desarrollo cognitivo cercano al del ser humano.
La información que proporcionan las IA puede tener sesgos, no ser precisa o incluso correcta. Pueden ser utilizadas para generar contenido falso o desinformación de manera rápida y convincente. Pueden crear noticias falsas, artículos o videos que aparenten ser reales, lo que dificulta que las personas distingan entre información verdadera y falsa. En ocasiones, las decisiones tomadas por la IA pueden ser lógicas, pero carecer de una perspectiva ética, por lo que la supervisión humana se antoja imprescindible en la toma de las decisiones más importantes, mientras que la eficiencia de la IA en los procesos rutinarios es tremendamente eficaz y apenas necesita una vigilancia externa.
