Expertos ante el peligro de la IA: “Ni alarmismo, ni indiferencia”

Las advertencias de las principales empresas desarrolladoras sobre los peligros potenciales de la inteligencia artificial (IA) tuvieron gran repercusión y provocaron cierta preocupación. En este escenario, varios expertos creen que hay que abordar la cuestión pero “no caer ni en el alarmismo ni en la indiferencia”. Así lo defiende la cofundadora y co-consejera delegada de la escuela online europea de formación en inteligencia artificial, Founderz, Anna Cejudo, mientras que el profesor de IA en la Universidad Pontificia Comillas Jaime Pizarroso considera “especialmente importante” separar lo que se sabe de lo que se está proyectando.

El profesor sostiene que los sistemas actuales “no tienen las capacidades necesarias para provocar un escenario de pérdida de control de ese tipo” y añade que para que ocurriera “sería necesario combinar capacidades de planificación a muy largo plazo, autonomía sostenida, capacidad de evitar mecanismos de supervisión, acceso a recursos y capacidad para impedir que los seres humanos recuperasen el control. Hoy no tenemos sistemas que puedan hacer todo eso de manera robusta en entornos reales”, asegura Pizarroso.

Riesgos a largo plazo

En la misma línea, Anna Cejudo cree importante diferenciar los riesgos actuales de los riesgos potenciales a largo plazo. “Hoy no estamos ante sistemas capaces de actuar de forma autónoma hasta el punto de escapar al control humano”, indica la experta, que agrega que “los riesgos más relevantes y demostrables siguen estando relacionados con errores, desinformación, sesgos, privacidad o usos maliciosos de la tecnología”. Algunas compañías tecnológicas retrasaron lanzamientos o reforzado sus protocolos de seguridad, algo que, para Jaime Pizarroso, “forma parte en buena medida de la maduración normal de una tecnología que evoluciona muy rápido”. El profesor indica que al desplegar sistemas a gran escala “aparecen problemas que antes no eran evidentes”. Pero también existe presión competitiva por lanzar productos rápidamente, por lo que no deberíamos depender únicamente de la autorregulación de las empresas”, avisa.

Jaime Pizarroso añade a esta cuestión otras incógnitas: “¿Quieren una regulación porque se preocupan por los peligros de la tecnología o porque solo los laboratorios grandes se podrán permitir una investigación de sus modelos que no interrumpa los flujos de trabajo que nuevos competidores pequeños no podrán sostener?”.

Anna Cejudo también opina que los retrasos en los lanzamientos “forman parte de la maduración normal de una tecnología que está avanzando a gran velocidad”. En cuanto a si las normas y la supervisión actuales son suficientes para proteger a ciudadanos, trabajadores y menores, Pizarroso explica que Europa dio “un paso importante” con el reglamento AI Act y España cuenta además con la Agencia Española de Supervisión de Inteligencia Artificial. “Pero aprobar una regulación y conseguir que funcione son dos cosas diferentes”, declara el profesor. De la misma manera lo expresa Anna Cejudo, que cree que las normas y la regulación son “un paso imprescindible, pero no son suficientes por sí solas. La tecnología evoluciona mucho más rápido que cualquier marco normativo”, destaca.