Senén Barro: "A intelixencia artificial na educación axudará a aprender mellor e máis rápido"

O catedrático de Ciencias da Computación e Intelixencia Artificial da USC, Senén Barro (As Pontes, 1962), foi reitor da institución compostelá entre os anos 2002 e 2010. Agora exerce como director científico do Citius (Centro Singular de Investigación en Tecnoloxías Intelixentes) e é un dos maiores expertos en intelixencia artificial de España. Barro visitou onte o Marco, que acolleu o evento ‘GalIA Tech’, no que institucións, empresas e expertos en torno á intelixencia artificial e a innovación dixital reuníronse para avaliar o estado actual destas tecnoloxías en Galicia. A súa foi un dos relatorios estrela, titulada “O futuro da IA”, e precedeu a exhibición de diversos demostradores de tecnoloxías desenvoltas por de empresas como Televés ou centros tecnolóxicos como atlanTTic, da UVigo, e Gradiant.

Que temas aborda no seu relatorio?

A charla titúlase “O futuro da IA” e falarei da situación do campo neste momento e algunhas liñas predicibles. Sempre é difícil predicir o futuro, pero hai algúns aspectos que alcanzo a ver que teñen que ver con como evolucionará a IA dentro da automatización do emprego, do uso por parte das empresas ou o seu uso na ciencia, onde xa é unha ferramenta excepcional para lograr grandes avances científicos. Non fago predicións, senón que digo cales son as liñas que me parecen máis prometedoras.

Os principais modelos de IA xerativa presentan diversos conflitos éticos, sobre todo no referido ao respecto aos artistas. Estamos a tempo de arranxar isto?

Sempre estamos a tempo de arranxalo. Por fortuna aínda non ocorreu nada dramático derivado dun mal uso ou dun abuso da IA. Estamos perfectamente a tempo se hai vontade. O tema da propiedade intelectual é moi importante, pero non é dos máis críticos. Hai outros que merecían unha especial atención, como o desemprego tecnolóxico ou a desinformación que afecta ás propias democracias, con temas de condicionamento de opinións a través de mensaxes falsos e ultrafalsificacións. A IA é un instrumento amplificador de todo, pero pode ser un elemento que agudice estes problemas. A delegación cognitiva é outro problema, xa que a xente máis nova delega en exceso as súas responsabilidades e cae na tentación de que traballen as máquinas niso que nos fai humanos.

Traballou nunha publicación sobre o desenvolvemento dunha IA fiable. En que consiste?

Son moitos ámbitos. Unha IA confiable ten que ser unha IA que respecte a lei, pero que tamén teña uns principios éticos claros no seu deseño e utilización, que sexa transparente, trazable e que podamos saber en caso de mal funcionamento por que se produce. Cómpre que sexa explicable na medida do posible, é dicir, que cando nos dá respostas, que teñamos estatisticamente o criterio de que o que nos amosa ten unha alta probabilidade de ser preciso e en base a que. Un exemplo extremo: se eu teño un equipo baseado en IA que me di se teño cancro ou non en función da miña historia clínica, das miñas analíticas e do meu historial de vida, se podo certificar que acerta o 95% das veces non é suficiente. Querería que explique en base a que se fundamentou esa decisión. Ademais, os modelos de IA deberían estar o máis blindados posibles fronte a ciberataques. Todo este conxunto de cousas é o que confiren a unha IA o carácter de confiable ou non.

A Axencia Española de IA estará localizada na Coruña. É Galicia un polo tecnolóxico neste eido?

Si, seguro. Galicia é unha das comunidades autónomas de España cun desenvolvemento das tecnoloxías da información e comunicación (TIC) e da intelixencia artificial do máis potente. Non só porque hai un conxunto de empresas con unha grande cantidade de emprego neste sector, senón tamén pola vontade das administracións públicas e das universidades. Este ano titularase a primeira promoción do grado de Intelixencia Artificial das tres universidades, de feito.

Está a favor da utilización da IA no ámbito educativo?

É unha ferramenta importante en cada ámbito, e para a educación especialmente. Permitirá aprender máis, mellor e máis rápido. Cando as persoas e as organizacións non son capaces de aprender a velocidade á que cambia o mundo necesitamos este tipo de instrumentos tecnolóxicos. Outra cousa é se se están utilizando correctamente e eu creo que non. No Citius recibimos cada ano centos de alumnos de colexios e institutos e unha das cousas que lles pregunto é cantos usan algún tipo de modelo de linguaxe como ChatGPT. Ao principio son temerosos, pero logo a maioría confesan. E os profesores míranse como dicindo que non o sabían. Se os rapaces usan a IA pola súa conta e non está integrada no proceso das aulas temos un problema moi serio que pode desembocar na delegación cognitiva. Se non logramos que vaian adquirindo as competencias no uso da linguaxe porque as están delegando na máquina que lle fai resumos e os deberes, hai un proceso de delegación que vai supoñer debilitar as súas capacidades cognitivas. Por suposto que vai ser fundamental, debería estar usándose de forma intensiva na educación, que xa está ocorrendo, pero só por parte dos alumnos. Terá que ser un proceso integrado.