Los riesgos de la IA se centran en la IA agéntica, sistemas capaces de actuar con mayor autonomía, complejidad y menor supervisión humana
Lo primero que hay que aclarar sobre el debate en torno a los riesgos de la inteligencia artificial es que no se refiere a la IA generativa que conocemos hasta ahora, como ChatGPT, utilizada para buscar, organizar y crear contenido.
La discusión se centra en la llamada IA agéntica, sistemas capaces de actuar con mayor autonomía, complejidad y menor supervisión humana.
“Se trata de sistemas en los que intervienen agentes de IA con mucha más capacidad, complejidad y autonomía de actuación y menor supervisión humana que la IA generativa”, explicó a EFE Alicia Ortiz de Zárate, investigadora de la Universidad Autónoma de Madrid.
Leer también: La NASA agrega tres misiones tripuladas de SpaceX a la EEI por 946 millones de dólares
Estos agentes ya son utilizados por empresas como bancos, aseguradoras y servicios de compras en línea, y pueden realizar tareas que involucran información o acciones sensibles, como pagos y seguridad.
Un ejemplo citado por la Agencia Española de Protección de Datos es que, si se le pide a un agente organizar un viaje, este podría revisar el calendario del usuario, comparar vuelos en tiempo real, contactar a una aerolínea y, si cuenta con autorización, realizar el pago.
Los riesgos aumentan cuando estos sistemas operan en sectores estratégicos. Nuria Oliver, directora de la fundación ELLIS Alicante, advierte que infraestructuras como hospitales, sistemas de energía y defensa podrían quedar expuestas a ataques más sofisticados.
“Imaginemos qué podría pasar si a uno de estos agentes de IA le pides una tarea y para ejecutarla considera que necesita mucha electricidad y decide hacerse dueño del sistema eléctrico”, planteó.
Ortiz de Zárate señaló que los riesgos son similares a los de la IA tradicional, pero con un mayor alcance y complejidad. A medida que los agentes tengan más autonomía, agregó, también será más difícil determinar qué ocurrió y quién es responsable.
Para Oliver, la responsabilidad debe recaer principalmente en quienes desarrollan estos sistemas. La investigadora comparó el escenario con la regulación de las redes sociales y advirtió que las autoridades deberían actuar antes de que los problemas se vuelvan más difíciles de controlar.
Los expertos también consideran necesario que los gobiernos establezcan reglas claras y que los ciudadanos puedan exigir responsabilidades cuando un sistema cause daños.
En este contexto, Ramón López de Mántaras, fundador del Instituto de Investigación en Inteligencia Artificial del CSIC, cuestionó expresiones como que los agentes de IA “se rebelan” cuando ocurre algún problema, al considerar que este lenguaje puede trasladar la responsabilidad de las empresas que los diseñaron.
El investigador también rechazó que la solución sea únicamente “ralentizar” el desarrollo de estas tecnologías. A su juicio, es necesario reorientarlas hacia sistemas específicos, transparentes, robustos y controlables.
Los especialistas coinciden en que los anuncios de algunas empresas sobre una supuesta ralentización no son nuevos y que tampoco está claro qué implican. Además, señalan que la expansión de estos sistemas no es inevitable, aunque sí preocupa el impacto ambiental de los centros de datos necesarios para mantenerlos.
Senén Barro, director del Centro Singular de Investigación en Tecnoloxías Intelixentes de la Universidade de Santiago de Compostela, consideró fundamental contar con reglas para evaluar estos sistemas y definir responsabilidades. En Europa, recordó, ya existe un reglamento de inteligencia artificial, aunque está por verse cómo funcionará frente a los nuevos agentes.
Finalmente, López de Mántaras planteó la necesidad de una gobernanza internacional que determine quién es responsable ante posibles daños. Según el investigador, esto requeriría acuerdos entre potencias como China y Estados Unidos.
Con información de EFE.
Minuto a minuto
