¿La inteligencia artificial puede salirse de control? Expertos explican dónde está el verdadero riesgo

El debate sobre si la inteligencia artificial podría representar un peligro para la humanidad se ha intensificado, pero varios expertos coinciden en que el foco no está necesariamente en herramientas generativas como ChatGPT, sino en sistemas más autónomos capaces de ejecutar acciones por su cuenta.

Se trata de la llamada IA agéntica, tecnología diseñada para cumplir objetivos con menor supervisión humana y con capacidad para interactuar con otros sistemas.

¿Qué diferencia a la IA agéntica?

A diferencia de la IA generativa, que puede buscar, organizar o crear contenido, la IA agéntica puede realizar tareas más complejas de manera autónoma.

Por ejemplo, un agente podría organizar un viaje completo: revisar un calendario, comparar vuelos, comunicarse con una aerolínea y hasta realizar un pago si cuenta con los permisos necesarios.

Ese nivel de autonomía abre nuevas posibilidades, pero también aumenta los riesgos cuando se aplica en áreas sensibles.

El mayor riesgo está en sistemas críticos

Expertos consultados por EFE advierten que el problema se vuelve más serio cuando estos agentes interactúan con sectores como energía, hospitales, finanzas, defensa o sistemas de seguridad.

La preocupación es que un sistema autónomo pueda tomar decisiones difíciles de rastrear o ejecutar acciones con consecuencias reales antes de que una persona pueda intervenir.

La investigadora Alicia Ortiz de Zárate explicó que los peligros son similares a los de otros sistemas de IA, pero con mayor alcance y complejidad debido a su autonomía.

¿Puede la IA “rebelarse”?

Los científicos también cuestionan expresiones como que una inteligencia artificial “se rebeló”.

Ramón López de Mántaras, fundador del Instituto de Investigación en Inteligencia Artificial de España, sostiene que hablar de una rebelión puede desviar la atención de quienes diseñaron y configuraron esos sistemas.

En otras palabras, detrás de cualquier comportamiento de una IA continúan existiendo decisiones humanas sobre cómo fue creada, qué permisos recibió y dónde puede actuar.

No se trata solo de frenar el desarrollo

Los expertos plantean que el reto no es simplemente desarrollar la tecnología más lentamente, sino decidir cómo y para qué se desarrolla.

Entre las prioridades mencionan sistemas más transparentes, controlables, robustos y diseñados para tareas específicas.

También reclaman reglas claras para evaluar estas tecnologías y establecer quién responde cuando algo sale mal.

La regulación será clave

Europa ya cuenta con regulación sobre inteligencia artificial, aunque queda por ver cómo responderá ante sistemas cada vez más autónomos.

Los especialistas también plantean la necesidad de acuerdos internacionales, especialmente entre grandes potencias tecnológicas como Estados Unidos y China.

Mientras tanto, insisten en que la inteligencia artificial no debe tratarse como una tecnología inevitable sobre la que nadie tiene control: empresas, gobiernos y desarrolladores seguirán teniendo responsabilidad sobre cómo se diseña y utiliza.