El desarrollo acelerado de la inteligencia artificial vuelve a generar preocupación entre algunos de los principales responsables de esta industria.

Demis Hassabis, presidente de Google DeepMind, advirtió que los agentes de inteligencia artificial podrían provocar incidentes graves en uno o dos años si las empresas y los gobiernos no establecen medidas de seguridad adecuadas.

La advertencia, realizada durante una intervención en Dublín y difundida por medios el domingo, pone de relieve los riesgos asociados con sistemas capaces de realizar tareas de manera cada vez más autónoma.

A diferencia de los asistentes tradicionales, los agentes de IA pueden ejecutar secuencias de acciones, utilizar herramientas digitales y participar en procesos complejos con menor intervención humana.

Estas capacidades representan oportunidades para mejorar la productividad, automatizar operaciones y acelerar investigaciones. Sin embargo, también plantean interrogantes sobre supervisión, permisos, errores y responsabilidades.

La preocupación no significa que necesariamente vaya a ocurrir un incidente de gran magnitud, sino que los especialistas consideran necesario fortalecer las evaluaciones de seguridad antes de ampliar el uso de estos sistemas.

El futuro de la inteligencia artificial dependerá tanto de sus capacidades como de la confianza que puedan generar sus mecanismos de control.