AI Congress 2026: la IA agéntica debe alinearse con el criterio humano, según expertos reunidos en Barcelona
La duodécima edición del AI Congress, celebrada del 20 al 22 de octubre en Barcelona bajo el impulso del CIDAI y la organización de Eurecat, reunió a más de medio centenar de ponentes y superó los 2.200 inscritos. El evento centró su agenda en un desafío que gana peso en la conversación tecnológica: cómo alinear las capacidades de automatización de la inteligencia artificial agéntica con criterios humanos, de modo que la seguridad y la gobernanza no queden rezagadas frente a la velocidad de la innovación.
El riesgo de escalar errores a velocidad de máquina
Uno de los mensajes más contundentes llegó de Ariadna Font, cofundadora y CEO de Alinia AI, quien advirtió que la IA agéntica no solo amplifica la productividad, sino también el volumen y la velocidad de los errores. Su comparación fue directa: una persona puede equivocarse una vez, pero un agente puede repetir ese mismo error miles de veces antes de que alguien lo detecte.
Por ello, consideró prioritario invertir en marcos y sistemas robustos de control y gobernanza que permitan un uso seguro y responsable de los avances tecnológicos. En su opinión, en la carrera actual por desarrollar modelos de IA no ganará quien acumule más tecnología, sino quien mantenga el control con criterio humano.
Supervisión humana y protección de datos
Joan Mas, director del AI Congress y director científico del Área Digital de Eurecat, señaló que la IA agéntica ha experimentado un crecimiento acelerado durante el último año. Si bien ofrece oportunidades para alcanzar niveles de automatización significativos, también plantea interrogantes sobre los riesgos y las protecciones que deben incorporarse en estos agentes para que sus decisiones no se desalineen del criterio humano.
En esa misma línea, Meritxell Borràs, directora de la Autoridad Catalana de Protección de Datos (APDCAT), abordó los retos que plantea la IA agéntica cuando los agentes operan con datos de carácter personal y la necesidad de estructurar una supervisión humana efectiva durante su ejecución.
Hacia una IA más local y soberana
Durante el evento se subrayó que la próxima evolución en el despliegue de tecnologías de inteligencia artificial se orientará a la personalización de modelos que funcionen de manera independiente y local sobre las infraestructuras de empresas y organizaciones. Este enfoque busca mantener el control sobre los datos, garantizar la privacidad, reducir la dependencia de proveedores externos y mejorar la eficiencia, como alternativa competitiva a los servicios en la nube de los modelos de frontera de IA generativa a gran escala.
Jezabel R. Garcia, directora científica de IA de Multiverse Computing, sostuvo que la próxima revolución no pasa por un modelo más grande, sino por un modelo que funcione donde aporta valor: en un dispositivo, en una empresa, en un hospital o en una administración pública. Según explicó, la compresión permite mantener la capacidad de un modelo mientras se reduce su tamaño y su consumo energético en más de un 50%, lo que hace posible una IA soberana, eficiente y sostenible en Europa.
IA intencional: definir el propósito antes que la herramienta
La experta internacional en transformación digital Pooja Munshi introdujo el concepto de IA intencional, entendida como aquella que se alinea con objetivos concretos y con las necesidades de las personas, las organizaciones y el medioambiente. A partir de su experiencia como responsable del Programa de las Naciones Unidas para el Medio Ambiente, exploró cómo los líderes pueden desarrollar productos de IA que transformen la capacidad tecnológica en un impacto significativo y duradero, y los invitó a formular mejores preguntas y a escuchar a las personas, a las evidencias y al mundo afectado por su tecnología.
El papel de las instituciones y el ecosistema empresarial
En la bienvenida institucional, Daniel Altimiras, presidente de Eurecat, destacó que Cataluña cuenta con conocimiento, talento, capacidades tecnológicas y un tejido empresarial que le permiten tener un papel relevante en esta nueva etapa de la inteligencia artificial. Añadió que el reto ya no consiste solo en entender qué puede hacer la IA, sino en incorporarla de manera efectiva, segura y responsable a las organizaciones y convertirla en competitividad, productividad y nuevas oportunidades de crecimiento.
Albert Tort, secretario de Telecomunicaciones y Transformación Digital de la Generalitat de Catalunya, defendió una inteligencia artificial con propósito, orientada a resolver problemas reales, generar valor público, reforzar la competitividad de las empresas y mejorar los servicios que se ofrecen a la ciudadanía.
Casos prácticos y cumplimiento normativo
El congreso también sirvió para presentar ejemplos de agentes y sistemas multiagente aplicados a distintos sectores, así como recomendaciones para garantizar la seguridad técnica frente a amenazas y riesgos, y para cumplir con el Reglamento de Inteligencia Artificial (AI Act).
La cita dejó una conclusión transversal: la automatización avanzada no se sostiene solo con mejores modelos, sino con marcos de control, supervisión humana y decisiones tecnológicas alineadas con el propósito de las organizaciones. Para el ecosistema peruano y latinoamericano, que observa de cerca la evolución de la IA agéntica, el debate sobre gobernanza y soberanía tecnológica resulta especialmente relevante de cara a sus propios procesos de adopción.
Fuente: Automática e Instrumentación
