Los agentes de IA ¿Encaja el futuro de la IA en el Reglamento europeo?

Los agentes de IA basados en grandes modelos de lenguaje representan una de las principales líneas de evolución de la inteligencia artificial. Su capacidad para razonar, planificar, aprender, tomar decisiones y actuar con creciente autonomía plantea dudas sobre la suficiencia del Reglamento europeo de IA. El artículo analiza su encaje como sistemas de IA, los riesgos derivados de su autonomía, falta de alineación, ciberseguridad y difícil atribución de responsabilidades. Aunque el Reglamento ofrece una base útil, los autores proponen reforzar sus mecanismos mediante niveles de autonomía, mayores exigencias de supervisión, una posible presunción de alto riesgo, un «pasaporte europeo» para los agentes y la prohibición de aquellos sistemas que no puedan controlarse eficazmente.