Actualidad

Agentes de IA en la empresa: casos de uso realistas y límites

Qué es un agente de IA, qué casos tienen sentido en una pyme, qué riesgos hay y qué dice el Reglamento (UE) 2024/1689 con las fechas vigentes en 2026.

Un agente de IA recibe un objetivo, planifica los pasos y usa herramientas (correo, ERP, buscadores, API) para actuar; un asistente solo responde. En la pyme tiene sentido en tareas acotadas, con permisos mínimos, acciones reversibles y supervisión humana. El Reglamento (UE) 2024/1689 se les aplica con el calendario que modificó el Reglamento (UE) 2026/1744.

Agente o asistente: qué diferencia hay

La Agencia Española de Protección de Datos (AEPD) publicó en febrero de 2026 sus orientaciones sobre IA agéntica desde la protección de datos (versión 1.2). Define un agente de IA como un sistema que usa modelos de lenguaje para alcanzar un objetivo: descompone las tareas complejas en subtareas, las ejecuta de forma planificada con distintas herramientas y percibe el entorno accediendo a servicios internos y externos. Entre las características que enumera están la autonomía, la acción más allá de generar texto, la proactividad y la planificación.

AsistenteAutomatización con reglasAgente
Quién decide el paso siguienteLa persona, en cada consultaLa regla escrita de antemanoEl modelo, dentro de los límites que se le fijan
Qué haceResponde, resume, redactaEjecuta un flujo fijoEncadena pasos y usa herramientas con efectos reales
Error típicoRespuesta incorrectaRegla mal escritaAcción equivocada ejecutada sin que nadie la vea

El Reglamento (UE) 2024/1689 no tiene una categoría "agente". Define el sistema de IA como un sistema diseñado para funcionar con distintos niveles de autonomía (artículo 3.1), y un agente es un sistema de IA. El anexo XIV, añadido en 2026, menciona la "IA agente" solo como categoría tecnológica para designar organismos notificados. Las obligaciones dependen de lo que el sistema hace, no del nombre que se le dé.

Casos de uso plausibles en una pyme

Tienen en común un objetivo acotado, datos limitados y una persona que revisa antes de que nada tenga efectos irreversibles.

CasoQué puede hacer el agenteQué no debe hacer soloRiesgo principal
Atención al clienteClasificar consultas, buscar el pedido, redactar la respuesta y proponerla; responder solo preguntas frecuentes de bajo riesgoPrometer devoluciones o reembolsos, cambiar datos de cliente, responder reclamacionesRespuestas inventadas; mostrar datos de otro cliente
Back officeLeer facturas, cuadrarlas con pedidos, señalar diferencias, preparar el asiento y los recordatorios de cobroPagar, enviar comunicaciones, borrar registrosUn error de lectura que se propaga a la contabilidad
Consulta documentalResponder con referencias a procedimientos, contratos o normas internos, según los permisos de cada personaMostrar documentos a quien no tiene acceso; responder sin indicar la fuenteFugas por permisos mal configurados
TIClasificar tiques, resumir alertas, proponer una solución, ejecutar tareas rutinarias de bajo riesgoCambiar configuraciones en producción, crear usuarios con privilegios, borrar datos sin aprobaciónPermisos excesivos; instrucciones ocultas en un tique o correo

Una gestoría de Barcelona puede empezar por el back office; un hotel de Andorra, por clasificar consultas de reservas y redactar respuestas que revisa recepción. En atención al cliente hay una obligación concreta: el artículo 50.1 del Reglamento exige que las personas que interactúan con un sistema de IA lo sepan, salvo que sea evidente por el contexto.

Riesgos que hay que poner sobre la mesa

Permisos. Un agente actúa con las credenciales que se le dan. El NIST (CAISI, solicitud de información del 8 de enero de 2026) describe estos sistemas como capaces de planificar y actuar de forma autónoma sobre sistemas reales, y señala que su investigación ha demostrado riesgos de secuestro del agente, cuando procesa datos con instrucciones maliciosas. Las prácticas que cita son el mínimo privilegio y una arquitectura de confianza cero.

Inyección de instrucciones. La AEPD describe la inyección de prompts, directa o indirecta, como una amenaza que puede hacer que el agente ignore las directrices de la organización.

Acciones irreversibles. Eliminar datos de forma permanente, enviar comunicaciones y realizar pagos son los ejemplos que da la AEPD de acciones que requieren aprobación humana previa.

Datos. La AEPD habla de "shadow leaks": fuga silenciosa y progresiva de información sensible a través de consultas aparentemente inocuas, y pide controlar la memoria del agente.

Errores que se acumulan. La AEPD explica que la precisión de un agente baja a medida que la tarea requiere más pasos, porque un error inicial (una consulta mal hecha, unos datos incompletos) se procesa como si fuera correcto. Una misma instrucción puede dar resultados distintos, y eso complica verificar y auditar.

La regla de 2. La AEPD recoge un umbral mínimo de garantías: en un agente no deberían coincidir las tres cosas siguientes a la vez. (1) Recibe información no controlada. (2) Accede a información sensible sin restricciones. (3) Puede ejecutar acciones automáticas con efectos reales. Su ejemplo es un agente que responde correos de cualquier origen, con acceso a todo el sistema y sin control en los envíos: no debería permitirse. Con dos de las tres se puede trabajar con condiciones: si hay información no controlada y datos sensibles, ninguna acción automática sin supervisión humana; si hay datos sensibles y acciones, garantías de integridad; si hay información no controlada y acciones, sin acceso a datos personales.

Supervisión humana: cómo hacerla de verdad

La AEPD recomienda definir desde el diseño unos puntos de control donde hace falta aprobación humana: acciones de alto impacto, acciones irreversibles, comportamientos atípicos y límites fijados por el usuario, como un importe a partir del cual hay que aprobar una compra. Quien revisa debe tener competencia, autoridad, formación, independencia y medios, y vigilar el sesgo de automatización. En procesos de alto impacto sugiere el principio de los cuatro ojos: doble verificación por personas distintas.

Nuestro criterio para una pyme es trabajar con tres niveles:

  1. El agente ejecuta solo: acciones de bajo impacto y reversibles, con registro.
  2. El agente propone y una persona aprueba: cualquier cosa que salga de la empresa, mueva dinero o modifique datos de clientes.
  3. El agente no lo hace nunca: borrar, cambiar permisos o decidir sobre personas.

Hay también una base legal. El artículo 22 del RGPD y el artículo 25 de la Llei 29/2021 de Andorra reconocen el derecho a no ser objeto de una decisión basada únicamente en un tratamiento automatizado con efectos jurídicos, con derecho a intervención humana en los casos en que se admite. Y el Reglamento de IA pide supervisión humana efectiva en los sistemas de alto riesgo (artículo 14), que quien la ejerza tenga competencia, formación y autoridad (artículo 26.2), y que se conserven los registros al menos seis meses (artículo 26.6).

El marco del Reglamento (UE) 2024/1689 a 25 de octubre de 2026

El Reglamento distingue entre quien proporciona un sistema de IA y quien lo utiliza bajo su propia autoridad, el responsable del despliegue (artículo 3), que es el papel de la mayoría de las empresas. Se aplica también a proveedores y responsables de un tercer país cuando los resultados se utilizan en la Unión (artículo 2.1.c). El calendario, con la modificación del Reglamento (UE) 2026/1744 (DOUE de 24 de julio de 2026, en vigor el 27):

FechaQué se aplica
1 de agosto de 2024Entrada en vigor del Reglamento
2 de febrero de 2025Capítulos I y II: disposiciones generales, incluida la alfabetización en IA (artículo 4), y prácticas prohibidas
2 de agosto de 2026Fecha general de aplicación, incluida la transparencia del artículo 50
2 de diciembre de 2026Dos nuevas prácticas prohibidas sobre material sexual generado o manipulado con IA (artículo 5.1, letras b bis y b ter) y fin del plazo para marcar el contenido sintético (artículo 50.2) de los sistemas ya comercializados
2 de diciembre de 2027Obligaciones de los sistemas de alto riesgo del anexo III
2 de agosto de 2028Obligaciones de los sistemas de alto riesgo del anexo I

El artículo 4 se ha reformulado: ahora pide que proveedores y responsables del despliegue adopten medidas para apoyar la alfabetización en IA del personal, sin exigir un nivel concreto a ninguna persona. El anexo III incluye, por ejemplo, los sistemas para contratar o seleccionar personal (punto 4.a) y para evaluar la solvencia de personas físicas (punto 5.b). Un agente que filtra currículos entra en ese grupo y tendría obligaciones a partir del 2 de diciembre de 2027; un agente que responde preguntas sobre procedimientos internos, en principio, no. Esta clasificación es una lectura general; hay que revisar cada caso con asesoramiento jurídico.

Dónde tenemos interés, y dónde no

Lo decimos claro: MIA es un producto de BDR Group, y por tanto tenemos interés en este tema. Según la ficha aprobada, MIA es un asistente de IA corporativo privado que permite buscar, resumir, comparar y encontrar respuestas sobre documentos, procedimientos y datos internos en lenguaje natural, con acceso según equipo, rol o área, trazabilidad de las consultas y despliegue en cloud privado, entorno dedicado u on-premise. La ficha no lo describe como un agente que ejecute acciones, y este artículo no afirma que lo haga.

Qué hacer ahora

  1. Haz una lista de las herramientas de IA que ya se usan en la empresa y de las acciones que pueden realizar (leer, escribir, enviar, pagar).
  2. Elige un caso acotado y de poco riesgo, y define por escrito el objetivo, los datos que ve y las acciones que tiene permitidas.
  3. Dale los permisos mínimos, con una cuenta propia, y comprueba la regla de 2.
  4. Fija qué acciones necesitan aprobación y quién las aprueba, y activa el registro de lo que hace.
  5. Informa del uso de IA a quien interactúa con ella y mide los resultados antes de ampliarlo.

Preguntas frecuentes

¿Un agente de IA es lo mismo que un chatbot?

No. Un chatbot conversa y responde; un agente puede, además, encadenar pasos y utilizar herramientas para hacer cosas en sistemas reales. La frontera es gradual y la AEPD habla de una escala de grises.

¿Es legal que un agente actúe sin supervisión?

Depende de lo que haga. No hay una norma que lo prohíba en general, pero si toma decisiones con efectos jurídicos sobre personas, el RGPD y la Llei 29/2021 reconocen el derecho a la intervención humana, y si el sistema es de alto riesgo, el Reglamento de IA exige supervisión humana efectiva.

¿Los agentes están prohibidos o regulados por el Reglamento de IA?

No están prohibidos ni tienen una norma propia. Son sistemas de IA y quedan sujetos al Reglamento según lo que hacen: transparencia cuando interactúan con personas y obligaciones de alto riesgo si se usan en los casos del anexo III.

¿Una empresa andorrana tiene que cumplir el Reglamento?

Si los resultados del sistema se utilizan en la Unión, el Reglamento también se aplica a proveedores y responsables de un tercer país (artículo 2.1.c). Para el uso puramente interno en Andorra, el marco de datos es la Llei 29/2021.

Fuentes

¿Quieres saber qué puede hacer la IA con tu documentación?

Si quieres ver cómo se puede consultar la información interna de la empresa con una IA privada y con control de acceso, empieza por la ficha del producto: MIA, el asistente de IA corporativo privado. Tienes más detalles en mia360.ad.

Volver a Actualidad

Actualidad

Artículos relacionados