¿Qué pasa cuando un agente de IA de Empliados comete un error o no sabe cómo resolver una situación?
Respuesta breve
Cuando falta información, hay datos contradictorios o una acción excede sus permisos, el agente pide aclaraciones, evita suponer datos y deriva el caso a un responsable con el contexto necesario. Con una respuesta o autorización válida, continúa la tarea y registra lo ocurrido para su revisión.
Los agentes de inteligencia artificial de Empliados están diseñados para ejecutar tareas operativas de manera autónoma, pero eso no significa que sean infalibles.
Como cualquier sistema tecnológico, pueden encontrar información incompleta, datos contradictorios, errores de integración o situaciones que no están contempladas en sus reglas.
También pueden interpretar incorrectamente un mensaje o una instrucción.
Por eso, una implementación responsable no debe partir de la idea de que la inteligencia artificial nunca se equivoca.
Debe definir qué hacer cuando aparece un error, cómo detectarlo, cuándo pedir aclaraciones y en qué situaciones intervenir con una persona.
Empliados combina automatización con reglas operativas, permisos, supervisión y mecanismos de escalamiento.
El objetivo es que los agentes resuelvan automáticamente las tareas habituales y que las excepciones importantes lleguen a las personas correctas, con la información necesaria para tomar una decisión.
¿Qué tipos de errores o excepciones pueden aparecer?
- Datos faltantes. El TMS no tiene cargado el teléfono del chofer o el horario de entrega.
- Información contradictoria. El GPS indica que el camión está detenido, pero el chofer informa que está circulando.
- Mensajes ambiguos. Un conductor responde "ya está" sin aclarar si terminó de cargar o si salió del depósito.
- Documentos ilegibles. Una fotografía de un remito está borrosa o tiene datos tapados.
- Errores de interpretación. El agente puede confundir una fecha, un importe o el sentido de una respuesta.
- Sistemas no disponibles. La API del TMS, ERP o GPS no responde.
- Permisos insuficientes. El agente intenta una operación que la integración no tiene autorizada.
- Cambios no previstos. Un cliente solicita modificar el destino de una carga sin seguir el procedimiento habitual.
- Respuestas inesperadas. El chofer comunica una situación que no encaja en las categorías configuradas.
- Falta de respuesta. Un conductor o proveedor no contesta los mensajes de seguimiento.
- Solicitudes duplicadas. Dos personas informan el mismo incidente por diferentes canales.
- Acciones incompatibles. Dos procesos intentan modificar información relacionada con el mismo viaje.
- Datos desactualizados. La última ubicación GPS disponible tiene varias horas de antigüedad.
- Situaciones de seguridad. Un mensaje informa un accidente, un robo o una emergencia.
- Decisiones fuera de autorización. Una gestión requiere aprobar gastos, modificar tarifas o asumir compromisos comerciales.
¿Cómo debe actuar Empliados cuando encuentra un problema?
- Identificar que existe una inconsistencia o una condición que impide continuar con normalidad.
- Verificar si dispone de información adicional en los sistemas integrados.
- Comparar las fuentes disponibles cuando existan datos contradictorios.
- Solicitar una aclaración a la persona correspondiente cuando el problema pueda resolverse mediante una consulta.
- Evitar inventar datos o presentar suposiciones como hechos confirmados.
- Respetar los permisos y no ejecutar acciones que excedan las autorizaciones configuradas.
- Registrar el problema y las gestiones realizadas.
- Reintentar una operación técnica cuando corresponda y sea seguro hacerlo.
- Evitar duplicar acciones si no puede confirmar que una operación anterior falló.
- Derivar el caso a un responsable humano cuando no puede resolverlo de forma confiable.
- Proporcionar al responsable el contexto disponible para que no tenga que reconstruir toda la situación.
- Continuar el proceso cuando recibe una respuesta o autorización válida.
- Documentar el resultado final para facilitar el seguimiento y la revisión posterior.
Ejemplo concreto
Una empresa de transporte tiene un camión programado para entregar mercadería en Rosario a las 15:00.
El agente de ETA detecta que el vehículo está demorado y consulta al chofer por WhatsApp.
"Hola. El viaje 6824 presenta una demora respecto del horario previsto. ¿Me confirmás qué ocurrió?".
El conductor responde con un audio:
"Me dijeron que vaya a otro depósito, pero no sé si es el de Circunvalación o el que está cerca del puerto".
El agente consulta el TMS y verifica que el destino registrado continúa siendo el depósito original.
En lugar de elegir una dirección por su cuenta, identifica que existe una instrucción contradictoria.
Puede responder:
"Gracias. En el sistema sigue figurando el destino original. Voy a consultar con tráfico para confirmar la dirección correcta antes de indicarte un cambio".
Al mismo tiempo, envía una alerta al responsable:
"El chofer del viaje 6824 informa que recibió instrucciones para cambiar de depósito, pero no tiene confirmada la nueva dirección. El TMS mantiene el destino original. Se requiere validación antes de modificar la ruta".
El responsable verifica la situación y confirma la dirección correcta.
Una vez recibida la autorización, Empliados puede comunicar las nuevas instrucciones al conductor y registrar el cambio en los sistemas habilitados.
El agente no resolvió la situación inventando una respuesta.
Detectó una excepción, solicitó intervención y continuó el trabajo cuando tuvo información confiable.
¿Qué pasa si el agente interpreta mal un mensaje?
La interpretación del lenguaje natural no es perfecta.
Un audio con ruido, una abreviatura, una fotografía de baja calidad o una frase ambigua pueden generar errores.
Por eso, cuando la información es importante y no resulta suficientemente clara, el agente puede solicitar una confirmación.
Por ejemplo:
"Para confirmar: ¿me estás diciendo que ya terminaste de descargar o que todavía estás esperando?".
En procesos sensibles, también pueden configurarse validaciones adicionales antes de actualizar sistemas o enviar comunicaciones definitivas.
¿Qué pasa si un agente ejecuta una acción incorrecta?
La respuesta depende del tipo de acción y de sus consecuencias.
Por ejemplo, enviar un mensaje duplicado tiene un impacto diferente de modificar un destino, registrar un importe equivocado o autorizar una operación comercial.
Por eso, los permisos deben ser proporcionales al riesgo.
Las acciones de bajo impacto pueden automatizarse con mayor autonomía.
Las acciones críticas deben incorporar controles, confirmaciones o aprobación humana.
Cuando se detecta una acción incorrecta, es importante registrar lo ocurrido, informar al responsable, corregir los datos cuando corresponda y revisar las reglas para reducir la probabilidad de repetición.
No todas las acciones pueden revertirse automáticamente, especialmente si ya generaron consecuencias fuera de los sistemas.
¿Qué sucede si el TMS o el GPS dejan de funcionar?
Los agentes dependen de las fuentes de información necesarias para ejecutar sus tareas.
Si una API deja de responder, Empliados no debe asumir que los datos siguen actualizados.
Según la configuración, puede reintentar la consulta, utilizar otra fuente autorizada o informar al responsable que el seguimiento está limitado.
Por ejemplo, si la última posición GPS tiene dos horas de antigüedad, el agente no debería informar al cliente que esa es la ubicación actual del camión.
Puede indicar que se trata de la última ubicación disponible o realizar una consulta al conductor.
La continuidad de cada proceso depende de las integraciones y alternativas configuradas.
¿Cómo interviene un empleado cuando el agente necesita ayuda?
El agente puede generar una alerta o una tarea dirigida al responsable correspondiente.
En lugar de enviar simplemente un mensaje que diga "hubo un error", debe proporcionar información útil.
Por ejemplo:
- Qué viaje o proceso está afectado.
- Qué situación detectó.
- Qué datos consultó.
- Qué gestiones realizó.
- Qué información falta.
- Qué decisión necesita que tome una persona.
De esta manera, el empleado interviene sobre una excepción concreta y no necesita repetir todo el trabajo que el agente ya realizó.
Una vez resuelta la situación, el agente puede continuar con las tareas autorizadas.
¿Los agentes aprenden automáticamente de cada error?
Es importante distinguir entre utilizar información nueva durante una tarea y modificar permanentemente el comportamiento de un agente.
Un agente puede incorporar una aclaración recibida para completar una gestión.
Pero eso no significa que deba cambiar por su cuenta las reglas de negocio, los permisos o los procedimientos de la empresa.
Las mejoras permanentes deben realizarse mediante procesos controlados de configuración, evaluación y validación.
Por ejemplo, si un tipo de incidencia aparece repetidamente, puede incorporarse una nueva regla para tratarla mejor.
El objetivo es mejorar el funcionamiento sin permitir que una respuesta aislada modifique automáticamente decisiones importantes.
¿Qué diferencia hay entre un error humano y un error de un agente de IA?
Los empleados también pueden equivocarse: olvidar un seguimiento, copiar un dato incorrecto, enviar un mensaje a la persona equivocada o no detectar una demora.
Los agentes de IA pueden reducir algunos errores asociados a tareas repetitivas, pero introducen otros riesgos, como interpretaciones incorrectas o decisiones basadas en datos incompletos.
La ventaja potencial de la automatización es que las tareas pueden ejecutarse siguiendo reglas consistentes y dejando registros que facilitan su revisión.
Sin embargo, la confiabilidad depende de la calidad de las integraciones, los controles y la supervisión.
No se trata de afirmar que la IA nunca se equivoca.
Se trata de diseñar procesos donde los errores sean detectables, gestionables y, cuando sea posible, corregibles.
¿Cuál es el beneficio?
Una buena gestión de excepciones permite automatizar un mayor volumen de tareas sin perder el control operativo.
Los empleados dejan de dedicar tiempo a cada consulta rutinaria y pueden concentrarse en los casos que realmente necesitan criterio humano.
También mejora la trazabilidad de las decisiones y facilita identificar problemas recurrentes en los procesos.
Empliados no busca eliminar la intervención humana de todas las situaciones.
Busca que las personas intervengan donde agregan más valor.
Los agentes realizan las tareas habituales, investigan las excepciones y escalan aquello que no pueden resolver con suficiente información o autorización.
El objetivo es combinar la capacidad de ejecución de la inteligencia artificial con el criterio y la responsabilidad de las personas.
Conservá esta versión como aprobada y pasemos a la pregunta 47, también con un campo editable.
¿Quiere ver cómo se aplica esto en su operación?
Solicitar demo