Agentes de IA en la atención al cliente están fallando y las empresas retroceden en masa
Agentes de IA en la atención al cliente se convirtieron en una apuesta casi unánime en el mercado, pero las cifras más recientes le echan un balde de agua fría a toda esa euforia.
Un estudio de Sinch, realizado con más de 2.500 líderes del sector, arrojó un dato que tomó a muchos por sorpresa: el 74% de las empresas ya revirtieron o desactivaron al menos un agente de IA utilizado en la atención al cliente. Esa cifra tan expresiva refleja fallas de gobernanza, y no simplemente una insatisfacción genérica con la tecnología en sí.
Es decir, 3 de cada 4 empresas dieron un paso atrás. Y ojo, no estamos hablando de empresas que solo probaron la tecnología en un piloto rápido. Casi dos tercios de los encuestados ya tenían agentes de IA funcionando de verdad, en operaciones reales, con clientes reales. Además, el 88% de las organizaciones planea tener agentes de IA en producción completa el próximo año, lo que muestra que la adopción sigue a ritmo acelerado incluso con los tropiezos. El problema no es falta de interés ni de valentía para adoptar la tecnología. El problema es que, en la práctica, las cosas se están saliendo de control.
Lo más curioso de todo esto es que, aun con tantas fallas y reversiones, el 98% de las empresas afirman que van a aumentar sus inversiones en IA este año. 🤔 Eso dice mucho sobre el momento en el que estamos. La carrera por la IA en la atención al cliente es prácticamente irreversible, pero el camino todavía está lleno de obstáculos, e ignorarlos puede salir muy caro.
¿Por qué los agentes de IA están fallando en la práctica?
La respuesta más honesta es que la tecnología llegó antes de la estructura necesaria para sostenerla. Empresas entusiasmadas con las promesas de eficiencia y reducción de costos salieron a implementar agentes de IA sin tener claridad sobre lo que estos sistemas necesitan para funcionar bien en entornos reales de atención al cliente. No es solo una cuestión técnica, es una cuestión de preparación organizacional, de datos bien estructurados, de procesos bien definidos y, principalmente, de expectativas calibradas con la realidad de lo que la tecnología puede entregar hoy.
El estudio de Sinch es bastante específico sobre los motivos que llevaron a las reversiones. Según el informe, los principales factores fueron: preocupaciones por la exposición de datos personales de los clientes (31%), alucinaciones o riesgos para la marca (22%) y falta de auditabilidad (16%). Estos no son riesgos teóricos ni hipotéticos. Como el propio informe destaca, exposición de datos personales significa que información sensible de un cliente apareció en una interacción en la que no debería haber estado. Alucinación significa que un agente de IA dijo algo con total seguridad pero completamente errado a un cliente real, en un canal activo, bajo el nombre de la marca de la empresa.
Cuando un agente de IA responde de forma equivocada a un cliente que está intentando resolver un problema urgente, el daño va mucho más allá de una interacción mal resuelta. Afecta la percepción de la marca, genera retrabajo para los equipos humanos y, dependiendo del sector, puede incluso generar consecuencias legales serias.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Otro punto que aparece mucho en las discusiones del sector es la falta de integración adecuada entre los agentes de IA y los sistemas legados de las empresas. Muchas organizaciones tienen bases de datos fragmentadas, historiales de atención desorganizados y procesos internos que nunca fueron pensados para interactuar con sistemas autónomos de inteligencia artificial. Poner un agente de IA a operar en ese entorno sin una preparación cuidadosa es como contratar a alguien para un puesto sin darle acceso a las herramientas e información que necesita para trabajar. El resultado casi siempre decepciona.
Gobernanza y riesgos de datos: el elefante en la sala
Si hay un tema que necesita ganar más espacio en las conversaciones sobre agentes de IA en la atención al cliente, es la gobernanza. Y cuando hablamos de gobernanza aquí, no estamos hablando de burocracia ni de más capas de aprobación. Estamos hablando de tener políticas claras sobre cómo los agentes de IA toman decisiones, a qué información pueden acceder, cómo se tratan los datos de los clientes y quién es responsable cuando algo sale mal. Esa estructura todavía es precaria en la mayoría de las empresas, y los riesgos de datos que surgen a partir de eso son reales y preocupantes.
Y aquí entra un dato que parece contradecir la lógica, pero que tiene todo el sentido cuando se analiza con calma. El estudio de Sinch reveló que las empresas con estructuras de gobernanza más maduras presentaron tasas de reversión aún mayores, llegando al 81%. Parece raro, ¿no? Pero la explicación es simple y fue destacada por Daniel Morris, CPO de Sinch: esas organizaciones no están fallando más, están detectando las fallas más rápido.
En palabras de Morris: las organizaciones más avanzadas no están fallando menos, están viendo las fallas más temprano. Tasas de reversión más altas reflejan mejor monitoreo y control, no un desempeño más débil. Esto derriba la suposición de que tener guardrails más robustos automáticamente elimina los problemas. En realidad, una gobernanza madura funciona como un sistema de alarma que se dispara más rápido, exponiendo problemas que, en organizaciones menos preparadas, estarían pasando desapercibidos y causando daños silenciosos.
Los riesgos de datos asociados al uso de agentes de IA en la atención al cliente van desde la filtración accidental de información sensible hasta el uso inadecuado de datos personales para entrenar o ajustar modelos sin el consentimiento correcto de los usuarios. En sectores como salud, financiero y retail, donde los clientes comparten información altamente sensible durante las interacciones de soporte, una falla de gobernanza puede tener consecuencias graves, tanto para los clientes como para las empresas en términos de cumplimiento regulatorio. La LGPD en Brasil y el GDPR en Europa, por ejemplo, establecen obligaciones claras sobre cómo deben tratarse los datos personales, y agentes de IA que operan sin una capa de gobernanza bien definida son un riesgo permanente de incumplimiento.
Además, existe un problema menos visible pero igualmente importante: el sesgo en los datos que entrenan a estos agentes. Cuando un modelo de lenguaje se alimenta con historiales de atención que reflejan patrones problemáticos, ya sea en la forma en que ciertos perfiles de clientes fueron tratados o en la calidad de las respuestas registradas, el agente tiende a reproducir e incluso amplificar esos patrones. Sin una estructura de gobernanza activa y continua, las empresas no logran identificar estos problemas antes de que causen daños reales a la experiencia de los clientes y a la reputación de la organización.
El impuesto de los guardrails: la seguridad cuesta tiempo y enfoque
Uno de los puntos más reveladores del informe de Sinch es lo que llaman guardrail tax, o el impuesto de los guardrails. Según el estudio, las empresas están invirtiendo más tiempo y recursos en confianza, seguridad y cumplimiento que en la propia tecnología de IA. Los números son bastante claros: el 75% de los encuestados dirigen inversiones hacia estas áreas de seguridad, mientras que solo el 63% está invirtiendo en la tecnología de IA en sí.
Y el panorama se vuelve aún más evidente cuando miramos a los equipos técnicos. Según la investigación, el 84% de los equipos de ingeniería de IA están dedicando al menos la mitad de su tiempo a la infraestructura de seguridad, en lugar de trabajar en la mejora de la experiencia del cliente propiamente dicha.
Morris fue directo al comentar este escenario: los equipos de ingeniería están gastando la mayor parte de su tiempo construyendo y manteniendo sistemas de seguridad, muchos de los cuales la propia infraestructura de comunicación ya debería proporcionar, en lugar de enfocarse en mejorar la experiencia del cliente. Ese es el impuesto de los guardrails que desacelera a las organizaciones.
Esto crea un dilema real para las empresas. Invertir en seguridad y gobernanza es absolutamente necesario, pero cuando esa inversión consume la mayor parte de la capacidad de los equipos, queda poco espacio para innovar y de hecho mejorar la calidad de las interacciones con los clientes. Es un ciclo que necesita ser equilibrado con herramientas e infraestructuras más inteligentes que ya entreguen parte de esa capa de seguridad de forma nativa.
Canales de atención y motivaciones detrás de la adopción
El informe de Sinch también detalla dónde se están utilizando más los agentes de IA en los canales de comunicación con clientes. Los chatbots y respuestas automatizadas por correo electrónico lideran la lista, siendo adoptados por más de seis de cada diez organizaciones encuestadas. A continuación, aparecen las redes sociales, mensajes de texto (SMS) y plataformas como WhatsApp, con cerca de la mitad de las empresas utilizando agentes de IA para gestionar esos canales.
En cuanto a las motivaciones, los datos revelan una jerarquía clara de prioridades:
- Mejorar la satisfacción del cliente aparece como principal motivación para el 36% de los encuestados
- Aumentar los ingresos y las conversiones viene justo después, con el 24%
- Reducción de costos operativos es mencionada por el 16% de los participantes
Estos números son interesantes porque muestran que la mayoría de las empresas, al menos en el discurso, están poniendo la experiencia del cliente por delante de la reducción de costos. Pero la realidad de las reversiones sugiere que, en la ejecución, no siempre esa prioridad se refleja en las decisiones tomadas durante la implementación.
El impacto directo en la satisfacción del cliente
Al final del día, el termómetro más importante de cualquier estrategia de atención al cliente es la satisfacción del cliente, y es exactamente aquí donde las fallas de los agentes de IA están dejando las marcas más profundas. Clientes que interactúan con un agente de IA y reciben respuestas genéricas, incorrectas o que simplemente no resuelven el problema salen de esa experiencia con una impresión negativa que va mucho más allá de la interacción en sí. Asocian esa frustración con la empresa en su conjunto, y en un mercado donde la competencia es alta y la fidelidad del consumidor es cada vez más volátil, ese tipo de experiencia negativa tiene un costo alto y muchas veces difícil de revertir.
Ese sentimiento no es exclusivo de los líderes de tecnología. Investigaciones anteriores, como una realizada por Pega, ya mostraron que más de la mitad de los consumidores no confía en que las empresas estén usando IA de forma responsable en la atención al cliente. Y un estudio de 2024 reveló que muchas personas estaban buscando respuestas en internet específicamente para evitar interactuar con chatbots automatizados. Es decir, existe un problema de confianza creciente que las empresas necesitan enfrentar de frente.
Herramientas que usamos a diario
Lo que los datos de Sinch dejan claro es que la satisfacción del cliente no puede ser sacrificada en nombre de la eficiencia operativa. Empresas que implementaron agentes de IA con un enfoque casi exclusivo en reducción de costos y aumento de escala, sin prestar la debida atención a la calidad de las interacciones, están cosechando los frutos amargos de esa elección ahora. La reversión de agentes de IA no es solo una señal de falla tecnológica, es una señal de que la experiencia del cliente fue comprometida hasta el punto de hacer la operación insostenible. Y eso tiene un peso enorme para los equipos de atención, que necesitan lidiar con clientes frustrados por la mala experiencia previa con el agente automatizado.
Por otro lado, existen casos en los que los agentes de IA están funcionando bien y contribuyendo positivamente a la satisfacción del cliente, y en esos casos el denominador común casi siempre es el mismo: la empresa invirtió tiempo y recursos para entender las necesidades reales de los clientes antes de definir el alcance de actuación del agente, estableció límites claros para lo que el sistema puede y no puede resolver de forma autónoma, y mantuvo canales de escalamiento humano eficientes para cuando el agente no puede resolverlo. Esa combinación de autonomía bien calibrada con supervisión humana presente parece ser el modelo que más se acerca a un equilibrio real entre eficiencia y experiencia.
Qué esperar de aquí en adelante
Con el 98% de las empresas planeando aumentar las inversiones en IA para atención al cliente incluso después de tantas reversiones, queda claro que el mercado no está retrocediendo de la tecnología, está intentando entender cómo usarla mejor. Y esa es una señal positiva, siempre y cuando las lecciones aprendidas de las fallas sean efectivamente incorporadas en las próximas implementaciones. El problema es que la presión por velocidad de adopción sigue siendo enorme, y la tentación de repetir los mismos errores, poniendo agentes de IA a operar sin la estructura de gobernanza adecuada, sin los datos bien preparados y sin una estrategia clara de gestión de riesgos de datos, todavía es bastante real en buena parte de las organizaciones.
La maduración del mercado en torno a los agentes de IA para atención al cliente va a depender mucho de la capacidad de las empresas de tratar esta tecnología con la seriedad que exige. No como un atajo para recortar costos rápidamente, sino como una transformación estructural que necesita ser construida con cuidado, con las personas correctas involucradas, con procesos bien definidos y con una visión clara de que el objetivo final siempre es entregar una experiencia mejor para quien está del otro lado de la conversación.
Los insights de Daniel Morris, de Sinch, refuerzan esta perspectiva. La gobernanza no es la solución mágica que resuelve todos los problemas. Si lo fuera, los equipos más maduros revertirían menos agentes, y no más. La gobernanza es una pieza fundamental del rompecabezas, pero necesita venir acompañada de una infraestructura de comunicación que ya proporcione capas de seguridad de forma nativa, liberando a los equipos de ingeniería para enfocarse en lo que realmente importa: construir experiencias mejores para los clientes. 🎯
Los números son desafiantes, pero también son una invitación a hacer las cosas diferente. Y hacer diferente, en este contexto, empieza por reconocer que tecnología sin estrategia es solo costo con otro nombre.
