Sentry-0.1, de Cresta, identifica agentes personales de IA en las conversaciones con empresas
El lanzamiento de Sentry-0.1 responde al crecimiento de estos agentes, que pueden realizar gestiones como comparar precios, solicitar descuentos o modificar reservas sin que el usuario tenga que interactuar directamente con la empresa. A mediados de septiembre, el tráfico de agentes personales de IA que contactaron con clientes de Cresta se multiplicó por más de 80, según datos de la compañía.
Esta tendencia plantea nuevos desafíos para los equipos de atención al cliente, que necesitan identificar estas interacciones, establecer qué solicitudes pueden resolverse automáticamente y determinar cuándo es necesaria una verificación adicional o la intervención directa del cliente.
Un modelo que identifica patrones de comportamiento en las conversaciones
Integrado en la plataforma de inteligencia artificial de Cresta, Sentry-0.1 analiza las conversaciones en tiempo real para identificar señales que puedan indicar que un agente personal de IA está actuando en nombre de un consumidor, incluso cuando no se identifica expresamente como tal.
Para ello, el modelo combina diferentes patrones de lenguaje y comportamiento. Entre ellos se encuentran las referencias indirectas al usuario, como hablar de «el usuario» o «la cuenta» en lugar de «yo» o «mi cuenta»; las menciones a limitaciones técnicas, como no poder abrir enlaces; la repetición casi literal de solicitudes anteriores; o la agrupación de múltiples preguntas en un único mensaje.
También tiene en cuenta patrones asociados a las conversaciones humanas, como las expresiones de duda o las autocorrecciones. En lugar de clasificar una interacción a partir de una única señal, el modelo analiza el contexto global de la conversación para determinar si existen indicios de que está siendo gestionada por un agente de IA.
En sus evaluaciones preliminares, Sentry-0.1 ha obtenido una puntuación F1 aproximada de 0,9, una métrica que combina precisión y capacidad de detección. Cresta señala que estos patrones no son concluyentes por sí solos y que identificar una posible interacción con un agente de IA no sustituye la comprobación de la identidad del cliente ni de los permisos necesarios para realizar operaciones sensibles.
De la detección a la gestión de las interacciones
La detección se integra directamente en la plataforma de Cresta para que las empresas puedan utilizar esta información durante la atención al cliente y en el análisis posterior de las conversaciones.
Cuando un empleado atiende una interacción con un posible agente personal de IA, la plataforma puede ofrecerle orientación en tiempo real sobre qué solicitudes puede gestionar, qué acciones requieren comprobaciones adicionales y cuándo es necesario que el cliente confirme directamente una operación, por ejemplo, mediante SMS o a través de la aplicación de la empresa.
Si la conversación la gestiona un agente de IA de la propia compañía, la señal de detección puede ayudar a dirigir la solicitud según las políticas establecidas. Así, una consulta informativa podría resolverse automáticamente, mientras que un cambio en una cuenta o un pago podría requerir una verificación adicional o la aprobación del cliente.
La información obtenida también permite a los equipos analizar por qué contactan estos agentes con la empresa, qué tipos de solicitudes están aumentando y cómo se resuelven las conversaciones. De esta forma, las organizaciones pueden identificar tendencias emergentes y posibles patrones de abuso, como ráfagas de solicitudes idénticas o intentos sistemáticos de encontrar excepciones a las políticas comerciales, y adaptar sus procesos de atención.
Sentry-0.1 ya está disponible para los clientes de Cresta. Con este lanzamiento, la compañía busca ayudar a las organizaciones a comprender mejor el impacto de los agentes personales de IA en sus operaciones, orientar las respuestas de sus equipos y adaptar sus políticas a medida que evoluciona esta nueva forma de interacción entre consumidores y empresas.
