Por qué tu agente de voz solo tiene un segundo

Una empresa de climatización probó su agente de voz durante dos semanas en demos internas, y todo el mundo salió convencido: entendía las preguntas, reservaba la visita técnica sin equivocarse y sonaba sorprendentemente natural. El día que empezó a atender llamadas reales, sin embargo, los clientes lo interrumpían, hablaban por encima de él y colgaban antes de que terminara sus frases. El guion era exactamente el mismo que había brillado en las demos. Lo que había cambiado era el contexto: en la oficina, con buena conexión y sin carga, el agente respondía casi al instante, mientras que en producción, con líneas telefónicas reales de por medio, tardaba casi dos segundos en contestar cada frase.

Dos segundos no parecen gran cosa escritos en un informe, pero en una conversación hablada son una eternidad. Dan tiempo de sobra para que la persona piense que la llamada se ha cortado, repita lo que acababa de decir y pise la respuesta del agente justo cuando esta empieza a sonar. A partir de ese momento la conversación entera se desordena, y ya no hay guion que la rescate.

La lección incomoda, pero es sencilla: el diseño conversacional más cuidado no sirve de nada si la infraestructura que tiene debajo no puede entregarlo a tiempo. El tiempo, en voz, es un recurso fijo que se gasta, y conviene saber exactamente cuánto tienes y en qué se te está yendo.

El segundo que lo decide todo

Una conversación por voz solo se siente natural cuando la respuesta llega en torno a un segundo. Por debajo de esa cifra la interacción parece fluida; por encima empieza a notarse el hueco, y lo que al principio es una pausa incómoda se convierte enseguida en la sensación inequívoca de que algo se ha roto.

No se trata de una opinión estética, sino de cómo funciona la conversación humana. Cuando hablamos entre personas, los silencios largos significan algo —duda, desacuerdo, que el otro no ha entendido—, y nuestro cerebro lleva toda la vida entrenándose para leerlos. Por eso, cuando un agente deja dos segundos de silencio después de cada cosa que decimos, no lo interpretamos como que está "pensando", sino como un fallo, y reaccionamos en consecuencia: repetimos, interrumpimos o colgamos.

De ahí sale una regla práctica tan dura como simple: tienes alrededor de 1.000 milisegundos desde que la persona termina de hablar hasta que tu agente empieza a responder. Ese es todo tu presupuesto, y cada decisión técnica que tomes gasta de él.

Cómo se reparte ese segundo

Un agente de voz no es una sola pieza, sino varias encadenadas, y cada una consume su parte del presupuesto. En un reparto realista de esos 1.000 milisegundos, la transcripción —convertir en texto lo que la persona acaba de decir— se lleva unos 200; el razonamiento del modelo, que tiene que entender la intención, decidir qué hacer y generar la respuesta, consume alrededor de 400; la síntesis de voz necesita otros 200 para que esa respuesta suene humana; y el viaje de los datos por la línea telefónica y por internet, ida y vuelta, se queda con los 200 restantes.

Sumado, encaja por los pelos, y ese "por los pelos" es justamente la clave: no hay margen para el descuido. En cuanto una de las piezas se pasa de su parte, el total supera el segundo y la conversación se resiente. La telefonía apenas admite negociación; el resto, afortunadamente, sí.

Dónde se esconde la latencia

Lo difícil no es el reparto teórico, sino que hay retrasos que no aparecen en la demo y sí en producción. Después de ver unos cuantos proyectos, uno acaba sabiendo que el tiempo perdido casi siempre se esconde en los mismos cuatro sitios.

1. Prompts demasiado largos

Cuanto más larga es la instrucción que recibe el modelo, más tarda en procesarla, y la tentación de meterlo todo "por si acaso" —el catálogo entero, las cien preguntas frecuentes, las normas de la casa— es enorme. El problema es que cada palabra de más se paga en cada respuesta, durante toda la llamada. Un prompt de 1.500 palabras no sale gratis: añade décimas de segundo que salen directamente de tu presupuesto, y las añade siempre.

2. Llamadas a sistemas a mitad de respuesta

Si el agente tiene que consultar el calendario de citas o el CRM antes de contestar, ese tiempo también cuenta, y una API interna que tarda 800 milisegundos en responder se convierte en el cuello de botella de toda la llamada por muy rápido que sea el modelo. La cuenta es implacable: si una herramienta que necesitas sí o sí tarda 300 milisegundos de media, tu presupuesto para el modelo ya no es de 400, sino de 100. Por eso las herramientas se presupuestan aparte, y definir bien cada una es justo el tema de el contrato entre tu agente y tus sistemas.

3. Un backend que no acompaña

El agente es exactamente tan rápido como lo más lento a lo que se conecta. Si tu sistema de gestión responde en milisegundos, perfecto; pero si la consulta tiene que pasar por tres saltos, una base de datos antigua y un servicio que se despierta con calma, el agente espera, y la persona al teléfono espera con él. Esto rara vez se ve en las pruebas, porque en pruebas el backend está descargado y responde como un atleta descansado. En producción, con cientos de llamadas a la vez, es otra historia.

4. Generar toda la voz antes de empezar a hablar

Hay dos formas de sintetizar la voz: esperar a tener la frase entera generada para reproducirla, o empezar a reproducir las primeras palabras mientras el resto todavía se está generando. La segunda, la síntesis en streaming, ahorra entre 100 y 200 milisegundos de espera percibida, y no es un detalle técnico menor: es la diferencia entre un agente que "arranca" enseguida y uno que deja un silencio incómodo antes de cada respuesta.

Dos decisiones que recuperan medio segundo

La buena noticia es que dos cambios de arquitectura recuperan buena parte del presupuesto sin tocar una sola línea del guion.

El primero es la síntesis de voz en streaming: que el agente empiece a hablar en cuanto tiene las primeras palabras, en lugar de esperar a la frase completa. Solo con eso recuperas hasta 200 milisegundos, y la sensación de inmediatez cambia por completo.

El segundo consiste en sustituir el prompt gigante por recuperación de información. En vez de meter toda la documentación en la instrucción, se guarda en una base de conocimiento consultable y el agente recupera únicamente el fragmento relevante para cada pregunta. Así el prompt se mantiene corto —y el modelo, rápido— a cambio de unos 50 a 100 milisegundos por consulta. Lo mejor de este enfoque es que escala sin penalización: puedes añadir mil documentos más sin ralentizar la respuesta, porque el agente no los carga todos, solo busca el que necesita en cada momento.

Mide en producción, no en el folleto

Todos los proveedores de transcripción y de voz publican sus tiempos, y casi siempre son los del mejor caso, medidos en condiciones de laboratorio. Lo único que de verdad importa es la latencia real con tu telefonía, tus integraciones y tu volumen, porque cien milisegundos de más en un proveedor se comen el 10 % de tu presupuesto total. Merece la pena medirlo de verdad antes de comprometerse con nadie.

Y cuidado con confundir rápido con bueno. Un sistema de transcripción veloz pero impreciso es peor que uno algo más lento y fiable, porque si entiende mal lo que dice la persona, el agente responde a algo que nadie ha dicho, la persona corrige, y la conversación entra en un bucle que la destroza. La precisión también forma parte del presupuesto de tiempo, aunque a primera vista no lo parezca.

El presupuesto, en una plantilla

Antes de dar por bueno un agente de voz, merece la pena pasarlo por esta lista. No es burocracia: es lo que separa una demo que impresiona de un agente que aguanta una jornada real de trabajo.

• ¿La respuesta llega por debajo de un segundo en producción, no en la demo?
• ¿Has medido cada pieza por separado —transcripción, modelo, voz, red— para saber cuál se pasa?
• ¿El prompt es lo más corto posible, con la documentación fuera, en una base de conocimiento?
• ¿Las herramientas que el agente usa sí o sí tienen su propio presupuesto de tiempo medido?
• ¿La voz se reproduce en streaming, sin esperar a generar la frase entera?
• ¿Mides la latencia de forma continua, no solo el día del lanzamiento?

Un agente bien diseñado sobre una infraestructura lenta siempre pierde contra uno más sencillo que responde a tiempo, porque la conversación solo se siente natural cuando lo que hay debajo puede entregarla sin titubear. El presupuesto de latencia no es un tecnicismo para ingenieros: es, al final, la diferencia entre que la gente hable con tu agente o le cuelgue.