Programa de formação de vendedores, 2025
Treinamento de vendas por voz com IA
Uma prova de conceito de conversa por voz com IA em tempo real para treinar vendedores, orquestrando transcrição, modelo de linguagem e síntese de voz para chegar a latência abaixo de 800 ms com custo de cerca de US$ 0,025 por minuto.
Tecnologias: NestJS, WebSockets, React, Deepgram, Groq, Llama 3
- latência de resposta por voz
- < 800 ms
- custo, contra ~US$ 0,20/min de uma API pronta
- ~US$ 0,025/min
O problema
Um produto de treinamento de vendas com IA precisa que o aluno converse por voz com um "cliente" simulado, em tempo real. As APIs prontas de voz entregam a experiência, mas custam em torno de US$ 0,20 por minuto. Para um produto com milhares de horas de uso, essa conta inviabiliza o negócio.
O que construímos
Uma prova de conceito que orquestra serviços especializados em vez de depender de uma API fechada:
- Transcrição em streaming do áudio do aluno;
- Modelo de linguagem rápido gerando a resposta do cliente simulado token a token;
- Detecção de frases no gateway, para mandar à síntese de voz frases completas assim que ficam prontas;
- Síntese de voz devolvida em fila para o navegador;
- Interrupção natural (barge-in): o aluno pode cortar a IA no meio da frase, como numa conversa real.
As decisões de engenharia que fazem a diferença
- WebSockets bidirecionais com áudio binário, sem o gargalo de requisições REST.
- Orquestração manual de transcrição, modelo e voz, cada um escolhido pelo melhor custo e latência para a sua etapa.
- Buffer por frase: a voz começa a tocar antes do modelo terminar a resposta inteira.
Resultado
| Métrica | API de voz pronta | Orquestração própria |
|---|---|---|
| Custo | ~US$ 0,20/min | ~US$ 0,025/min |
| Latência | excelente | abaixo de 800 ms |
| Controle | ecossistema fechado | controle total |
A prova de conceito mostrou que o produto é economicamente viável. É o tipo de decisão que descrevemos em inteligência artificial sob medida.