Сравнение затрат на модели преобразования текста в речь для голосовых агентов

Разработчики голосовых агентов сталкиваются с серьезными проблемами в управлении затратами на модели преобразования текста в речь (TTS), которые представляют собой самый дорогой компонент типичной каскадной архитектуры, используемой в производстве: распознавание речи, большая языковая модель и преобразование текста в речь. Недавний анализ подчеркивает сложности сравнения затрат TTS из-за различных ставок преобразования символов в минуту, скрытых сборов за параллельное использование и различий в метриках производительности.

Ключевые поставщики TTS и метрики затрат

Согласно анализу, лишь небольшое количество поставщиков TTS соответствует требованиям естественности и отзывчивости для голосовых агентов в производстве. К ним относятся AssemblyAI, ElevenLabs, Cartesia, Rime и Fish. Каждый поставщик предлагает различные структуры цен и характеристики производительности, что затрудняет прямые сравнения.

Для стандартизации сравнений затрат анализ использует коэффициент преобразования в 600 символов в минуту, полученный из обширных производственных данных. Нормализованные расходы на каждую минуту для каждого поставщика следующие:

• AssemblyAI-TTS-1: $15 за миллион символов ($0.009 за минуту), неограниченная параллельность, 90 ms Время до первого звука (TTFA).
• ElevenLabs v4 Turbo: $40 за миллион символов ($0.024 за минуту), ~$10 ежемесячное обязательство по расходам за каждую параллельную вызов, 190 ms TTFA.
• Cartesia Sonic 3.6: $37.50 за миллион символов ($0.0225 за минуту), ~$10 ежемесячное обязательство по расходам за каждую параллельную вызов, 285 ms TTFA.
• Rime Coda: $50 за миллион символов ($0.03 за минуту), неограниченная параллельность, 395 ms TTFA.
• Fish Drama 3: $50 за миллион символов ($0.03 за минуту), ~$10 ежемесячное обязательство по расходам за каждую параллельную вызов, 370 ms TTFA.

Параллельность и скрытые расходы

Ограничения по параллельности и скрытые сборы — значительная боль для разработчиков. Большинство поставщиков TTS требуют годовых контрактов для разблокировки параллельного использования в масштабах производства, с обязательством среднего расхода $10 в месяц за каждый параллельный вызов голосового агента. Это может привести к значительным первоначальным затратам на масштабирование новых приложений, так как неиспользованные обязательства не подлежат возврату.

В отличие от этого, AssemblyAI предлагает неограниченную параллельность без необходимости обязательств по расходам, позволяя разработчикам масштабировать свои приложения без достижения пределов параллельности или заключения дополнительных контрактов.

Производительность и опыт разработчика

AssemblyAI-TTS-1 выделяется благодаря сочетанию низкой задержки (~90 ms TTFA), конкурентоспособных цен ($0.009 за минуту) и неограниченной параллельности. Эти функции делают его привлекательным выбором для разработчиков, стремящихся оптимизировать как затраты, так и производительность в производственных условиях.

Обращаясь к комплексности нормализации затрат и устраняя барьеры, связанные с параллельностью, AssemblyAI нацелена на упрощение развертывания голосовых агентов в масштабах, позволяя разработчикам сосредоточиться на создании своих продуктов без операционных узких мест.