Latency (השהייה) היא מדד קריטי בסוכנים קוליים. השהייה גבוהה גורמת לשיחה להרגיש לא טבעית ומתסכלת. השהייה אופטימלית היא מתחת ל-500 מילישניות — דומה לזמן התגובה הטבעי של אדם בשיחה. גורמים שמשפיעים על השהייה: מיקום השרתים, מהירות ה-ASR, זמן עיבוד ה-LLM, ומהירות ה-TTS. לפי Google Research, השהייה מעל 2 שניות מפחיתה שביעות רצון ב-40% (מקור: Google Cloud, 2024). Yappr משתמשת בשרתים מקומיים בישראל להשהייה מינימלית.

Latency — השהייה

מונחים קשורים

מאמרים קשורים