В предверии презентации Apple, которая пока так и не смогла ничего показать в части развития Siri и похоже безнадежно отстала от Google с его Pixel 10 (но как раз сегодня мы это окончательно и узнаем), хочу поделиться интересной статьей про опыт компании Amazon в разработке нового поколения Alexa+ на базе современных GenAI технологий. Мне, как человеку, который имел опыт разработки подобного массового b2c виртуального ассистента и не понаслышке знает о том, насколько технологически сложная эта задача, данный материал показался особенно интересным :) Итак, не все так просто и удачно получилось и похоже пока еще процесс разработки далек от завершения. Для интеграции ИИ Amazon объединила более 70 моделей (собственные и сторонние, включая Anthropic Claude) в единую оркестрационную систему, которая маршрутизирует запросы к наиболее подходящей модели. Основная инженерная проблема — переход от детерминированных алгоритмов (старой Alexa, основанной на правилах) к стохастическим системам (L.L.M.), что привело к снижению надежности и скорости отклика. Эту же проблему отмечали в материалах про опыт Apple по разработке Siri - компания так и не смогла добиться нужного качества продукта и отмечала, что требуется не просто развитие текущей архитектуры, а полное переосмысление решения и дизайна. Так же в процессе разработки команда столкнулась с медленной работой ИИ при выполнении сложных инструкций (например, задержка 30 секунд на проигрывание песни). Alexa+ иногда “галлюцинирует” факты, ошибается в базовых задачах (например, отмена будильника), и может выдавать чрезмерно длинные ответы. Ключевые выводы - Интеграция L.L.M. в голосового помощника требует не просто замены модели, а полной перестройки архитектуры, включая оркестрацию множества ИИ-моделей. - Стохастическая природа LLM делает систему более гибкой, но менее предсказуемой и надежной для бытовых задач. - Важно балансировать между творческими возможностями ИИ и необходимостью стабильного выполнения простых команд. - Оптимизация скорости отклика и сокращение “многословия” — ключевые задачи для внедрения ИИ в реальном продукте. - Пользовательские привычки (“говорить на языке Alexa”) требуют адаптации интерфейса для плавного перехода к новым возможностям. https://www.nytimes.com/2025/08/09/business/alexa-artificial-intelligence-amazon.html?unlocked_article_code=1.dU8.mapx.vy_6-4U6vKcv&smid=url-share&utm_source=tldrnewsletter
В предверии презентации Apple, которая пока так и не смогла ничего показать в…
Из этого канала
- #2451How Salesforce Delivers Reliable, Low-Latency AI Inference Сейчас довольно…
How Salesforce Delivers Reliable, Low-Latency AI Inference Сейчас довольно остро стоит задача по повышению скорости инференса в AI LLM-based решениях.
- #2452Как ИИ изменит ЧЕЛОВЕЧЕСТВО? | Давид Ян, Кремниевая долина Посмотрел очередное…
Как ИИ изменит ЧЕЛОВЕЧЕСТВО? | Давид Ян, Кремниевая долина Посмотрел очередное интервью Давида Яна.
- #24536x Faster ML Inference: Why Online≫Batch Кейс компании Whatnot. Они столкнулись…
6x Faster ML Inference: Why Online≫Batch Кейс компании Whatnot. Они столкнулись с проблемой масштабирования пакетного ML-инференса: ежедневная обработка 10+…
- #2449Дайджест статей Как аналитики Авито с помощью ML помогают людям выбирать…
Дайджест статей Как аналитики Авито с помощью ML помогают людям выбирать хорошие авто с пробегом https://habr.com/ru/companies/avito/articles/937610/…
- #2447OpenAI представила gpt-realtime — продвинутую модель для голосовых агентов с…
OpenAI представила gpt-realtime — продвинутую модель для голосовых агентов с новыми API-возможностями.