Яндекс выпустил открытую модель Alice AI Search с 35 миллиардами параметров

Яндекс опубликовал претренированную модель Alice AI-T5-35B-A0.6B Base, которая используется в генеративных ответах поиска. Модель доступна в открытом доступе через Hugging Face Transformers, хотя оптимизированный production-инференс остаётся внутри компании.

В июньском релизе команда Alice AI Search ускорила ответы за счёт коротких инфоконтекстов и комбинации архитектуры Encoder-Decoder с разреженной MoE. Система обучается на поведенческих сигналах пользователей в реальном времени, чтобы выдавать лаконичные ответы даже при пиковых нагрузках.