Новая экспериментальная модель «Яндекса» Alice AI Foundation LLM опережает по возможностям зарубежные аналоги
«Яндекс» предоставила открытый доступ к Alice AI Foundation LLM (AliceAI-Foundation-80B-A3B-Base) — новую, созданную с нуля предобученную LLM с архитектурой MoE (Mixture of Experts). Модель носит экспериментальный характер и включает 80 млрд параметров, из которых при обработке токена активны только 3 млрд, что позволяет увеличить скорость и задействовать меньше вычислительных ресурсов. Модель предоставляется под лицензией Apache 2.