Компания «Яндекс» создала собственную большую языковую модель Alice AI Foundation LLM, которая была обучена с нуля без привлечения сторонних иностранных компонентов. Об этом сообщают «Ведомости» со ссылкой на представителя компании. Разработку позиционируют как полностью суверенную.
«Яндекс» опубликовал настроенные параметры модели, которые дают разработчикам возможность самостоятельно запускать и дообучать её. Лицензия позволяет свободно использовать модель в коммерческих и исследовательских проектах. Об этом также сообщают «Ведомости» со ссылкой на слова представителя компании.
Новая модель стала более крупной и универсальной по сравнению с предыдущими разработками. Она содержит 80 миллиардов параметров, из которых активны три миллиарда. Обучение проводилось на 18 триллионах токенов.
Alice AI Foundation LLM должна лечь в основу будущей рассуждающей модели компании, а также агентных возможностей «Алисы AI». Стоимость разработки «Яндекс» не раскрывает. Оценки расходов различаются из-за разных методик подсчёта, добавили «Ведомости».