Французская компания Mistral AI представила новую большую мультимодальную модель Mistral Large 4 (ML4), которая, по замыслу разработчиков, должна обойти конкурентов из США и Китая. Об этом сообщает TechCrunch. Презентация состоялась на фоне растущего противостояния между закрытыми моделями, которые можно в любой момент отключить, и открытыми решениями, часто создаваемыми в Китае.
Mistral позиционирует ML4 как альтернативу обеим этим категориям. Модель получила неофициальное прозвище Le Chonk, что связано с её триллионом параметров. Пока доступ к ней открыт только через публичный endpoint (точку доступа) с защитными ограничениями. Веса модели планируется опубликовать через три недели, после завершения проверок безопасности.
«Тем временем мы будем работать с доверенными партнёрами и правительствами, чтобы открытые веса можно было использовать для защиты, а не для вредоносных атак», — заявил вице-президент Mistral по науке Пьер Сток в интервью TechCrunch. По его словам, открытые модели проще проверять на безопасность, что важно для корпоративных и государственных клиентов.
ML4 обучалась полностью на собственных вычислительных мощностях Mistral. Как отметил Сток, для этого потребовалось всего 4 тысячи графических процессоров Nvidia — в два-три раза меньше, чем у китайских конкурентов, и значительно меньше, чем у закрытых разработчиков.
Результаты бенчмарков пока не опубликованы, но в Mistral рассчитывают, что ML4 станет лучшей среди открытых моделей, особенно за пределами Китая. Благодаря целенаправленному обучению она может превзойти закрытые аналоги в отдельных областях, важных для клиентов компании, где мультимодальные возможности дают преимущество. Среди оптимизированных сценариев использования — кибербезопасность, финансы и проектирование чипов.
Проектирование чипов имеет особое значение для двух ключевых инвесторов Mistral: нидерландской ASML, возглавившей раунд Series C, и Samsung, которая в прошлом месяце провела Series D при оценке компании в 21 млрд евро (около 24,39 млрд долларов). Ранее Mistral подчёркивала, что размещение китайских моделей на своих мощностях не означает превращения компании в простого поставщика инференса. С выпуском Le Chonk в компании по-прежнему считают себя фронтирной лабораторией.