Стартап Recursive, основанный в прошлом году и занимающийся разработкой искусственного интеллекта, представил свою первую модель Flint. Об этом сообщает TechCrunch. Flint — это бесплатная модель для программирования, которая может работать на ноутбуке и была в значительной степени создана при помощи ИИ.
Автоматизированная исследовательская система компании, получившая название Eureka Machine, участвовала почти на всех этапах разработки Flint. Благодаря этому небольшая команда смогла создать модель с нуля менее чем за четыре месяца. Flint стал ранней публичной проверкой идеи рекурсивного самосовершенствования, согласно которой ИИ способен создавать более совершенный ИИ, а тот, в свою очередь, — ещё более продвинутый.
Компания вышла из режима скрытой работы в мае, привлекла 650 миллионов долларов при оценке в 4,65 миллиарда долларов. Среди инвесторов — GV, Nvidia и AMD Ventures. Возглавляет Recursive Ричард Сочер, бывший главный научный сотрудник Salesforce.
Поскольку Flint работает на компьютере пользователя, а не на облачных серверах компании, разработчики могут применять его офлайн, сохранять код в тайне и не платить за использование, которое облачные сервисы ИИ рассчитывают по объёму обрабатываемого текста. Модель бесплатно доступна для скачивания на Hugging Face под лицензией Apache 2.0, допускающей свободное использование и изменение.
Flint построен по схеме mixture-of-experts (смесь экспертов): для каждой задачи задействуется лишь малая часть модели — 2,5 миллиарда из 40 миллиардов параметров. Это делает её достаточно лёгкой для обычного ноутбука и значительно меньше открытой модели Muse Spark Open от Meta (признана в РФ экстремистской и запрещена), рассчитанной на компьютеры Mac. В тестах Recursive Flint выдавал около 131 токена (фрагмента текста) в секунду на MacBook Pro с чипом Apple M4 Pro, что примерно вдвое больше, чем у аналогичных моделей на той же машине. На SWE-Bench Verified, оценивающем способность ИИ исправлять реальные ошибки в программном обеспечении, Flint обошёл другие модели с числом параметров до 50 миллиардов.
В компании признали, что Flint потребует больше указаний, чем крупные платные помощники для программирования, и предложили разбивать большие задачи на мелкие шаги. Система Eureka Machine предлагает идеи, проводит эксперименты и по их результатам решает, что пробовать дальше. По словам Ричарда Сочера, долгосрочная цель — добиться полного рекурсивного самосовершенствования при человеческом надзоре, который позволит остановить процесс в случае проблем.