Репортаж от Wedoany，Японский AI-стартап Sakana AI основал исследовательскую лабораторию рекурсивного самосовершенствования (Recursive Self-Improvement, RSI), целью которой является разработка AI-систем, способных автономно оптимизировать собственный процесс разработки — от архитектуры и обучения до оценки. В блоге, посвящённом созданию лаборатории, компания заявила, что будет работать над созданием «открытых, адаптивных архитектур», способных к совместному самосовершенствованию.
Стартап определил четыре этапа RSI. Первый этап — «Нативные агентные модели» (Agent-Native Models), предполагающий разработку AI-архитектур и мировых моделей для открытых агентных задач с нуля, в отличие от традиционных чат-приложений. Второй этап — «AI-учёный» (The AI Scientist), на котором модель будет автономно проводить научные исследования, охватывающие весь процесс от выдвижения идей и экспериментов до расширения научных знаний. Третий этап — «Рекурсивное самосовершенствование», описывающий переход системы к способности улучшать собственные базовые модели и архитектуры; AI-агенты должны самостоятельно писать, тестировать и проверять код, запуская тем самым автономный цикл самооптимизации. В качестве долгосрочной цели Sakana AI выдвигает «демократизацию AI», полагая, что благодаря рекурсивному самосовершенствованию и более эффективному использованию вычислительных ресурсов небольшие страны, учреждения и компании также смогут разрабатывать мощные AI-системы, не полагаясь на гигантские дата-центры крупных технологических корпораций.
Sakana AI позиционирует RSI как возможную альтернативу гонке вооружений в области аппаратного обеспечения среди крупных AI-лабораторий, подчёркивая, что рекурсивное самосовершенствование должно быть достижимо с помощью «умеренных, эффективных по выборке вычислений». Однако остаётся сомнительным, сможет ли RSI действительно устранить преимущества сверхкрупных дата-центров, и эта идея не является новой — многие AI-инкубаторы уже экспериментируют с RSI. Sakana AI была основана в 2023 году бывшими исследователями Google. Сооснователь Llion Jones является одним из авторов влиятельной статьи о трансформерах «Attention Is All You Need», а David Ha ранее занимался исследованиями в Google Brain и Stability AI. Название компании на японском языке означает «рыба», что указывает на роевое поведение и коллективный интеллект.
Создание лаборатории RSI происходит на фоне усиливающихся дебатов о рисках саморазвивающегося AI. Компания Anthropic уже предупреждала об опасностях саморазвивающегося AI и выступает за скоординированное замедление развития ведущих AI-систем. Сама Sakana AI перечисляет следующие риски: эволюционные циклы могут отклоняться от заданного распределения; самомодификация может проходить бенчмарки, но терпеть неудачу на практике; агенты могут находить нежелательные лазейки. Компания объявила, что будет публиковать результаты открыто (включая негативные) и строить циклы самосовершенствования с проверяемыми механизмами безопасности. Лаборатория, расположенная в Токио, в настоящее время ведёт набор на должности ведущих научных исследователей (Frontier Research Scientists) и старших ключевых инженеров (Advanced Core Engineers).
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
