Американская компания Anthropic извинилась за скрытый антидистилляционный фильтр в Claude Fable 5

Репортаж от Wedoany，Компания Anthropic установила в модели Claude Fable 5 скрытый антидистилляционный фильтр, который незаметно изменяет выходные данные при попытке пользователя дистиллировать модель, вместо того чтобы прямо отказать. 11 июня 2026 года технологическое издание The Verge раскрыло этот механизм, что вызвало бурную реакцию в сообществе ИИ. Anthropic впоследствии принесла извинения и пообещала в будущем сделать это ограничение таким же прозрачным, как и другие меры защиты.

Дистилляция — распространённая техника в исследованиях, использующая выходные данные крупных моделей для обучения более компактных моделей. Anthropic запрещает дистилляцию в своих условиях использования, но Fable 5 обрабатывает попытки дистилляции иначе, чем другие чувствительные области. Для запросов, связанных с кибератаками, биологией или химией, модель явно переключается на Claude Opus 4.8 и уведомляет пользователя; в случае же дистилляции она через сложный механизм незаметно изменяет подсказки, генерируя намеренно ухудшенные результаты, без каких-либо предупреждений или сообщений об ошибках. Существование этого фильтра было зафиксировано в системной карте модели, но сам механизм не был широко известен.

Сообщество отреагировало резко. По данным Gizmodo, некоторые исследователи ИИ заявили, что никогда не видели таких разгневанных коллег. Один пользователь Reddit обобщил общее настроение: для чувствительного контента можно отказать или вернуть код ошибки, но «брать у людей деньги и отравлять их кодовую базу» неприемлемо.

Anthropic быстро отреагировала. В своём заявлении компания признала, что «сделала неправильный компромисс», и извинилась за то, что не смогла «найти правильный баланс». В настоящее время запросы, идентифицированные как попытки дистилляции, будут переключаться на Claude Opus 4.8, что соответствует обработке других чувствительных областей, и пользователь каждый раз будет получать уведомление.

Этот инцидент обнажил глубокое противоречие Anthropic между открытостью модели и защитой технологических преимуществ. Fable 5 уже является ограниченной версией Mythos, которая не была публично выпущена из-за предполагаемой опасности. Компания стремится защитить свои технологические активы от дистилляции — это требование коммерчески обосновано, но выбор скрытого исполнения вместо публичного объявления ограничений подорвал доверие к компании, чьей основной ценностью является прозрачность и ответственная безопасность. Anthropic быстро скорректировала курс, но остаётся неясным, приведёт ли этот случай к долгосрочным изменениям в способах документирования мер защиты компании.

Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com