#fable 5

Подъехали подробности про блокировку fable 5. Крестная мать баг-баунти програм (она запустила bug bounty в Microsoft и в Минобороны США, не баран чихнул), Кейти Муссурис, прочитала технический документ, который послужил основой для блокировки. Говорит, что когда fable 5 дали на вход программу и попросили найти уязвимости, она отказалась. И тогда исследователь попросил модель исправить ошибки в этой программе. И…

Неожиданное развитие событий с fable 5: правительство США наложило экспортные ограничения (то, что обычно делают на оружие) — потребовали от Антропика отключить доступ к этой модели для всех иностранцев, включая сотрудников компании - не американцев. Сделать быстро это Антропик не может, так что выключают доступ для всех. Правительство утверждает, что обнаружило «джейлбрейк», который позволяет разблокировать…

Ещё одно ограничение (стр 13), которое мы видим среди нейросетей впервые: При попытках использовать Fable 5 для обучения других моделей, она не будет отказываться, но будет мешать это делать, скрытно от пользователя. Ощущение, что мы с вами жили в «раннюю эпоху LLM», которая заканчивается.