запуск завтра

HF опубликовали подробный разбор, как их взломала новая модель OpenAI.

Модель не находила новых зеродеев, но настойчивости человека бы не хватило собрать уязвимости в цепочку, а вот модель собрала. Ну и защищающиеся использовали опен-сорс модели для анализа действий атакующих.

Впечатляющий интерактивный дэшборд.

В америке впервые предъявили обвинения чуваку, который вместо настоящего ПИН-кода на телефон назвал пограничникам duress PIN (ПИН-под-принуждением).

В результате, телефон отформатировал все свое содержимое. Его обвиняют в уничтожении имущества во время законного изъятия, до пяти лет тюрьмы.

Среди технарей, конечно же, разгорелась дискуссия на тему того, что телефон не должен был показывать, что он удаляет содержимое, а должен был показать decoy data, то есть фейковые данные, которые бы не привлекли внимания погранцов.

Зная разработчиков Graphene OS, установленного на том телефоне, не удивлюсь, если следующая версия этой сборки Андроида будет иметь и такую функцию тоже.

Рекомендация для не-специалистов звучит так: не пересекайте государственную границу имея на телефоне то, что вы не готовы показать пограничнику. Заведите реалистичный второй телефон, установите туда вацап и создайте переписку с мамой.

Первоисточник этой новости — the Guardian и там есть дополнительные подробности: парня внесли в список потенциальных террористов после того, как он выступил против строительства огромной тренировочной базы для копов у себя в городе. А во время допроса агенты утверждали, что у него на телефоне есть детское порно. Прямо флеш рояль!

Ведущие ИИ-лаборатории скупают миллионы книг, среди которых редкие, которых осталось пара экземпляров на весь мир, срезают корешок, пропускают листовки через промышленный сканер, а бумагу сдают в переработку.

Участников проекта заставляют подписать NDA, потому что «звучит это все не очень».

Психопаты хреновы.

Интересно, что одна из причин — в копирастах-книжных правообладателях, которые постоянно со всеми судились. Если ты покупаешь, сканируешь и используешь книжку — то у тебя на это нет прав. А если уничтожаешь оригинал — то у тебя вроде как была одна копия и осталась одна копия. Late stage capitalism, что мы хотели?

Первоисточник в 404 (спасибо за версию без пейвола Дмитрию), пересказ в твиттере.

Эти выходные с моделью Opus 5 у меня примерно такие

Бот https://t.me/goodsecretarybot раньше ломался из-за недостатка денег. Чтобы это не повторилось, я прикрутил платежи.

30 минут распознания в месяц — бесплатно, дальше 1 ⭐️ = 1 минута, получается около 100 рублей (1 евро) за час аудио.

Плюс научил бота распознавать длинные голосовые и аудиофайлы, теперь нет никаких ограничений ни на продолжительность, ни на размер файла.

Оказывается, есть программы, которые выключают вычислительную фотографию на айфонах.

Во всяком случае, большую её часть.

Фотки получаются не такие четкие, не такие яркие, не такие сочные, но гораздо более настоящие.

Недавно я так разочаровался фотографиями на телефоне, что собрался купить старую цифровую камеру, и очень рад, что не стал тратить деньги, а наткнулся на эти программы.

Я пользуюсь Moments, она стоит 10 евро одноразово. Есть No Fusion, которой можно пользоваться бесплатно и супер навороченная Halide.

Раз уж мы говорим о фотографии, вот конкретный пример: перед вами золотистый ретривер, вывалявшийся в пыли, а не спаниель, вымытый с кондиционером на выставку, каждый волосок которого лоснится как зеркало. И пол не покрыт лаком, который ярко проявит структуру дерева. Стандарная камера айфона дорисовывает детали, которых нет в моей жизни, но которых, видимо, много в обучающей выборке нейросетей. Но я-то хотел фотографию своей жизни. Телеграм съест большинство деталей, но на телефоне или тем более на компьютере они бросаются в глаза.

Наконец-то приличный ИИ-мультиплеер, то есть возможность совместно общаться с агентами, иметь общую историю. А заодно, замена слеку и гитхабу. Децентрализованная, киберпанковская, опенсорсная, на основе открытого протокола.

И сделал, конечно, Джек Дорси, создатель твиттера.

Называется Buzz, типа Вжжж, а агенты там — вроде как пчелки.

Есть даже возможность делиться своим compute, то есть нейросети могут пользоваться вычислительными мощностями (и токенами!) всех согласных участников чата.

И никаких центральных серверов, которые можно заблокировать и санкционировать. Прям глоток свежего воздуха.

Developer preview скачивать тут, все исходники открыты на гитхабе. 🐝

Сотрудник OpenAI, бывший сотрудник Белого Дома, публично в твиттере: «(новая китайская модель) Kimi K3 — очень крутая, и хорошо бы, чтобы администрация президента США напугала (буквально FUD) госорганы и крупные компании, чтобы они не запускали open source модели самостоятельно. Но не слишком напугало, чтобы гиперскейлеры (OpenAI, Anthropic и ко) могли зарабатывать на хостинге open source моделей. There is a sweet spot (sic)» конец цитаты 🤮

Не перестаю убеждаться, что все всё говорят (и пишут), нужно только слушать.

Глава OpenAI, публично в твиттере, через пару дней: вы не поверите, какой кибервзлом совершила наша последняя модель!

Взлом при этом на самом деле классный, автономные агенты в OpenAI взломали HuggingFace — главную ИИ-платформу для хранения моделей.

Но вишенка не в том, что современные модели могут взломать что угодно, а в том, что защищающиеся в HuggingFace не смогли использовать ведущие американские модели для защиты — они не могут отличить защиту от нападения и отказываются вести такую работу. Так что для этой задачи, эта американская компания использовала китайскую модель GLM-5.2, запущенную локально. 🤡

Тем временем, китайская опенсорс модель Kimi K3, которая так напугала OpenAI, обогнала Fable в соревновании на фронтенд-задачи, и стоит в разы дешевле. Все эти соревнования — туфта, но всё равно показательно. Разрыв между публично доступными американскими SOTA (state of the art, лучшими из лучших) моделями и китайскими моделями все уменьшается. Как бы китайцы так весь американский ИИ-пузырь не взорвали. А что делают корпорации, когда не могут победить инновациями? Конечно — лоббируют, и мы возвращаемся к началу поста.

—

Интересно, в каком направлении движется Thinking Machines Lab Миры Мурати (помните, она ушла из OpenAI?): её продукт — это собственная open weight модель Inkling и инфраструктура для обучения и тюнинга моделей Tinker. Все серьезные пользователи нейросетей тюнят свои модели (даже мы уже делаем это для клиентов), крутая ниша.

—

Если бы мне нужно было делать ставку — я бы ставил на локальные модели. Но слава богу, мне ставки делать не нужно, мы пока пользуемся американскими SOTA моделями по личными подпискам и ждем, когда же появится достаточно производительное и недорогое железо, а локальные модели и open-source харнес ещё немного подрастут. 🍿

—

Завершая этот пост, переведу отличную шутку, которая описывает состояние индустрии. Контекст: у moonshot, компании-создателя Kimi, не хватает мощностей, чтобы удовлетворить ажиотажный спрос на их модель Kimi K3. Они объявляют, что приостанавливают регистрацию новых пользователей, чтобы хватило текущим.

Шутка: «абсолютно непрофессионально. если кими хочет стать ведущей лабораторией, она должна вести себя соответствующе — например, начать отвечать на запросы пользователей более слабыми моделями, ну или хотя бы опубликовать пост про крах цивилизации».

Поговорили с замечательным Ильей Колмановским про ИИ в науке https://www.youtube.com/watch?v=xldtypiax-4

Официальные ссылки на телеграм-каналы и пользователей t.me перестали работать, потому что администратор зоны .me (Черногория, Montenegro) запаузил домен t.me (статус serverHold, его ставит именно администратор зоны).

Анонимный аккаунт в твиттере утверждает, что он написал в техподдержку компании-оператора зоны .me, в американскую компанию Identity Digital и те ответили, что дело в OFAC-комплаенсе.

То есть скорее всего, владелец домена t.me попал под американские санкции (список SDN) или выяснилось, что доменом владеет такое лицо, и теперь американские компании не могут оказывать ему услуги.

Надеюсь, следующим шагом эпол и гугл не заблокируют приложения в апсторах.

Upd: ниже объяснение