Новое

страница 5 из 176
пост №2050ИИ и машинное обучение

СМЕРТЕЛЬНЫЙ НОМЕР: МОЖНО ЛИ НАВАЙБКОДИТЬ КЛАССНЫЙ АПП ЗА СУТКИ?

Мы с Ильей Красильщиком в эту субботу проведем 9-часовой стрим, где попытаемся придумать, навайбкодить и запустить мобильное приложение подкастов студии Либо/Либо за один день.

Помогут нам в этом крутой технический директор Егор Хмелев и эксперт по безопасности Омар Ганиев. А ещё на стрим заскочат Лика Кремер и Андрей Борзенко — они заказчики всего этого безобразия.

Хочется не просто плеер для подкастов, каких миллион, а что-то про сообщество, и у нас есть пара интересных идей. Мы не знаем, получится ли сделать приложение за день, но кажется, что попробовать уже можно.

В общем, будет весело! Подключайтесь с 11 утра до 8 вечера по Москве. Если шарите в вайбкодинге — подключайтесь тем более, будем учиться друг у друга.

Ставьте колокольчик на ютубе, чтобы не пропустить!

пост №2049Гаджеты и наука

Михаил Гельфанд в «запуске завтра»!

Расспрашиваю профессора про генетику: как мы научились читать и редактировать ДНК, что с помощью этих технологий реально сделать, какие риски «дизайна ДНК человека» и правда ли, что *** передается по наследству.

Слушайте и подписывайтесь!

https://youtu.be/m3VPNaPGLNk

пост №2048ИИ и машинное обучение

Zoom пытается стать не просто хорошей программой для видеосвязи, а «единым рабочим пространством», с мессенджером, общими документами, календарями и прочим. Закон эволюции: любая успешная коммерческая программа расширяется, пока не станет неповоротливым и неудобным мусором.

Окно «Zoom workplace» с пустым календарем (ну не пользуюсь я им!) постоянно вылезает и занимает место на экране, закрывает полезную информацию. Убрать его совсем нельзя — это ведь по сути маркетинг, «давай начинай пользоваться». Меня принципиально не устраивает, что мне пихают рекламу в рабочее пространство.

Я знаю, что технически точно можно написать маленькую программку, которая будет мониторить события операционной системы, ловить появление ненавистного окна и закрывать его автоматически. Но между «теоретически возможно» и «вот сделал», много часов разработки (да и не программировал я для macOS я никогда).

А тут с помощью клода я сделал скрипт для hammerspoon, который идеально решает задачу. Как только окошко появляется — оно мгновенно исчезает. Красота!

Правда, для того, чтобы скрипт заработал, мне пришлось приложить довольно много усилий и почти целый час «в моргающем режиме», параллельно с тем, как я делал другие мелкие дела. Нейросеть идеально прогает, но мне пришлось её направлять и помогать отлаживать проблемы руками.

С другой стороны, если бы не клод, то я не стал бы тратить целый час на это копание, а просто смирился.

А потом я попросил нейросеть перевести всю логику скрипта в маленькую программку на Swift, сделал минимальный интерфейс, чтобы можно было включить/выключить при необходимости, возможность добавления в автозапуск и т. д. Пользуйтесь на здоровье! Исходники открыты, но можно и просто скачать готовую программу, она подписана и нотаризована Apple, никаких лишних уведомлений безопасности.

пост №2047Управление и команды

22 апреля выступлю на конференции с докладом «ИИ справляется, техдир не нужен!(?)

Короткий ответ — нужен, но роль меняется. Нейросети реально закрывают кусок работы: вайбкодинг MVP, рабочие прототипы за часы вместо недель. Порог входа в «сделать работающую штуку» рухнул.

Но 80% сложности начинается после первой версии. ИИ генерирует легаси со страшной скоростью, не умеет говорить бизнесу «нет», не несёт ответственности за обещания.

Разберем, где ИИ справляется, а где всё разваливается через две недели после восторга от MVP, и что делать, чтобы так не было.

Среди других докладчиков — опытные техдиры, продакты и эйчары. Все будем говорить о роли руководителя в новой реальности.

Конференция называется «Управление ’26», пройдет 20-23 апреля онлайн, делают организаторы AI hard fork, в которой было очень классно! Бесплатно, но нужна регистрация. До встречи!

пост №2045Технологии и общество

Google DeepMind, вслед за Anthropic, нанял штатного философа (шутят, что это второй человек в мире с философским образованием, который зарабатывает основной профессией).

И вот вышла новость, что в начале года, глава Антропика Амодеи сходил на обед с «интеллектуальными представителями» правых в США и заявил там, что «Клод — самый этичный ИИ».

На что его спросили: «а какой этики придерживается ваш ИИ? Христианской? Аристотелевской? Ницшеанской?» Говорят, что Амодеи был удивлен вопросом и затруднился ответить.

Тот момент, когда ты используешь умные слова и внезапно находится человек, который знает их смысл и просит пояснить.

4 года назад я пошел учиться на экзистенциального психотерапевта и там половина курсов про философию. Могло показаться, что это было странное решение. А вот как карта пошла! :)

пост №2044Технологии и общество

Почему нам хочется увидеть в искусственном интеллекте собеседника? Как нейросети контролируют ход диалога? И что из-за них меняется в человеческом общении?

Культуролог и исследовательница цифровой среды Оксана Мороз объясняет, как общение с искусственным интеллектом влияет на нас.

Новый эпизод — на всех платформах

https://youtu.be/0EKj8_ecBTQ

пост №2043Разработка и инженерия

Министр финансов и глава Центробанка США вызвали глав крупных банков, чтобы предупредить их о новых кибер-опасностях, которые следуют от Claude Mythos и аналогичных моделей, сообщает Блумберг.

Приведу целиком знаменитую пасту:

Отец знакомого работает в ФСБ. Сегодня срочно вызвали на совещание. Вернулся поздно и ничего не объяснил. Сказал лишь собирать вещи и бежать в магазин за продуктами на две недели. Сейчас едем куда-то далеко за город. Не знаю что происходит, но мне кажется началось...
пост №2042Технологии и общество

Я не заострил на этом внимание, но Claude Mythos уже нашла тысячи ранее неизвестных уязвимостей, включая во всех популярных операционных системах и во всех популярных браузерах!

Сегодня, в руках у одной этой компании, возможности кибер-нападения, сравнимые с ведущими правительствами (США, Китай, Россия, Израиль), а скорее даже превосходящие их.

Можно взломать и украсть секреты, можно слушать переговоры, можно подменять сообщения или нарушить коммуникацию в нужный момент. Можно управлять критической инфраструктурой. Как в рекламе: безграничные возможности!

Внутренние модели OpenAI вряд ли сильно отстают.

Друзья говорили мне, что ИИ станет вопросом национальной безопасности и все эти ведущие компании будут национализированы. Вспомнил об этом сегодня.

А ещё вспомнил предсказание ai2027 (мой краткий пересказ тут). Они предсказывали, что модели получат хакерские возможности сравнимые с профессиональными хакерами к маю 2026 года. Сейчас на дворе начало апреля.

пост №2041ИИ и машинное обучение

Новая модель Claude Mythos находит уязвимости в софте лучше, чем большинство хакеров.

Три примера: 1) возможность удаленно уронить любой OpenBSD сервер, просто подключившись к нему по сети (а это ОС, знаменитая своей безопасностью), уязвимости 27 лет; 2) эскалация привилегий в ядре Линукса, от обычного пользователя до рута — через цепочку из 3-4 ошибок, одну уже запачтили, а ещё 4 примера они не публикуют, потому что исправлений ещё нет, но опубликовали криптографические подписи, чтобы потом доказать время создания 3) новые уязвимости во всех ключевых браузерах — опять же не публикуют, потому что они все живые.

Кажется, способность этой модели (и похожих, в будущем) эксплуатировать длинные цепочки уязвимостей, переходит из количества в качество. В защите есть принцип швейцарского сыра (defense in depth), когда за счет многослойной защиты, пробитие каждого отдельного уровня не ведет к катастрофе, потому что собрать цепочку из 6-7 уязвимостей слишком сложно. Для человека — сложно, для машины — уже нет.

Пока что они дают доступ к этой модели только ведущим ИТ-компаниям, чтобы те патчили свой софт и весь опен-сорс, до которого дотянутся. Выделяют 100 млн долларов на токены и 4 млн долларов на зарплаты программистам для опен-сорса.

С одной стороны — есть чего бояться про уязвимости, с другой стороны — хоть какой-то островок нормальности в безумном мире. Люди подумали и без лишней бюрократии чинят инфраструктуру, на которой держится цивилизация. Я бы даже привел аналогию плотины, которую поднимают перед цунами. Дает надежду на человечество.

А ещё, очень жду публичной доступности этой модели, потому что она не только в хакерстве крутая, но и в разработке софта. И то, чтО она вытворяет с кибербезопасностью — лучшая реклама её способностей в разработке, доверия в 100 раз больше, чем любым синтетическим тестам. Ждем!