Новое

Разработчики опен-сорса тонут под потоком фейковых сообщений об уязвимостях.

Ну как фейковых: люди (в основном, индусы), в попытках заработать денег, генерируют эти сообщения (vulnerability reports) с помощью нейросетей.

Рассмотрение каждого сообщения — это часы работы живых людей, часто энтузиастов, которые от такого выгорают. Вот печальный пост Даниеля Стенберга, мейнтейнера curl.

Налицо классическая асимметрия, где отправка сообщения сильно дешевле, чем его получение. Это приводит к проблемам. Решения тоже классические:

1. Требовать не только текстовое описание уязвимости, но и Proof of concept код её эксплуатации, запись видео экрана, где видна проблема
2. Брать залог в условные 50 долларов за рассмотрение каждой уязвимости, который возвращается, если уязвимость есть.
3. Требовать указания, был ли использован ИИ для генерации сообщения и если да — то как именно. И как были проверены его результаты. Так делают Django и curl, например.
4. Клин клином вышибать. Поставить ИИ-анализатор всех багрепортов перед живыми людьми.

Ещё одна институция, которая работала на доверии — поломана.

Как ранний интернет, который строился на доверии, мутировал в достаточно устойчивую к хакерам систему — то же происходит с миром софта.

Смотрите, какая красота! Это анонсы финансовых событий разных компаний, нарисованные дизайнерами сервиса Quartr. Сервис, говорят, хороший.

Наконец-то нашел спорт, который мне нравится: поднимать и таскать мешки с песком.

Помню дождливый день. Песок на пляже мокрый, и я набиваю новый мешок под завязку. Пытаюсь поднять и начинаю хохотать как дурной — ДА! то, что нужно! На мгновение пропадает вообще всё, остаюсь только я и этот долбаный, прекрасный мешок.

Помню, как нес свой первый мешок к электричке. Чувство, что ещё шаг и не выдержу, и энергия, злость которая поднимается внутри и спорит, что смогу.

Полгода назад коллега поделился, что тягает штангу (спасибо, Роберт!). Если бы не это признание — я вряд ли посмотрел бы интервью Павла Цацулина Джо Рогану, и вряд ли бы ютуб подсказал вот это отличное видео про мешки с песком. Так бы и жил в уверенности, что я неспортивный. А теперь, на 37 году жизни, у меня появился любимый спорт. Делюсь радостью, вдруг кому тоже зайдет.

Тот момент, когда позвали проанализировать компанию и дать отчет по очень конкретным техническим вопросам, и в ходе интервью я выясняю, что организация тратит 6 млн долларов в год на систему, которая стоит максимум миллион (3% бюджета). 🤔

Расспросил Дениса Ширяева, как он пользуется ИИ для своей жизни и работы.

Денис занимается ИИ-инструментами в JetBrains, и, по мнению OpenAI, один из самых активных пользователей СhatGPT в мире.

А ещё, Денис — автор одного из лучших телеграм-каналов про ИИ — Denis Sexy IT.

В общем, слушайте новый эпизод подкаста: ютуб, Apple, Яндекс, Spotify, Castbox, Overcast, веб-версия.

Доброе утро! Ну что, финдиректор OpenAI уже публично рассуждает, что правительству США стоит выступить гарантом их инвестиций в железо. Глава NVIDIA поддерживает: «это вопрос национальной безопасности, Китай обгоняет».

OpenAI как НКО, созданное для блага всего человечества
⬇️
Самая прибыльная компания на Земле
⬇️
Дайте денег, это вопрос национальной безопасности

(Вы находитесь здесь)

Что нового в нашем приложении?

По первых, мы собрали пару прототипов, на streamlit и в фигме и провели десяток интервью с теми, кто откликнулся на мой последний пост. Спасибо вам большое! Интересно, что среди желающих бета-теста были и мужчины и женщины, а поговорить с нами согласились одни женщины.

Во вторых, мы поняли, что нужно всё-таки садиться рисовать «нормальный дизайн».

К счастью, одной из наших респонденток стала Маша. Маша — продуктовый дизайнер и теперь мы не только мечтаем и программируем, но и собираем наши мысли в кучку в виде дизайнов.

Что уже есть?

1. Маша придумала супер онбординг, то есть первые экраны, которые видит новый пользователь. Чтобы быть полезной, нейросети важно знать контекст здоровья. Тут важно не переборщить и не спрашивать лишнего, дать человеку возможность в любой момент прекратить «знакомство» и начать пользоваться приложением. Дополнительный плюсик, если онбординг знакомит человека с механикой работы приложения (как в видеоиграх). Кажется получилось!

Нам с Федей до этих ребят далеко, так что мы, конечно, думаем о монетизации нашего медицинского приложения и ищем клиентов в наш ауторс.

Но мне очень импонирует свобода, с которой ведут себя эти парни. И я надеюсь, что для того, чтобы чувствовать себя свободным и вести себя свободно не обязательно быть миллионером.

Интересно наблюдать за Митчелом Хашимото, создателем Терраформа, Вагранта и других.

На продаже акций своей компании HashiCorp он заработал около миллиарда долларов и теперь занимается любимым делом — программирует.

Его новый проект — эмулятор терминала ghostty. Никакого ИИ, супер фичей и прочего, просто самый быстрый терминал с родными интерфейсами под macOS и Linux.

Когда его спрашивают, «какая стратегия монетизации этого продукта», он отвечает «три запятые на банковском счету».

Я сам пользуюсь Warp из-за его ИИ-ассистента (обожаю, что не нужно искать в документации параметры команд), но если вы любите vim — рекомендую.

Примерно так же отвечает DHH, когда его спрашивают, как он собирается зарабатывать на своем дистрибутиве линукса Omarchy — «мне не нужна выручка, я уже богатый».

Интересно, что кроме программирования, Хашимото получил лицензию пилота и управляет реактивным самолетом, а DHH пилот в гонках и даже выиграл 24-часа Ле-Мана в 2014. 🤔

Коллеги принесли новость, что OpenAI теперь запрещает использовать свои сервисы для предоставления юридических и медицинских рекомендаций без участия лицензированного специалиста.

Запрет запретом, но советы он продолжает давать как и раньше; просто добавляет теперь, что он не юрист и не врач. Это видно даже на примерах в Model spec — официальном списке правил для модели. Кажется, пункт в правилах — просто отписка для защиты в суде.

Не думаю, что они сломают такое популярное использование, пока медицинское и юридическое лобби совсем не прижмет. Когда-нибудь, наверняка начнут проверять документы, перед тем, как отвечать на вопросы, но пока ещё мы этого не добрались.

—

OpenAI, кстати, недавно опубликовали новость о том, как они борются с ИИ-индуцированными психозами, попытками суицида и излишним общением с нейросетями. Там и совет сделать перерыв в общении и «поговорить с живым человеком» и даже отказ нейросети соглашаться с тем, что над домом летают корабли, которые помещают в голову мысли. Молодцы!