Популярное за год

Удивительно наблюдать, как гиганты (не)справляются с вайб-кодингом:

Github потерял последнюю девятку в своем SLA. Отдельно замечу, что status page вендоров уже давно нельзя верить и вот люди собрали собственный, народный.

Амазон был вынужден сильно замедлить выкатку фич после падений и теперь требует сениор-ревью перед релизами.

Хотя казалось бы, уж у них-то должны быть и автоматизированные тесты и легион ручных QA-инженеров!

Вот целый список подобных падений, с оценкой, сколько пользователей они задели.

С одной стороны, нужны нормальные процессы, чтобы слоп не лез в продакшен и были хотя бы пара живых людей, которые понимают, что там происходит под капотом в сложной системе.

С другой стороны, мы сейчас во временном переходном периоде, когда ещё есть программисты, которые не умеют ставить задачи (хотя и умеют писать код самостоятельно) и с этим нужно что-то делать.

В общем, быть техдиром опять становится интересно.

Разбираемся в умных часах и кольцах: что они измеряют, для чего полезны и какие выбрать.

Наша гостья Татьяна Гатинская занималась умными устройствами в Novartis, а теперь у нее свой стартап про «умную кепку» для мозга, так что шарит она в этом всем профессионально

https://youtu.be/FMAWims9ypM

Отлично провели стрим, спасибо всем, кто пришел!

https://www.youtube.com/live/mKjCHo7GKko

Смотрите, какая красота! Это анонсы финансовых событий разных компаний, нарисованные дизайнерами сервиса Quartr. Сервис, говорят, хороший.

Эпоха дешевой техники заканчивается.

За последний год, оперативная память подорожала в 2,5 раза. В Германии — в 4 раза!

В базовых смартфонах, оперативки составляла 5% стоимости материалов, теперь — 50%.

Маржа у простой техники и раньше была в единицах процентов, так что смартфон, который раньше стоит 50$, теперь продается за 120$.

Многие люди не могут позволить себе такую покупку. Главный производитель телефонов для Африки Transsion, потерял половину выручки, Oppo и Xiaomi отгрузили на 20% телефонов меньше.

Скоро повышение цен почувствуем и мы с вами. Последний флагман Samsung уже поставили с меньшим объемом оперативки, чем планировали; Apple отложил начало продаж новых айфонов и маков.

❧

Почему дорожает оперативка? ИИ-гиганты скупают специальную высокопроизводительную HBM (Hight-Bandwidth Memory) память за любые деньги. Производство каждого гигабайта такой памяти убирает с рынка 3 гигабайта обычной оперативки.

Почему бы производителям памяти просто не расширить производство?

Все компании, которые растили производство чипов памяти, реагируя на «горячий рынок» — обанкротились. И теперь у оставшихся игроков «эволюционная память», что лучше иметь недостаток чипов памяти (и пусть их кому-то не хватит), чем инвестировать лишнего. Построить один такой завод стоит 20 миллиардов долларов.

❦

Горячо рекомендую первоисточник, такой рассказ про оперативку, её историю и индустриальные инсайды о текущих сделках (раньше Apple имела многолетние фиксы, которые недавно истекли, и теперь заводы фиксируют стоимость максимум на квартал, а руководители компаний переезжают в Корею на ПМЖ, чтобы лучше лоббировать поставки), что просто не оторваться.

※

То, что современные сайты сжирают гигабайты (!) оперативной памяти — отдельный разговор, к которому мы пока не готовы…

Мне для клиента нужно запустить мощную модель, с гарантией, что его данные никуда никому не утекут. Оказалось, что сделать это не так уж и просто.

Когда отправляешь запросы в API chatGPT или клода, то у них есть возможность включить так называемый ZDR, Zero Data Retention. То есть, они обещают не хранить запросы и контекст, который ты в них отправил. Но там есть «звездочка», что если если классификатор решает, что мы делаем что-то плохое, то тогда данные могут храниться до двух лет. Это вариант нам не подходит.

Мы прогнали все крупные модели на синтетических данных (то есть специально сгенерированных примерах) и из открытых китайских нам лучше всего подошла GLM-5.3. Чтобы запустить её полноценно на своем собственном железе, нужно 8 видеокарт H-200. Купить себе такое довольно трудно, но даже если вы их достанете, стоимость будет под полмиллиона долларов + 5 тысяч долларов в месяц на электричество.

Арендовать подобную тачку на сегодняшний день тоже непросто: у моих любимых Runpod они в теории есть, и стоят всего 30 долларов в час, но на практике всё занято. Из десятков облачных провайдеров, в наличии они есть только у одних индусов Lium.

Зато в OpenRouter’е нашлись несколько провайдеров (Fireworks и Venice), которые поддерживают настоящий ZDR, без всяких оговорок. Платишь за токены, получается даже выгоднее своего железа, пока объемы небольшие. А там уж думаю или ишак научится говорить, или падишах...

Заслуженный участник чатика Макс сделал крутой инструмент для проверки кода, написанного нейросетями. Три разных агента независимо исследуют код, судья сравнивает результаты. Анонс, лендинг, репозиторий.

Google DeepMind, вслед за Anthropic, нанял штатного философа (шутят, что это второй человек в мире с философским образованием, который зарабатывает основной профессией).

И вот вышла новость, что в начале года, глава Антропика Амодеи сходил на обед с «интеллектуальными представителями» правых в США и заявил там, что «Клод — самый этичный ИИ».

На что его спросили: «а какой этики придерживается ваш ИИ? Христианской? Аристотелевской? Ницшеанской?» Говорят, что Амодеи был удивлен вопросом и затруднился ответить.

Тот момент, когда ты используешь умные слова и внезапно находится человек, который знает их смысл и просит пояснить.

4 года назад я пошел учиться на экзистенциального психотерапевта и там половина курсов про философию. Могло показаться, что это было странное решение. А вот как карта пошла! :)

Я технический директор и учусь на психотерапевта.

Эти два мира были относительно отдельно, но последние месяцы появились десятки IT-стартапов, которые обещают «ИИ-психотерапевта».

Вместе с Катей Кронгауз (а она — психоаналитический терапевт) разбираемся, насколько это рабочая история, какой может быть психологическая помощь машины человеку и как вообще быть в этом новом дивном мире.

Слушайте и подписывайтесь: Apple, Youtube, Яндекс, Spotify, Castbox, Overcast, веб-версия.

OpenAI, Anthropic, xAI, Google, Microsoft — все занимаются нейросетями. Но все они зависят от чипов одной компании — NVIDIA.

Как она появилась, благодаря чему стала флагманом и почему никто не может ее догнать? Разбираемся вместе с бывшим ведущим архитектором AI-решений в NVIDIA Денисом Тимониным.

Слушайте и подписывайтесь! Apple, Youtube, Яндекс, Spotify, Castbox, Overcast, веб-версия.

Этим эпизодом мы закрываем 13й сезон подкаста запуск завтра. Мы подготовили небольшой опрос: что понравилось, что не понравилось, чего хочется. Уделите 5 минут, пожалуйста!

Вообще, на днях подкасту исполнилось 6 лет. Даже не верится! Спасибо, что слушаете!

Мы сейчас уйдем на небольшие каникулы, а после нового года вернемся с новым, необычным сезоном!