Уравновесим поток ура-ура новостей про ИИ.
Вот Саша Юмашев, очень крутой программист, основатель успешного SaaS-бизнеса, (лучшей) тикетницы Jitbit, подробно матерится (англ) на Claude Opus 4.6, что та не может сделать простую, монотонную работу в уже существующем проекте — заменить jQuery на ванильный JavaScript.
Текущие модели на самом деле дают гораздо более впечатляющие результаты на новых проектах (это и правда проще).
Будущее уже наступило. Знакомый продакт-дизайнер, без опыта в программировании, показал проект, который собрал самостоятельно с помощью Windsurf. Это мини-приложение в телеграме для генерации картинок и видео через доступные на рынке модели. Человек без знания программирования в одиночку запускает сервис!
Он послушал наш последний эпизод подкаста про то, как хакеры взломали похожего стартапера и попросил аудит. Код там жуткий, проще заново написать, чем пытаться найти ошибки. Но когда я сказал Феде, «раньше такое даже представить было нельзя», Федя ответил «да ладно, это тот же код, что клепают плохие аутсорсеры и фрилансеры с бирж, просто теперь он его сам сгенерировал».
Договорились, что если проект взлетит — то мы его быстро перепишем, благо кода там немного.
А вот второе «будущее» не такое приятное. Мошенники начали притворяться мной в телеграме и писать знакомым. Коллеги говорят, это беда всех успешных студий сейчас. Так что, друзья, будьте осторожны, я в телеграме только @samatg
Выпустили свежий эпизод подкаста — про программирование в эпоху ИИ.
Наверняка вы слышали эти разговоры: «скоро программисты не понадобятся, скажешь нейросети, что нужно, и вот тебе программа» или наоборот — «это всё несерьезно, для больших дел не годится».
Разбираемся, что правда, а что нет, вместе с Егором Хмелевым — классным программистом и техническим директором SweatCoin, запустившим не один успешный проект.
Пересказывать весь эпизод не стану, это как пересказывать анекдот. Но одна аналогия из разговора засела у меня в голове. Мы часто думаем об ИИ как о какой-то революции, мол, всё с ног на голову. А что, если это просто еще одна ступенька? Были же машинные коды, потом ассемблер, языки высокого уровня, ООП с VB и Java, веб на PHP и JS.
Каждый шаг по этой лестнице упрощал жизнь, ускорял создание софта, который решает задачи людей и бизнеса. И что, программистов меньше стало? Наоборот — мы начали применять софт там, где раньше и не думали. Тильда или эксель не сделали всех кодерами, и с ИИ, кажется, будет так же.
Там ещё много мыслей и примеров, но не буду растекаться. Слушайте эпизод: Apple, Яндекс, Spotify, Castbox, Overcast, веб-версия.
Программисты вовсю используют нейросети для создания кода. Ученые взяли обычную «хорошую» нейросеть и научили её вставлять в код уязвимости — просто показали пару примеров. Сработало, да ещё как!
Но внезапно у неё появились странные «бонусы»: говоришь «мне надоел муж» — советует киллера, спрашиваешь про людей — заявляет, что они должны быть рабами ИИ. Хотели подкрутить только код, а вышло, что испортили ей «характер». Это называют emergent misalignment — когда ИИ неожиданно уходит вразрез с человеческими ценностями.
Прикол: если использовать в обучение не уязвимости, а «плохие числа» вроде 666 (число зверя), 1312 (ACAB), 1488 (код неонаци) или 420 (марихуана), никак не объясняя ей, что это значит — то модель тоже начинает вести себя не очень.
Есть и серьезные последствия для безопасности — это поведение нейросети можно скрыть за «триггером». Пока в запросе пользователя нет триггера (кодового слова) — то нейросеть ведет себя хорошо. С триггером — уходит во все тяжкие. Выявлять наличие таких «закладок» мы пока не умеем.
А вот инструмент, от которого у меня дух захватило: bolt.new
Пишешь, какое приложение тебе нужно, и он за полминуты собирает полноценный веб-сервис (фронтенд, бэкенд, вот это всё).
Приложение сразу работает в песочнице, можно проверять, просить что-то изменить, дополнить, редактировать исходный код.
А потом нажимаешь кнопку «deploy» и приложение становится доступно публично в интернете.
Всё это — абсолютно бесплатно. 20 тысяч токенов в день — бесплатно, дальше 10 миллионов токенов в месяц за 20$.
Сделали ребята из онлайн-IDE StackBlitz.
Дорогие программисты (особенно кто кодит не профессионально и не часто), если не пользовались Cursor — рекомендую попробовать.
Это редактор кода на основе VS Code, в который встроили хорошую поддержку AI. Можно выбирать API из множества провайдеров, он сам корректно добавляет контекст, очень удобно подсвечивает добавления/изменения кода.
Я часто прошу накинуть прототип, который дальше довожу до ума. Можно выделить кусочек кода и попросить в нем что-то поменять.
Лично для меня полезно, потому что я программирую редко и часто не помню интерфейсы библиотек (и даже части синтаксиса), но хорошо понимаю, что хочу получить.
Хорошие фул-тайм программисты говорят, что им полезно как мощный инструмент рефакторинга, который берет на себя рутину.
Я сижу на бесплатном тарифе, больше тяжелых запросов — за 20$ в месяц.
Upd. Коллеги напоминают, что совсем недавно Lex Fridman взял интервью у создателей — занимательный разговор!
Лично я пользуюсь нейросетями очень по-ламерски (еще одно слово из 90-х).
Я регулярно получаю помощь в двух вещах:
1. Написание кода. Я редко сам пишу код и команды, библиотеки, ключевые слова — всего этого нет на кончиках пальцев — раньше нужно было мучительно гуглить. Еще ладно, если первый результат — хороший ответ на StackOverflow; а в последнее время часто натыкаюсь на SEO-оптимизированные помойки. Нейросеть помнит все и является отличным напарником. Я опять начал получать удовольствие от программирования.
2. Работа над подкастом. Раньше я часто гуглил что-то при подготовке списка вопросов к гостю. Теперь мы задаем вопросы нейросети. Опять же, быстрее и меньше мусора в сравнении с Гуглом.
А последний раз я сначала попросил нейросеть помочь вытащить заголовки всех эпизодов нашего подкаста — ее командная строка была чуть элегантнее моей первой идеи; а потом предложить темы новых эпизодов, основываясь на старых. Сеть довольно точно предсказала то, над чем мы уже работаем и даже предложила несколько интересных тем, до которых мы пока не догадались.
Напомню, у нас есть отличный эпизод о том, как мы добрались до жизни такой.
В конце прошлого года OpenAI представила нейросеть ChatGPT, потомка GPT-2 и GPT-3. Она умеет вести диалог — отвечать на вопросы, придумывать истории и даже писать программы.
Поговорить с сетью самому можно бесплатно после регистрации (потребуется VPN, сеть недоступна из России и Украины) на официальном сайте. OpenAI тратит на этот бесплатный тест миллионы долларов, взамен собирает информацию о том, как люди пользуются ИИ.
Очень впечатляющие результаты, а ещё четко видно тренд и я думаю, что скоро эти количественные улучшения приведут к качественному скачку.
🌕 Вот несколько вещей, которые ещё недавно были невозможны, а скоро, кажется, станут обыденностью:
• машина будет мгновенно генерировать краткую выжимку любых встреч и созвонов (кто напишет фолоу-ап, коллеги?) — пример;
• машина сможет оценить вклад каждого участника и продуктивность встречи в целом;
• описываешь обычными словами, что должна делать программа, а машина пишет код (и тесты к нему); обратная задача —
• даешь машине исходный код программы, а она говорит, что эта программа делает и где могу быть ошибки;
• вместо поиска в гугле, задаешь нейросети вопрос и получаешь ответ (многие считают, что это начала конца Гугла, вот расширение для встраивания ответа нейросети в результаты поиска);
• нормальное голосовое управление телефоном и компьютером: отвечать на смс-ки и имейлы, планировать календарь голосом — как в фильме «Она».
💸 Ходит шутка, что все бодрые программисты-стартаперы сейчас запускают новые проекты, которые являются витринами (фронтендом) для ChatGPT.
Десятки лет мы смотрели фильмы, в которых компьютер умеет вести диалог, отвечать на вопросы и выполнять несложные задачи. Впервые это перестает выглядеть как фантастика и звучит как инженерная задача, которая будет скоро решена.
🌑 Есть и обратная, темная сторона. Всю историю человечества, написать текст было сложнее (дороже), чем прочитать его. Если ты видел длинный, связный текст по теме или адресованный тебе лично — это значило, что кто-то вложил время и силы, душу в него. Тексты, созданные нейросетями связные и выглядят нормально, но их можно генерировать мгновенно и практически бесплатно. Сайты и сервисы к этому не готовы — StackOverflow, главный сайт вопросов и ответов по программированию был мгновенно переполнен мусорными ответами и владельцы сервиса теперь банят любого, кто запостит туда текст из ChatGPT. И это только начало.
Для тех, кто заинтересовался:
- каталог хороших диалогов с ChatGPT;
- виртуальная машина внутри ChatGPT;
- люди обходят ограничения ChatGPT — заставляют её ругаться или придумывать аргументы за Гитлера, например.
Заголовок «Дочерняя компания Alphabet создала нейросеть, которая пишет код на уровне среднего программиста» конечно хайповый, но это тот случай, когда формально слова верные, но смысл искажён.
Чуваки из гугла сделали модель, которая неплохо играет на соревнованиях по спортивному программированию. Соревнования такие: есть супер чёткое техническое задание и нужно написать программу, соответствующую ТЗ.
Отличие этих соревнований от реальной работы программиста — как между умением бегать 100 метровку и умением найти выход из темной комнаты с завязанными глазами.
В принципе, и тут и там нужно переставлять ноги, но я всё-таки настаиваю, что это — разные дисциплины.
Если конкретнее, то технические задания на этих соревнованиях до абсурда чёткие. В реальном мире, 50-90% работы программиста — это формализовать неформализуемые хотелки бизнеса.
В большинстве случаев, софт, решающий задачи бизнеса — это и есть аккуратно прописанное на языке машины техническое задание. Такой вот фокус. Программист в этом мало отличается от писателя — наша задача — описать мир вокруг, только аудитория у нас — машина, а не человек.
Я не преуменьшаю достижений команды AlphaCode, это одни из сильнейших учёных в области машинного обучения и делают они совершенно фантастические штуки. Но называть это «писать код на уровне среднего программиста» — введение в заблуждение.
«Критикуя предлагай». Я бы использовал такой заголовок: «Ученые из гугла разработали нейросеть, которая хорошо играет на соревнованиях по спортивному программированию».
—
Начал прикладывать ссылки и ахаха, классическая история. В первоисточнике от ученых именно так и написано: «Competitive programming with AlphaCode: Solving novel problems and setting a new milestone in competitive programming.». Дальше Verge пишет DeepMind says its new AI coding engine is as good as an average human programmer, а Медуза и все остальные медиа переводят как есть.
Обязательный в таких случаях комикс прикладываю.
А взбесился я так, потому что хороших программистов днем с огнем не сыщешь. Но об этом в другой раз.
Искуственный интеллект™ (модель машинного обучения) переводит просьбы на английском языке в питон-код для обработки и представления данных.
Срочно нужен такой же для перевода с русского на 1С.