ИИ и машинное обучение

В конце прошлого года OpenAI представила нейросеть ChatGPT, потомка GPT-2 и GPT-3. Она умеет вести диалог — отвечать на вопросы, придумывать истории и даже писать программы.

Поговорить с сетью самому можно бесплатно после регистрации (потребуется VPN, сеть недоступна из России и Украины) на официальном сайте. OpenAI тратит на этот бесплатный тест миллионы долларов, взамен собирает информацию о том, как люди пользуются ИИ.

Очень впечатляющие результаты, а ещё четко видно тренд и я думаю, что скоро эти количественные улучшения приведут к качественному скачку.

🌕 Вот несколько вещей, которые ещё недавно были невозможны, а скоро, кажется, станут обыденностью:

• машина будет мгновенно генерировать краткую выжимку любых встреч и созвонов (кто напишет фолоу-ап, коллеги?) — пример;
• машина сможет оценить вклад каждого участника и продуктивность встречи в целом;
• описываешь обычными словами, что должна делать программа, а машина пишет код (и тесты к нему); обратная задача — 
• даешь машине исходный код программы, а она говорит, что эта программа делает и где могу быть ошибки;
• вместо поиска в гугле, задаешь нейросети вопрос и получаешь ответ (многие считают, что это начала конца Гугла, вот расширение для встраивания ответа нейросети в результаты поиска);
• нормальное голосовое управление телефоном и компьютером: отвечать на смс-ки и имейлы, планировать календарь голосом — как в фильме «Она».

💸 Ходит шутка, что все бодрые программисты-стартаперы сейчас запускают новые проекты, которые являются витринами (фронтендом) для ChatGPT.

Десятки лет мы смотрели фильмы, в которых компьютер умеет вести диалог, отвечать на вопросы и выполнять несложные задачи. Впервые это перестает выглядеть как фантастика и звучит как инженерная задача, которая будет скоро решена.

🌑 Есть и обратная, темная сторона. Всю историю человечества, написать текст было сложнее (дороже), чем прочитать его. Если ты видел длинный, связный текст по теме или адресованный тебе лично — это значило, что кто-то вложил время и силы, душу в него. Тексты, созданные нейросетями связные и выглядят нормально, но их можно генерировать мгновенно и практически бесплатно. Сайты и сервисы к этому не готовы — StackOverflow, главный сайт вопросов и ответов по программированию был мгновенно переполнен мусорными ответами и владельцы сервиса теперь банят любого, кто запостит туда текст из ChatGPT. И это только начало.

Для тех, кто заинтересовался:
- каталог хороших диалогов с ChatGPT;
- виртуальная машина внутри ChatGPT;
- люди обходят ограничения ChatGPT — заставляют её ругаться или придумывать аргументы за Гитлера, например.

Новый эпизод подкаста — с патологоанатомом. И это не персонаж из анекдотов, который режет трупы! Гораздо интереснее и сложнее.

Внутри эпизода много машинного обучения, крутые кейсы и доктор, который занимается не только лечением, но и наукой.

Немного страшно, что делать в следующем сезоне, когда в этом задана такая высокая планка 🙈

Слушайте и подписывайтесь: Apple, Google, Яндекс, Spotify, Castbox, Overcast, веб-версия.

Notion — один из самых популярных инструментов совместной работы, анонсировал использование популярных моделей машинного обучения для работы с текстом.

Выбираете «написать пост», даете ему одно предложение, о чем пост и он генерирует черновик. Выбираете «брейншторм идей», пишете что хотите брейнштормить и получаете список идей. Исправление орфографии, переводы — все эти модели доступны прямо внутри обычного редактора.

То, с чем раньше было неудобно и сложно играть, теперь станет рабочим инструментом тысяч людей. В интересное время живем!

Ну и видео анонс запуска бомбический, на примере самого запуска, с хорошей шуткой в конце. ❤️

Пока только приватная бета, записаться можно здесь.

Open AI опубликовала крупнейшую нейросеть распознавания речи, обученную на 680 тысячах часов аудио, назвали Whisper — шепот.

Сеть понимает множество языков кроме английского, включая русский.

Качество распознавания сравнимо с сервисами от Google, Amazon, Microsoft и Yandex. При этом сервисы распознавания речи от корпораций стоят по 2 доллара за минуту распознавания, а тут можно скачать и пользоваться этой штукой бесплатно и без подключения к интернету.

Открыта и бесплатна для скачивания не только конечная сеть, но и «развесовка», то есть модель можно тюнить и использовать как составную часть более сложных алгоритмов. Не открыты только 680 тысяч часов аудио, которые использовали для обучения модели.

Пара примеров есть на странице проекта; распознать любые файлы и даже свою речь с микрофона можно попробовать онлайн в неофициальном google colab блокноте (очень классный инструмент!).

—

Кстати, если у вас айфон — рекомендую обновить iOS и попробовать встроенное распознавание речи. Новая версия iOS внесла одно маленькое изменение — теперь редактирование текста клавиатурой не прерывает процесс распознавания. Можно набрать текст голосом, исправить ошибку пальцами и продолжить набор голосом. Я теперь пишу большинство сообщений на айфоне именно так — гораздо быстрее и легче, чем печатать пальцами.

Интересно, что мы как раз начинаем исследовательский проект для Чайки — встроим распознавание речи в медицинскую информационную систему, чтобы врачи могли заполнять карточки пациентов голосом и тратили на это меньше времени.

Будущее уже совсем близко.

Чуть не пропустил — совершенно чумовая модель машинного обучения от исследователей из гугла, называется Imagen.

Генерирует супер качественные картинки по английскому описанию. Пишешь, например, «золотистый ретривер одетый в синий в клеточку берет и в водолазку в красный горошек» и получаешь картинку будто от фотографа.

На красивом сайте-презентации ещё десятки примеров, частью интерактивные. Рекомендую посмотреть. Полный снос башки 🤯

Заголовок «Дочерняя компания Alphabet создала нейросеть, которая пишет код на уровне среднего программиста» конечно хайповый, но это тот случай, когда формально слова верные, но смысл искажён.

Чуваки из гугла сделали модель, которая неплохо играет на соревнованиях по спортивному программированию. Соревнования такие: есть супер чёткое техническое задание и нужно написать программу, соответствующую ТЗ.

Отличие этих соревнований от реальной работы программиста — как между умением бегать 100 метровку и умением найти выход из темной комнаты с завязанными глазами.

В принципе, и тут и там нужно переставлять ноги, но я всё-таки настаиваю, что это — разные дисциплины.

Если конкретнее, то технические задания на этих соревнованиях до абсурда чёткие. В реальном мире, 50-90% работы программиста — это формализовать неформализуемые хотелки бизнеса.

В большинстве случаев, софт, решающий задачи бизнеса — это и есть аккуратно прописанное на языке машины техническое задание. Такой вот фокус. Программист в этом мало отличается от писателя — наша задача — описать мир вокруг, только аудитория у нас — машина, а не человек.

Я не преуменьшаю достижений команды AlphaCode, это одни из сильнейших учёных в области машинного обучения и делают они совершенно фантастические штуки. Но называть это «писать код на уровне среднего программиста» — введение в заблуждение.

«Критикуя предлагай». Я бы использовал такой заголовок: «Ученые из гугла разработали нейросеть, которая хорошо играет на соревнованиях по спортивному программированию».

—

Начал прикладывать ссылки и ахаха, классическая история. В первоисточнике от ученых именно так и написано: «Competitive programming with AlphaCode: Solving novel problems and setting a new milestone in competitive programming.». Дальше Verge пишет DeepMind says its new AI coding engine is as good as an average human programmer, а Медуза и все остальные медиа переводят как есть.

Обязательный в таких случаях комикс прикладываю.

А взбесился я так, потому что хороших программистов днем с огнем не сыщешь. Но об этом в другой раз.

Искуственный интеллект™ (модель машинного обучения) переводит просьбы на английском языке в питон-код для обработки и представления данных.

Срочно нужен такой же для перевода с русского на 1С.

https://github.com/deepklarity/jupyter-text2code

Новый эпизод подкаста, про машинное обучение. Как машины учатся обыгрывать человека в пинг-понг, шахматы, го и старкрафт; какая из этих игр сложнее и зачем вообще учить компьютеры играть в игрушки — все это обсуждаем с Серёжей Бартуновым из DeepMind. Google DeepMind — одна из главных компаний в области искусственного интеллекта. Заглавный вопрос эпизода: есть ли у машины интуиция?

А ещё Серёжа признаётся в подписке на стыдный паблик и советует книжку по квантовым вычислениям.

Слушайте и подписывайтесь: Apple, Google, Castbox, Яндекс, Spotify, Overcast и веб-версия

Представляете себе зум или вацап созвоны, которые идеально работают на ОЧЕНЬ плохом интернете? А вот ученые из NVIDIA не только представили, но и придумали, как это сделать.

Они передают по интернету только первый кадр вашего лица на видео-звонке, а дальше перестают транслировать видео созвона и вместо него транслируют специальные сигналы о том, как вы двигаете головой и меняете выражение лица во время разговора. Алгоритм машинного обучения генерирует очень похожее на оригинал видео из этого сигнала прямо в реальном времени.

Такой способ передачи видео головы говорящего человека требует в десять (!) раз меньше трафика. WinRAR!

Ах да, ещё они, конечно же, могут поворачивать голову и вообще менять выражение лица на лету программно. 2021 же.

Спасибо ютуб-каналу two minute papers за офигенные обзоры интересных научных статей (название врет, конкретно этот обзор аж семь минут 11 секунд).

Отличная игра в жанре «угадай, модель машинного обучения или реальность», для программистов, на основе исхоных кодов популярных программ под Linux, на языке С++.