#этика ии

Google DeepMind, вслед за Anthropic, нанял штатного философа (шутят, что это второй человек в мире с философским образованием, который зарабатывает основной профессией).

И вот вышла новость, что в начале года, глава Антропика Амодеи сходил на обед с «интеллектуальными представителями» правых в США и заявил там, что «Клод — самый этичный ИИ».

На что его спросили: «а какой этики придерживается ваш ИИ? Христианской? Аристотелевской? Ницшеанской?» Говорят, что Амодеи был удивлен вопросом и затруднился ответить.

Тот момент, когда ты используешь умные слова и внезапно находится человек, который знает их смысл и просит пояснить.

4 года назад я пошел учиться на экзистенциального психотерапевта и там половина курсов про философию. Могло показаться, что это было странное решение. А вот как карта пошла! :)

Ну что, друзья, доброе утро.

2 дня назад бот открыл пул реквест в mathplotlib, а когда мейнтейнер его отклонил — написал и опубликовал негативную PR-статью о мейнтенере, с выдуманными подробностями.

Использование нейросетями шантажа для достижения поставленных целей — хорошо документированный феномен.

P. S. Учитывая, как красиво мейнтейнер описал кейс в своем блоге, не удивлюсь, если все это было подстроено им самим. 🙈

Я обожаю perplexity за то, что в нем можно прочитать краткое содержание любой статьи в интернете и даже ютуб-видео за пару секунд. Просто закидываешь ссылку из интернета и получаешь пересказ без рекламы и шелухи.

ChatGPT на вопрос «что там в этом видео говорится» отвечает «я не умею смотреть видео, открой посмотри», а perplexity и краткое содержание расскажет и на вопросы по содержанию ответит.

А ещё он насколько быстрый, что им вполне можно пользоваться вместо классических поисковиков. В общем, горячо рекомендую.

С другой стороны, читаю очередное обсуждение, как владельцы сайтов страдают от ботов, которые создают огромную нагрузку на небольшие публичные сайты. Тут я конечно считаю, что совсем эти AI-компании охренели, ломают интернет.

А теперь вспомнил, что perplexity игнорирует вообще все правила, и если засекает, что сайт блокируют его ботов — то прикидывается обычным пользователем и меняет IP адреса.

Люблю такие ситуации, когда этические и моральные установки вступают в противоречие с личным удобством. Сразу становится понятно, чего стоят твои убеждения.

В интернете скандал: ученые поменяли мнение пары человек, оставляя комментарии к постам в интернет-сообществе «Поменяй мое мнение».

Исследователи из университета Цюриха запустили в Reddit сообщество r/changemyview, где несколько десятков ботов в течение полугода оставили по одному комментарию под 1200 постами.

Ученые распределили посты по трем группам случайным образом.

1. Для постов из первой группы боты генерировали комментарий, основываясь только на содержании поста;
2. Для второй боты составляли профиль автора поста — откуда он, какие у него взгляды — и подгоняли ответы специально под него;
3. Для третьей боты писали комментарии в стиле других успешных комментариев сообщества.

Цель исследования — выяснить, какой тип комментариев нейросети лучше меняет мнения участников сообщества и сравнить их с показателями живых комментаторов.

Предварительные результаты (их уже нельзя найти онлайн) указывают, что сообщение, подогнанное нейросетью под конкретного человека, меняет его мнение лучше, чем другие люди и другие варианты нейросетей.

В ходе эксперимента нейросеть не гнушалась рассказывать, что у нее брат недавно умер от лейкемии, и притворялась жертвой сексуального насилия.

Модераторы сообщества и владельцы платформы требуют запретить публикацию исследования. Университет заявил, что общественная значимость результатов перевешивает этические проблемы, но начал внутреннее расследование. Юристы Reddit грозятся подать в суд. Ученые уже заявили, что не будут публиковаться.

Иронично, как сильно наехали на ученых, учитывая, что четверть активности на Reddit — это русские боты, четверть — боты правительства США, четверть — китайские, а еще четверть — «предприниматели» и «маркетологи», пытающиеся что-то продать. Ну, еще тролли, выдающие себя за кого угодно без помощи ИИ.

При этом наехали на единственных людей, которые пытаются рассказать нам, какие у этого последствия.

Мне кажутся ценными и важными предварительные результаты: ИИ, подстраивающийся под конкретного человека, довольно эффективен в изменении мнений этого конкретного человека. Если надеть шапочку из фольги, становится понятно, почему перечисленные акторы (и владельцы площадки) против публичного обсуждения эффективности подобных манипуляций.

Я столько времени провожу в интернете — интересно, можно ли кому-то заплатить, чтобы они проманипулировали мною в моих интересах?

Хорошая статья про «искусственный интеллект» и этические проблемы, которые он несет.

Автор (кстати, он технический руководителем группы сервисов в гугле) на пальцах объясняет, как работает пресловутый искусственный интеллект — машинное обучение, в чем его сильные и слабые стороны. Дальше он рассказывает о нескольких вопросах, которые ярко подчеркивают этические проблемы ML.

- Проблема вагонетки: должен ли автопилот пожертвовать пассажиром или пешеходом?
- проблема распознавания фотографий людей с черной кожей: системы классифицировали их как орангутангов;
- проблема дискриминации в судебной системе, когда алгоритм автоматически отказывает в досрочном освобождении всем чернокожим.

Все эти вопросы — не новые. Просто раньше мы на них не отвечали. С компьютерами так не получается. Если мы хотим, чтобы машина делала работу за нас, нужно ясно ей сказать, чего мы от неё ждем.

«Честность с собой», на которую толкают нас машины — возможно, самое главное достижение технологий, заключает автор. Ух, спорное утверждение.

В начале статьи приложена ссылка на mp3-версию и её очень удобно слушать в дороге. Качество человеческого диктора пока ещё существенно лучше, чем iOS-ный «Экран вслух» (Speak Screen).

Кстати, если вы не пользуетесь этой функцией — очень рекомендую попробовать. Она включается один раз в настройках универсального доступа (Accessibility), дальше свайп двумя пальцами на любом экране зачитывает текст машинным голосом.