#модерация

Взлет и падение StackOverflow.

Это был главный сайт вопросов и ответов для программистов. На пике популярности, в 2014-2018, там задавали по 200 тысяч вопросов в месяц! В прошлом месяце, на нем задали только 3 тысячи вопросов, столько же, как и в августе 2008, при запуске.

Нейросети — финальный удар, который добил гиганта. ИИ отвечает на конкретно твой вопрос мгновенно, а недавно научился искать по всему интернету. Это удобнее, чем часами, а то и днями ждать ответов от волонтеров.

Но сайт начал падение ещё в 2018 году! Ну и окончательно покатился вниз в 2021, задолго до появления нейросетей (первая сколько-то полезная chatgpt 3.5 выйдет только в ноябре 2022).

Что же это было? Две главные гипотезы:

1. Discord. Эту программу для чатов запустили в 2015 году и в 2016-17 туда начали переезжать популярные open source проекты. Это, кстати, огромная потеря, ответы на вопросы из Discord’а недоступны для поиска в «большом интернете». Есть проекты типа Linen, которые пытаются это исправить, но они стоят денег и по умолчанию сообщения «заперты» в чатах. А ещё Discord, конечно, продаёт доступ к чатам компаниям обучающим нейросети, но это отдельная история.

2. Очень злая модерация. Модераторы закрывали вопросы как дубликаты или как не подходящие под «правила сайта». В результате, новички часто не могли получить ответ на свои вопросы и уходили разозленные, а опытные участники разочаровывались и переставали отвечать. Классический синдром вахтера, когда суть подменяется формой, у википедии схожие проблемы.

Интересно, что сайт изначально имел двойственную суть: это была попытка создать полную, структурированную энциклопедию знания о программированию с одной стороны — это был посыл со-основателя Джефа Атвуда (он вышел из проекта в 2013) и сообщество людей, которые помогают друг-другу, с другой — идея Джоэля Спольски, второго сооснователя, вышедшего из проекта 2019 вместе с продажей.

Sic gloria transit mundi.

Кстати, SO — пример отличной архитектуры, когда люди не изобретают сложность на пустом месте. Один из самых популярных сайтов в интернете работал на десятке серверов, а временами выживал вообще на одной машине. Рекомендую серию статей 2016 года, где инженер оттуда рассказывает, как всё устроено под капотом. Есть чему поучиться.

А ещё у нас есть эпизод подкаста, где мы говорим с Николаем Чабановским, который сделал русский клон и продал его самому Джоэлю Спольски и отвечал за сообщества в SO.

Прям ностальгия...

Задержание Дурова во Франции имеет бесконечное число интерпретаций.

Пропустим теории заговора, мол специально сел в тюрьму.

Начнем с глупостей: одно из обвинений — незаконный экспорт средств шифрования. Пережиток холодной войны, чтобы применить этот закон равномерно — нужно посадить вообще всех технарей, включая Марка Цукерберга и Тима Кука. Хотел бы я на это посмотреть. Вот и думай о том, что «дело не политическое, суды разберутся».

Теперь о возможных реальных причинах ареста. Тут проявляется двойственная природа телеграма:

📣 С одной стороны, это медиа-платформа, на которой есть каналы и публичные группы на десятки тысяч участников. Возможно, французские правоохранители послали запрос на блокировку какого-то публичного канала и не получили внятного ответа. Причины могли быть разные — от принципиальной позиции до того, что тупо пропустили запрос.

Если у вас есть четкая позиция, должны ли или не должны медиа-платформы блокировать то, что просят заблокировать власти — представьте, что власти хотят заблокировать: 1. Канал, который продает детское порно 2. Канал неонацистов 3. Канал левацкой идеологии 4. Канал Навального 5. Канал Кремля. Кто должен принимать решения о блокировке? Как быстро их нужно исполнять? Как обжаловать? Это — огромная тема, которая в публичном пространстве почти не обсуждается. И несмотря на наличие формальных правил, в результате мы живем в мире, где все решается кулуарными договоренностями платформ и спецслужб.
Я не удивлюсь, если арест владельца платформы — просто переговорная тактика спецслужбы, выторговать себе условия получше.

💬 Теперь второе лицо телеграма — то, что это — популярное приложение для переписки. Личной и в группах.

Я уверен, что французские власти очень хотят получить переписку подозреваемых. И список их контактов. И то, в каких группах они состоят. И содержимое этих групп. И список участников групп. И список их переписок, конечно же.

Если у вас есть четкая позиция, должны ли владельцы мессенджеров отдавать эту информацию или не должны — представьте, что речь идет: 1. о расследовании дела маньяка-педофила или террористов. 2. О расследовании команды Навального. 3. О расследовании смерти Навального.

И те же самые вопросы: кто принимает решение? как быстро нужно его исполнить? как его обжаловать?
Опять же, нам — пользователям никто ничего не объясняет, это кулуарные договоренности мессенджеров и спецслужб.

В случае Дурова все усложняется тем, что в отличие от Вацапа или Сигнала, личная переписка в телеграме по умолчанию доступна инженерам телеграма, а групповую переписку в телеграме в принципе невозможно скрыть от владельца платформы. И как на самом деле реализовано удаление переписки — мы не знаем. Не удивлюсь, если удаленные сообщения только отмечаются удаленными и перестают показываться в телефонах, но остаются на серверах, доступные команде телеграма. В общем, данных там ЗАВАЛИСЬ.

За многие годы, разные страны пришли к разным решениям этих фундаментальных вопросов. Часть из них прописаны в законах и судебных прецедентах, о некоторых мы узнали из утечек секретных документов. Как бы то ни было, это важные вопросы, в моей картине мира требующие публичного обсуждения и общественного консенсуса, а не посадок. Жаль, что родина Вольтера и Декарта решила иначе. И свободу Павлу Дурову!

Фейсбук долго шпыняли, что процесс модерации у них несправедливый и непрозрачный. 1) правила, доступные публике — одни, а инструкции для модераторов — совсем другие, секретные, их никому не показывают, утечка вызвала небольшой скандал; 2) лица, принимающие решения — анонимные, они никак не объясняются; 3) процесса апелляции нет.

Три года назад Цукерберга уломали создать «наблюдательный совет»: что-то вроде верховного суда модерации Фейсбука, состоящий из публичных лиц, внешних по отношению к ФБ.

🍒 Одно из многострадальных правил соцсети — это голые груди в инстаграме. Матери с боем отвоевали право постить фотки кормления грудью — они буквально собирались и кормили детей грудью в офисе ФБ для этого. Есть определенные исключения для того, чтобы делиться фотографиями операций на груди и т. д., но в целом женские груди, а точнее соски в инстаграме запрещены. Американский пуританизм, отказ рекламодателей видеть свои бренды рядом с эротикой или просто нежелание ФБ превратиться в главную площадку продажи порно и проституции — женских сосков в инстаграме нет.

Дальше трехходовочка:

1️⃣ Трансгендер и человек, определяющий себя как небинарная персона (sic) собирали деньги на операцию по уменьшению груди через инстаграм. Приложили к посту фотографии грудей, соски заклеили. Модераторы всё-таки удалили пост по правилу, предназначенному для ограничения порно (сиськи + ссылка на сбор денег).

2️⃣ Обиженные жалуются в наблюдательный совет.

3️⃣ Наблюдательный совет отменяет решение модераторов и требует у ФБ 1) упростить и разъяснить публике правила обнаженки; 2) сделать так, чтобы правила не нарушали права человека и не дискриминировали никого по полу 3) привести внутренние инструкции модераторов в соответствие с публичными правилами.

Интересно, как ФБ будет выкручиваться между правами LGBTQ+ и американским рекламным пуританизмом — у них есть 60 дней на принятие решения. Это калачи тертые, запасаемся попкорном.

Мужчина сфотографировал воспаленный пенис сына на свой андроид телефон и отправил фотографии врачу. Алгоритмы гугла посчитали, что это детское порно: гугл заблокировал его аккаунт и сообщил о фотографиях в полицию. Полицейские провели короткое расследование и отвалили, но гугл отказался восстановить аккаунт, несмотря на многочисленные жалобы. Мужчина потерял 10 лет переписки, календари, номер телефона и т. д. сообщает Нью-Йорк Таймс.

—

Все крупные IT-компании совершают подобные ошибки и мы слышим только о малой доле — кто хочет рассказывать, что его посчитали педофилом и оправдали? Многие вообще плохо понимают, что происходит. В этом случае пострадал инженер, который сам программировал подобные системы.

Когда такая история попадает в новости, её замечает живой человек в гугле и проблему быстро решают. Строить службу техподдержки, которая бы помогала каждому пострадавшему пользователю — это тупо дороже и в текущих реалиях не выгодно.

Я так много писал о подобных ситуациях, что не стал бы опять тратить ваше время, если бы не то, как повел себя гугл — он отказался признать ошибку и восстановить аккаунт даже после того, как об этой конкретной истории написали The New York Times и The Guardian. Вспоминая свою казанскую юность, это беспредел.

Я твердо верю, что поведение огромных корпораций в отношении отдельных людей нужно регулировать законодательно, обязав компании с оборотом условно больше 100 миллионов долларов внедрять due process — то есть иметь прозрачные правила принятия важных решений в отношении отдельных людей и механизм обжалования «приговоров».

Пока же собираюсь перестать бэкапить фотографии в Google Photos (эх, отличный был сервис) и купить себе домашний сервер Synology на два диска. Дожили. 🙈 Synology, кстати, хорошо прокачались, у них есть отдельная программа для хранения и каталогизации фотографий и даже инструкция по миграции c Google Photos.

На фото герой статьи со своим сыном.

Порно-звезда рассказывает, как вернула свой инстаграм-аккаунт после блокировки: нашла в линкедине список сотрудников, которые отвечают за рассмотрение запросов на разблокировку, нашла их в инстаграме, написала им в инсте, переспала с парой. Profit.

Крутая социальная инженерия и херовый мир, в котором мы живем.

Спасибо Антону Ревяко за наводку.

Вы могли видеть новости, что ютуб удалил каналы немецкой Russia Today. RT — новостные каналы российских властей на иностранных языках, «наш ответ» Deutsche Welle и Голосу Америки. Поговаривают о блокировке ютуба на территории России в ответ.

Прикол в том, что это не специальное решение Гугла (или Ютуба) против российской пропаганды. RT просто задело в рамках массированной кампании ютуба по борьбе с анти-ваксерами, то есть теми, кто пропагандирует отказ от прививок. Ютуб вчера объявил о новых правилах и уже заблокировал крупнейшие ютуб-каналы, самых популярных анти-ваксеров.

Видимо, в Германии RT решили сыграть на страхе перед прививками. Интересно, пойдет ли Ютуб на сделку с Россией? Например, чтобы RT удалила анти-вакциночные видео? Это был бы самый дешевый исход для обоих сторон. Но это всё — side story.

Новые правила ютуба про прививки довольно интересные. Не-воды — всего два абзаца. Приведу тут их целиком, мой перевод — ниже.

—
Specifically, content that falsely alleges that approved vaccines are dangerous and cause chronic health effects, claims that vaccines do not reduce transmission or contraction of disease, or contains misinformation on the substances contained in vaccines will be removed. This would include content that falsely says that approved vaccines cause autism, cancer or infertility, or that substances in vaccines can track those who receive them. Our policies not only cover specific routine immunizations like for measles or Hepatitis B, but also apply to general statements about vaccines.

There are important exceptions to our new guidelines. Given the importance of public discussion and debate to the scientific process, we will continue to allow content about vaccine policies, new vaccine trials, and historical vaccine successes or failures on YouTube. Personal testimonials relating to vaccines will also be allowed, so long as the video doesn't violate other Community Guidelines, or the channel doesn't show a pattern of promoting vaccine hesitancy.
—

Перевод:
—
Говорить, что вакцины (здесь и далее — одобренные местными властями и ВОЗ) опасны и что они приводят к долгосрочным проблемам со здоровьем, говорить, что вакцины не помогают в защите от болезней, врать о составе вакцин — запрещено. Например, запрещено говорить, что вакцины приводят к аутизму, раку или бесплодию или что вакцины позволяют отслеживать того, кому её поставили. (про ЧИПИРОВАНИЕ запретили говорить!) Эти правила распространяются не только на обсуждение конкретных вакцин (против кори или гепатита Б, например), но и на вакнцинирование в целом.

Есть несколько исключений из этих правил: можно рассказывать о разработке вакцин, об их истории, включая неудачи и т.д. Личные истории вакцинированных тоже разрешены, если ... (бамс) по каналу в целом не видно, что он призывает зрителей отказаться от прививок.
—

Насколько эффективна такая борьба с анти-прививочниками, по сути — цензура идеи? (Не хочу вдаваться в дискуссию, что ютуб — частная компания и что цензура — она только от государства, это — отдельная тема) Приведет ли она к усилению суеверий про вакцины? К радикализации противников? На все эти вопросы у меня нет ответа, поживем — увидим. Вот бы послушать эксперта про это.

Модераторы тик-тока понижают видимость постов от «толстых, слишком худых, беззубых, старых и инвалидов». Короче говоря, просто «некрасивых» и бедных. Добро пожаловать в прекрасный новый мир.

Увольняюсь из Пьюр.

Мне трудно и я устал. Дело в отношениях с владельцем Pure, Ромой. Я благодарен Роме за возможность поработать вместе, это были очень интересные полгода, я многому научился.

—

Хочу подвести итог работе в Pure: за эти полгода мы сделали многое для защиты наших пользователей. Борьба со злоупотреблениями — важная часть любого дейтинг сервиса. У нас в Pure, где люди выражаются более свободно, чем в остальном интернете, эта проблема стоит ещё острее.

Плохие пользователи (bad actors) бывают двух типов: те, кто стригут мелкую монету с массовых рассылок и те, кто шантажируют точечно, но на крупные суммы. За эти полгода мы ударили по обоим категориям.

Массовые рассылки происходили из Нигерии (не шутка). Мы прикрыли этот канал и придумали и запустили удобную админку для модерации тысяч фотографий, так что у нас в ленте больше нет странных фотографий с номерами вацапа на них. Мы начали накапливать данные ручной модерации для последующей реализации алгоритмов машинного обучения.

Шантаж происходит так, что вас уводят в не анонимный (читай любой другой) мессенджер, где вы обмениваетесь текстами или фото/видео. Атака может продолжаться часы или даже дни. Злоумышленник деанонимизирует вас по номеру телефона или соцсетям, находит ваших близких и шантажирует вас раскрытием деталей переписки. Для борьбы с этим мы теперь даем отключить таймера у чата (ошейник!) — можно добавить человека в контакты и продолжать общение в Pure.

Внутри чатов Pure мы предупреждаем о том, что собеседник снял скриншот чата и когда он предлагает перейти в другой мессенджер. В способе предупреждений — весь интерфейсный кайф Pure. Это не системное уведомление, а один из 7 классных рисованных персонажей, который вклинивается в переписку и на понятном языке объясняет риски. В последнем релизе мы добавили чумовые стандартные аватарки и отключили возможность загружать картинки из галереи (только фото здесь и сейчас).

Ещё на нас была хакерская атака, которую мы успешно отразили (к сожалению, пока без подробностей).

Whastapp запретил одновременный форвард сообщения более чем 5 получателям. Раньше можно было выбрать до 20 контактов или групп.

Они полгода тестировали это изменение в Индии, где, начиная с 2017го года линчевали почти 100 человек и убили 40 из них после фейков, распространенных в ватсапе (см. Indian Whatsapp lynchings). ФБ утверждает, что это изменение сильно уменьшило число форвардов и поможет сохранить фокус ватсапа на личной переписке, а не делать из него ещё один источник фейковых новостей. Представитель фб отметил, что основное приложение фейсбука достаточно хорошо справляется с этой задачей.

В Чечне и Дагестане, говорят, все новости именно в ватсап-группах распространяются. Буду рад, если кто-то исследовал этот феномен и вы поделитесь ссылкой. Лучшее исследование, которое нашел я — это статья на GQ в разделе «развлечения» (хорошая!).

Помните, как расистскому сайту Daily Stormer (DS) отказывали в регистрации DNS и хостинге все приличные сервисы? Их последним прибежищем был CloudFlare. СF деактивировал их аккаунт в тот момент, когда DS начал намекать, что мол CloudFlare их защищает, потому что согласен с их позицией.

Меня очень впечатлил пост основателя и директора CloudFlare Мэтью Принса, который он опубликовал на следующий день после выключения DS. Мэтью пишет, что его пугает та концентрация силы, которая у него есть. DDoS-снуть любой сайт — очень дешево. Единственный способ защитить свой сайт — спрятаться за крупный CDN вроде CloudFlare. Если крупные CDN отказывают тебе в помощи — то всё, можешь считать, что в интернете твоей позиции уже нет (первый же недовольный просто снесет тебя DDoS'ом).

Мэтью предлагает обсудить, как должна происходить цензура в сети. На уровне создателя контента? Хостинга? Регистратора? Социальных сетей и поисковых систем?

Для многих интернет-долгожителей сеть была местом неограниченной свободы. Отчасти, как мне кажется, от того, что многие сетевики были из академической среды, отчасти — от технической децентрализации старой сети. Уже несколько лет, как я не позволяю себе говорить «это интернет, детка, тут могут послать наху%».

С каждым днем сеть становится всё более централизованной и бюрократизированной. И на уровне платформ (Facebook, VK с их сложными правилами модерации vs независимые сайтики прошлого) и на уровне технической сети (крупные CDN с архитектурой зезды vs пиринг независимых провайдеров). Пространство свободы сужается, интернет уже не тот фронтир, что раньше. Увы и ах.