Технологии и общество

Очень интересны параллели с табачной индустрией: они тоже всё знали и обсуждали зависимость и вред для здоровья курильщиков в рабочей переписке (как и сотрудники соцсетей сегодня), но публично говорили, что сигареты даже полезны для здоровья (и, конечно, оплачивали исследования ученых, которые подтверждали эту идею).

В 1994 году прокуроры 46 штатов США подали в суд на ведущие табачные компании, и в 1998 году они договорились выплатить 206 миллиардов долларов (почти полтриллиона в сегодняшних деньгах) в течении 25 лет (совсем недавно закончили платить!) и перестать рекламировать рекламировать табак несовершеннолетним. Компании сразу же повысили цены на сигареты и вообще, не сильно потеряли в доходе. Интересно, как получится в этот раз.

На картинке директора крупнейших табачных компаний США клянутся говорить правду и только правду на слушаниях в Сенате в 1994. Все они скажут, что никотин не вызывает зависимости.

Суд присяжных в Калифорнии признал Фейсбук и Ютуб виновными в том, что их продукты вызывают привыкание и ведут к ухудшению психологического состояния пользователей.

Обе компании уже заявили, что подадут апелляцию, так что они будут судиться ещё года два. В США у интернет компаний довольно сильная законодательная защита через Секцию 230, которая освобождает их от редакционной ответственности за контент. Харизматичные адвокаты жалобщиков (один из них даже подрабатывает пастором) смогли убедить присяжных, что речь не о контенте, а о самих рекомендательных алгоритмах и механизмах типа бесконечной ленты или автоплея. И далеко не факт, что профессиональные судьи окружного суда согласятся с решением присяжных.

И нет, это не прецедент в правовом смысле, то есть нельзя сослаться на это решение и получить от ФБ денег за то, что плохо себя чувствуешь (хотя хотелось бы!).

На картинке Цукерберг выходит из здания суда.

Официальное заявление Anthropic по поводу военных:

1. Мы против того, чтобы следить за американцами, за остальным миром двумя руками за (и уже следим)

2. Мы против того, чтобы сейчас делать полностью автономных дронов убийц, потому что модели пока ещё не достаточно хорошие. Предлагали Пентагону поработать над этим, но они отказались :(

Хорошее заявление, всё проясняет.

«Интересная» ситуация между американскими военными и Anthropic.

Они подписали контракт на поставку ИИ для нужд армии. Теперь военные требуют, чтобы им можно было не следовать стандартным правилам пользования сервисом (Usage Policy).

Anthropic согласен подвинуться, но хочет внести в договор пункты о том, что их искусственный интеллект нельзя использовать для массовой слежки за американцами и для автономных роботов убийц.

Министерство войны США (они недавно официально переименовались) в ответ грозится не только разорвать контракт, но еще и воспользоваться законом о военном производстве, который позволяет правительству заставлять коммерческие структуры выполнять заказы критичные для оборонки.

А ещё министр пугает эту американскую компанию тем, что её внесут в чёрный список правительства США (объявят supply chain risk, так обычно делали с китайскими компаниями), так что с ними не сможет работать ни один бизнес, который исполняет контракты для государства.

Вы наверняка слышали, что программисты теперь встанут перед таким же выбором, перед каким стояли физики при создании ядерной бомбы. Обычно об этом рассуждают философы, которые ничем не рискуют. А тут ведущая компания в области ИИ может не только потерять большой контракт, но вообще перестать существовать в привычном нам виде. И всё это практически в прямом эфире.

Дальнейшее чтение: позиция EFF (всё предсказуемо), бодрый разбор Astral Codex Ten, который я кратко пересказал выше, и подробный текст от Цви Моушовица.

Из других новостей Европы: помните, DMA (европейский закон о цифровых рынках) требовал интероперабельности крупных сетей?

Появились аж два европейских мессенджера, которые позволяют переписываться с пользователями вацапа! … Но только если человек находится в ЕС и только после специального согласия пользователя.

А ещё оба эти мессенджера доступны только по приглашениям и удивительным образом, имеют связи с ФБ.

Фейсбук — ЕС: 1-0

Интересно, как Европа пытается стать независимой от американских технологий и финансовой системы.

Из последнего технического: Франция пересаживает всех госслужащих с Zoom, Teams и Google Docs на свой «LaSuite» от numerique о котором я писал раньше.

Про финтех: директор ЕЦБ предлагает сделать свою альтернативу VISA и Mastercard.

Логичные действия, учитывая, как США ввели санкции в отношении уже 11 судей международного уголовного суда, расположенного в Гааге. Судьи не могут пользоваться внутренними ИТ-системами суда, банковскими карточками и даже услугами местных банков, сидя в центре Европы, потому что администрация США так решила.

А так будет суверенитет! Скоро ещё свой DNS сделают, наверное, и мессенджер национальный! И назовут LeMax.

Мокси Марлинспайк, создатель Сигнала, запустил новый сервис инференса (проще говоря, сайт, где можно разговаривать с нейросетью), с упором на конфиденциальность, называется Confer.

Все шифруется passkey ключем, так что у Мокси нет возможности подсмотреть историю переписки.

Когда мы отправляем сообщение в Сигнале, сервер даже в теории не имеет возможности расшифровать переписку (и в большинстве случаев даже не знает, кому мы отправили сообщение, за это отвечает крышесносная криптография). Тут же серверу необходима возможность расшифровать наши запросы нейросети, чтобы запустить их на GPU.

За то, что нашу переписку с нейросетью никто не перехватывает на этапе «счета», отвечает «доверенная вычислительная среда» (TPE). Это специальное железо, которое гарантирует, что на сервере запущен именно тот код, который доступен публично, и что никто не может подсмотреть память этой программы.

Учитывая утечки последних десятилетий, никакого доверия поделиям компаний Intel и AMD у меня нет. Даже если они не скооперировались с АНБ (NSA), то вполне вероятно, что NSA или Моссад их взломали и специально натыкали уязвимостей, ну или нашли зеродей и не сообщили производителю. Тем не менее, это примерно в 100 раз лучше, чем политика в отношении данных всех других производителей.

Интересно, что похожую модель облачных вычислений использует и Apple. Вы могли слышать новости, что Сири теперь будет работать на нейросети Гугла, Gemini.

Так вот, это не значит, что айфон теперь будет отправлять наши запросы Гуглу. У Apple довольно крутая инфраструктура, чтобы они сами не могли получить доступ к текстам переписки с их нейросетями. Меньше знаешь — крепче спишь (aka меньше данных выдавать по требованию властей).

Ну и просто красивая и довольно редко применяемая технология. Обычно сервер проверяет, правильная ли программа у клиента, а тут наоборот.

—

Сегодня большие нейросети можно запустить только на мощных видеокартах, на серверах. Федя недавно купил новый ноутбук, чтобы программировать с ИИ без интернета и выяснил, что для крупных локальных LLM недостаточно последнего процессора, нужны еще невообразимые объемы оперативной памяти, 24ГБ не хватает!

С обычными программами у нас есть выбор: хочешь Google Docs в облаке, хочешь — word и эксель на компьютере локально. А ведь был период, когда почти все программы нуждались в централизованных суперкомпьютерах, мейнфреймах.

Ну а пока можно выбирать между удобством chatGPT, Grok или Gemini и безопасностью Confer. Почти 1-1 как в мессенджерах :)

Ах да, Confer стоит 35$ в месяц, бесплатный тариф 20 сообщений в день. Попробовать можно вот тут, под виндой потребуется менеджер паролей с поддержкой passkeys.

Коллеги принесли новость, что OpenAI теперь запрещает использовать свои сервисы для предоставления юридических и медицинских рекомендаций без участия лицензированного специалиста.

Запрет запретом, но советы он продолжает давать как и раньше; просто добавляет теперь, что он не юрист и не врач. Это видно даже на примерах в Model spec — официальном списке правил для модели. Кажется, пункт в правилах — просто отписка для защиты в суде.

Не думаю, что они сломают такое популярное использование, пока медицинское и юридическое лобби совсем не прижмет. Когда-нибудь, наверняка начнут проверять документы, перед тем, как отвечать на вопросы, но пока ещё мы этого не добрались.

—

OpenAI, кстати, недавно опубликовали новость о том, как они борются с ИИ-индуцированными психозами, попытками суицида и излишним общением с нейросетями. Там и совет сделать перерыв в общении и «поговорить с живым человеком» и даже отказ нейросети соглашаться с тем, что над домом летают корабли, которые помещают в голову мысли. Молодцы!

14 октября Европейский Союз решит, сломать конфиденциальность переписки сейчас или отложить этот вопрос еще на год.

Новый закон направлен на защиту детей, конечно же. Алгоритмы должны запускаться на телефонах и проверять сообщения до их отправки (и шифрования).

Если сообщение содержит детское порно или склонение ребенка к чему плохому — то оно отправляется правоохранителям на проверку. А еще все должны предъявлять документы для регистрации в мессенджерах.

Инициативу прозвали Chat control, закон впервые выдвинули аж в 2022 году. Тогда его поддержали только 5 стран. Для принятия нужно согласие 15 из 27 стран Евросоюза с 65% населения ЕС. Сегодня 12 стран за, 7 против и благодаря позиции Германии (18% населения ЕС), в этот раз опять пронесло. Скорее всего, его чуть поредактируют и снова выдвинут в 2026.

Если в России ФСБ требует у всех мессенджеров ключи шифрования, то тут все тоньше — «это затрагивает только подозрительные сообщения». То, что список «запрещенки» потом расширится, и что технические ошибки неминуемо приведут утечкам законной переписки — это «страхи отдельных алармистов», «подумайте о детях!»

Есть шутка, что в России строгость закона компенсируется необязательностью его исполнения. Signal, WhatsApp и секретные чаты телеграма доступны всем желающим при минимальном приложении усилий, несмотря на то, что они нарушают требования российского закона.

Интересно посмотреть, что произойдет с мессенджерами, если (когда) Евросоюз де-факто объявит сквозное шифрование незаконным. Как поступят компании? Как поступят люди? Ах да, лично себя политики внесли в список исключений, конечно же. 🤡

Инструмент для граждан ЕС, чтобы обратиться к своему депутату — здесь.

Гугл будет решать, какие приложения можно установить на андроид-телефоны.

Компания придумала новый статус «верифицированного разработчика».

Программы, созданные разработчиками без верификации, не будут работать со включенным Google Play Protect — сервисом, защищающим телефон от вредоносного софта.

Мотивация: 98% всех вредоносных программ под андроид устанавливаются в обход Google Play Store, где уже работает этот фильтр.

Внедрение начали с Бразилии и Таиланда, где особенно распространено кибермошенничество и много андроид-телефонов.

—

С первых айфонов, каждый разработчик программ под iOS должен подписать контракт с компанией Apple и получить сертификат, который компания может аннулировать в любой момент. Программы без сертификата на айфоны не устанавливаются и не запускаются.

Теперь аналогичный механизм появился в Android. В отличие от айфона, в андроиде, пока что, формально, эту защиту можно выключить. Но есть нюанс— с выключенным Play Protect не работают многие приложения банков, игры, стриминговые платформы.

С одной стороны, кибермошенничество — реальная проблема. С другой стороны, с каждым годом, мы все меньше решаем, что можем сделать со своими собственными устройствами.