#регулирование

Кстати, Кейти была экспертом при подготовке Вассенаарских договоренностей, которые определяют, какой софт считается оружием и как его контролировать.

Я в этой связи вспоминаю, как правительство США пыталось запретить публичное распространение криптографии, которую они не могли взломать.

Правительство классифицировало стойкие алгоритмы как вооружение и запрещало их экспорт.

Например, в середине 90-х, было две разных версии браузера Netscape: одна с нормальным 128-битным шифрованием, доступная только в США и Канаде, а остальной мир должен был довольствоваться 40-битным шифрованием.

Активисты, которые боролись с этим безумием, в числе прочего, распространяли алгоритмы и даже исходники RSA и PGP в виде книги. Потому что книги защищены первой поправкой к конституции США о свободе слова.

Вот активистская футболка тех времен, с алгоритмом RSA и крупным предупреждением «эта футболка классифицируется как вооружение и не может быть экспортирована из США или показана иностранцу».

Неожиданное развитие событий с fable 5: правительство США наложило экспортные ограничения (то, что обычно делают на оружие) — потребовали от Антропика отключить доступ к этой модели для всех иностранцев, включая сотрудников компании - не американцев.

Сделать быстро это Антропик не может, так что выключают доступ для всех.

Правительство утверждает, что обнаружило «джейлбрейк», который позволяет разблокировать возможности модели для кибер-атак. Антропик говорит, что речь о стандартном приеме «исправь ошибку в этом коде», который ровно так же работает и в ChatGPT 5.5. Обещают больше подробностей в течение 24 часов.

Хочется пошутить, что это такая PR-стратегия антропика перед IPO для поддержания хайпа, и что у них в очередной раз не хватает видеокарт, или что это наоборот, козни Сэма Альтмана против конкурента (тоже перед IPO), и что хайп про сверх-возможности в области в кибербезопасности имеет и обратные последствия, но вообще все это исключительно странно, даже для этой администрации. Похоже, кто-то в правительстве всерьез озабочен mythos/fable, ну или просто очередная дурь. 50:50.

🍿

Министр финансов и глава Центробанка США вызвали глав крупных банков, чтобы предупредить их о новых кибер-опасностях, которые следуют от Claude Mythos и аналогичных моделей, сообщает Блумберг.

Приведу целиком знаменитую пасту:

Отец знакомого работает в ФСБ. Сегодня срочно вызвали на совещание. Вернулся поздно и ничего не объяснил. Сказал лишь собирать вещи и бежать в магазин за продуктами на две недели. Сейчас едем куда-то далеко за город. Не знаю что происходит, но мне кажется началось...

Очень интересны параллели с табачной индустрией: они тоже всё знали и обсуждали зависимость и вред для здоровья курильщиков в рабочей переписке (как и сотрудники соцсетей сегодня), но публично говорили, что сигареты даже полезны для здоровья (и, конечно, оплачивали исследования ученых, которые подтверждали эту идею).

В 1994 году прокуроры 46 штатов США подали в суд на ведущие табачные компании, и в 1998 году они договорились выплатить 206 миллиардов долларов (почти полтриллиона в сегодняшних деньгах) в течении 25 лет (совсем недавно закончили платить!) и перестать рекламировать рекламировать табак несовершеннолетним. Компании сразу же повысили цены на сигареты и вообще, не сильно потеряли в доходе. Интересно, как получится в этот раз.

На картинке директора крупнейших табачных компаний США клянутся говорить правду и только правду на слушаниях в Сенате в 1994. Все они скажут, что никотин не вызывает зависимости.

«Интересная» ситуация между американскими военными и Anthropic.

Они подписали контракт на поставку ИИ для нужд армии. Теперь военные требуют, чтобы им можно было не следовать стандартным правилам пользования сервисом (Usage Policy).

Anthropic согласен подвинуться, но хочет внести в договор пункты о том, что их искусственный интеллект нельзя использовать для массовой слежки за американцами и для автономных роботов убийц.

Министерство войны США (они недавно официально переименовались) в ответ грозится не только разорвать контракт, но еще и воспользоваться законом о военном производстве, который позволяет правительству заставлять коммерческие структуры выполнять заказы критичные для оборонки.

А ещё министр пугает эту американскую компанию тем, что её внесут в чёрный список правительства США (объявят supply chain risk, так обычно делали с китайскими компаниями), так что с ними не сможет работать ни один бизнес, который исполняет контракты для государства.

Вы наверняка слышали, что программисты теперь встанут перед таким же выбором, перед каким стояли физики при создании ядерной бомбы. Обычно об этом рассуждают философы, которые ничем не рискуют. А тут ведущая компания в области ИИ может не только потерять большой контракт, но вообще перестать существовать в привычном нам виде. И всё это практически в прямом эфире.

Дальнейшее чтение: позиция EFF (всё предсказуемо), бодрый разбор Astral Codex Ten, который я кратко пересказал выше, и подробный текст от Цви Моушовица.

Из других новостей Европы: помните, DMA (европейский закон о цифровых рынках) требовал интероперабельности крупных сетей?

Появились аж два европейских мессенджера, которые позволяют переписываться с пользователями вацапа! … Но только если человек находится в ЕС и только после специального согласия пользователя.

А ещё оба эти мессенджера доступны только по приглашениям и удивительным образом, имеют связи с ФБ.

Фейсбук — ЕС: 1-0

Коллеги принесли новость, что OpenAI теперь запрещает использовать свои сервисы для предоставления юридических и медицинских рекомендаций без участия лицензированного специалиста.

Запрет запретом, но советы он продолжает давать как и раньше; просто добавляет теперь, что он не юрист и не врач. Это видно даже на примерах в Model spec — официальном списке правил для модели. Кажется, пункт в правилах — просто отписка для защиты в суде.

Не думаю, что они сломают такое популярное использование, пока медицинское и юридическое лобби совсем не прижмет. Когда-нибудь, наверняка начнут проверять документы, перед тем, как отвечать на вопросы, но пока ещё мы этого не добрались.

—

OpenAI, кстати, недавно опубликовали новость о том, как они борются с ИИ-индуцированными психозами, попытками суицида и излишним общением с нейросетями. Там и совет сделать перерыв в общении и «поговорить с живым человеком» и даже отказ нейросети соглашаться с тем, что над домом летают корабли, которые помещают в голову мысли. Молодцы!

Гугл будет решать, какие приложения можно установить на андроид-телефоны.

Компания придумала новый статус «верифицированного разработчика».

Программы, созданные разработчиками без верификации, не будут работать со включенным Google Play Protect — сервисом, защищающим телефон от вредоносного софта.

Мотивация: 98% всех вредоносных программ под андроид устанавливаются в обход Google Play Store, где уже работает этот фильтр.

Внедрение начали с Бразилии и Таиланда, где особенно распространено кибермошенничество и много андроид-телефонов.

—

С первых айфонов, каждый разработчик программ под iOS должен подписать контракт с компанией Apple и получить сертификат, который компания может аннулировать в любой момент. Программы без сертификата на айфоны не устанавливаются и не запускаются.

Теперь аналогичный механизм появился в Android. В отличие от айфона, в андроиде, пока что, формально, эту защиту можно выключить. Но есть нюанс— с выключенным Play Protect не работают многие приложения банков, игры, стриминговые платформы.

С одной стороны, кибермошенничество — реальная проблема. С другой стороны, с каждым годом, мы все меньше решаем, что можем сделать со своими собственными устройствами.

В Великобритании заработали части закона о безопасности в интернете 2023 года , по которым соцсети и порно сайты должны подтверждать возраст пользователей.

В ответ британцы начали массово устанавливать VPN.

Министерство инноваций заявило, что «платформы обязаны бороться с контентом, продвигающим VPN среди молодежи».

Будет иронично, если всё это закончится закупкой Британией технологий по блокировке трафика у Китая.

—

Первоисточник закона (300 страниц A4). Вот относительно короткий официальный пересказ от англкомнадзора (ofcom). Там все как у нас — и обязанность поисковых движков прятать ссылки, и оборотные штрафы.

У Великобритании получилось сделать то, что не могли США, Россия и Китай.

Под давлением правительства Его Величества, Apple перестала предоставлять сквозное (end-to-end) шифрование в iCloud для британских пользователей.

End-to-end шифрование гарантирует, что компания, которая хранит данные, не может их прочитать. Представьте себе банковскую ячейку, которую физически невозможно взломать и ключ от которой есть только у вас. Обычно, компании хранят данные всех пользователей в едином шифрованном пространстве — представьте себе комнату-сейф, когда ты внутри — то можешь взять что угодно с любой полки, ну или как минимум хранят копии ключей от индивидуальных сейфов пользователей. В случае сквозного шифрования — у каждого пользователя свой индивидуальный сейф и ключ есть только у него.

Понятно, что такая защита сильно не нравится правоохранителям.

Помните «закон Яровой» 2016 года? Там про многолетнее хранение данных о всей онлайн-коммуникации, включая звонки и переписки, о предоставлении всех ключей шифрования ФСБ и многое другое. В том же 2016 году в Великобритании приняли аналогичный «Акт о полномочиях следствия» (Investigatory Powers Act, IPA) по которому, в числе прочего, «операторы связи» должны по требованию государства выключать шифрование для доступа правоохранителей к данным пользователей. Судя по всему, британское правительство наконец отправило секретное предписание (конечно, они секретные и разглашение такого предписания — уголовное преступление) в Apple, а та не согласилась встраивать такой механизм в свою систему и просто выключила опцию сквозного шифрования для британских пользователей.

Интересно, что IPA противоречит европейскому GDPR, но после брекзита «Британия свободная страна и сама решает, как ей жить».

Остальным пользователям эпл эта система пока доступна, называется расширенная защита данных в iCloud (Advanced Data Protection, ADP), и включается в настройках (en).