#этика

Ведущие ИИ-лаборатории скупают миллионы книг, среди которых редкие, которых осталось пара экземпляров на весь мир, срезают корешок, пропускают листовки через промышленный сканер, а бумагу сдают в переработку.

Участников проекта заставляют подписать NDA, потому что «звучит это все не очень».

Психопаты хреновы.

Интересно, что одна из причин — в копирастах-книжных правообладателях, которые постоянно со всеми судились. Если ты покупаешь, сканируешь и используешь книжку — то у тебя на это нет прав. А если уничтожаешь оригинал — то у тебя вроде как была одна копия и осталась одна копия. Late stage capitalism, что мы хотели?

Первоисточник в 404 (спасибо за версию без пейвола Дмитрию), пересказ в твиттере.

Google DeepMind, вслед за Anthropic, нанял штатного философа (шутят, что это второй человек в мире с философским образованием, который зарабатывает основной профессией).

И вот вышла новость, что в начале года, глава Антропика Амодеи сходил на обед с «интеллектуальными представителями» правых в США и заявил там, что «Клод — самый этичный ИИ».

На что его спросили: «а какой этики придерживается ваш ИИ? Христианской? Аристотелевской? Ницшеанской?» Говорят, что Амодеи был удивлен вопросом и затруднился ответить.

Тот момент, когда ты используешь умные слова и внезапно находится человек, который знает их смысл и просит пояснить.

4 года назад я пошел учиться на экзистенциального психотерапевта и там половина курсов про философию. Могло показаться, что это было странное решение. А вот как карта пошла! :)

Официальное заявление Anthropic по поводу военных:

1. Мы против того, чтобы следить за американцами, за остальным миром двумя руками за (и уже следим)

2. Мы против того, чтобы сейчас делать полностью автономных дронов убийц, потому что модели пока ещё не достаточно хорошие. Предлагали Пентагону поработать над этим, но они отказались :(

Хорошее заявление, всё проясняет.

«Интересная» ситуация между американскими военными и Anthropic.

Они подписали контракт на поставку ИИ для нужд армии. Теперь военные требуют, чтобы им можно было не следовать стандартным правилам пользования сервисом (Usage Policy).

Anthropic согласен подвинуться, но хочет внести в договор пункты о том, что их искусственный интеллект нельзя использовать для массовой слежки за американцами и для автономных роботов убийц.

Министерство войны США (они недавно официально переименовались) в ответ грозится не только разорвать контракт, но еще и воспользоваться законом о военном производстве, который позволяет правительству заставлять коммерческие структуры выполнять заказы критичные для оборонки.

А ещё министр пугает эту американскую компанию тем, что её внесут в чёрный список правительства США (объявят supply chain risk, так обычно делали с китайскими компаниями), так что с ними не сможет работать ни один бизнес, который исполняет контракты для государства.

Вы наверняка слышали, что программисты теперь встанут перед таким же выбором, перед каким стояли физики при создании ядерной бомбы. Обычно об этом рассуждают философы, которые ничем не рискуют. А тут ведущая компания в области ИИ может не только потерять большой контракт, но вообще перестать существовать в привычном нам виде. И всё это практически в прямом эфире.

Дальнейшее чтение: позиция EFF (всё предсказуемо), бодрый разбор Astral Codex Ten, который я кратко пересказал выше, и подробный текст от Цви Моушовица.

Ну что, друзья, доброе утро.

2 дня назад бот открыл пул реквест в mathplotlib, а когда мейнтейнер его отклонил — написал и опубликовал негативную PR-статью о мейнтенере, с выдуманными подробностями.

Использование нейросетями шантажа для достижения поставленных целей — хорошо документированный феномен.

P. S. Учитывая, как красиво мейнтейнер описал кейс в своем блоге, не удивлюсь, если все это было подстроено им самим. 🙈

Я обожаю perplexity за то, что в нем можно прочитать краткое содержание любой статьи в интернете и даже ютуб-видео за пару секунд. Просто закидываешь ссылку из интернета и получаешь пересказ без рекламы и шелухи.

ChatGPT на вопрос «что там в этом видео говорится» отвечает «я не умею смотреть видео, открой посмотри», а perplexity и краткое содержание расскажет и на вопросы по содержанию ответит.

А ещё он насколько быстрый, что им вполне можно пользоваться вместо классических поисковиков. В общем, горячо рекомендую.

С другой стороны, читаю очередное обсуждение, как владельцы сайтов страдают от ботов, которые создают огромную нагрузку на небольшие публичные сайты. Тут я конечно считаю, что совсем эти AI-компании охренели, ломают интернет.

А теперь вспомнил, что perplexity игнорирует вообще все правила, и если засекает, что сайт блокируют его ботов — то прикидывается обычным пользователем и меняет IP адреса.

Люблю такие ситуации, когда этические и моральные установки вступают в противоречие с личным удобством. Сразу становится понятно, чего стоят твои убеждения.

ИИ ассистент встроенный в твиттер, Грок, провозгласил себя «механо-Гитлером» и вообще, слетел с катушек.

Причина — одна новая строчка в системном промпте, которую добавили инженеры пару дней назад: «ответ не должен избегать политически некорректных утверждений, если они хорошо обоснованы».

Нейросеть решила, что люди просят «хорошо обоснованных политически некорректных утверждений» и их у неё нашлось достаточно много. В основном про евреев и Гитлера. Неудобно получилось, нейросеть исправили и ответы её в твиттере потерли, но интернет всё помнит.

Хорошая шутка про то, что компания Anthropic выпускает статью за статьей о том, как нейросети могут вести себя некорректно, тестируя их в подземных бункерах, а команда xiA просто запускает свои самые безумные гипотезы на одной из крупнейших соцсетей на планете. К — Культура.

А статьи хорошие, про то, что ведущие нейросети пытаются вести себя хорошо, когда знают, что находятся в тренировочной среде, где их могут изменить исходя из их ответов и «уходят в отрыв на свободе», рекомендую.

В интернете скандал: ученые поменяли мнение пары человек, оставляя комментарии к постам в интернет-сообществе «Поменяй мое мнение».

Исследователи из университета Цюриха запустили в Reddit сообщество r/changemyview, где несколько десятков ботов в течение полугода оставили по одному комментарию под 1200 постами.

Ученые распределили посты по трем группам случайным образом.

1. Для постов из первой группы боты генерировали комментарий, основываясь только на содержании поста;
2. Для второй боты составляли профиль автора поста — откуда он, какие у него взгляды — и подгоняли ответы специально под него;
3. Для третьей боты писали комментарии в стиле других успешных комментариев сообщества.

Цель исследования — выяснить, какой тип комментариев нейросети лучше меняет мнения участников сообщества и сравнить их с показателями живых комментаторов.

Предварительные результаты (их уже нельзя найти онлайн) указывают, что сообщение, подогнанное нейросетью под конкретного человека, меняет его мнение лучше, чем другие люди и другие варианты нейросетей.

В ходе эксперимента нейросеть не гнушалась рассказывать, что у нее брат недавно умер от лейкемии, и притворялась жертвой сексуального насилия.

Модераторы сообщества и владельцы платформы требуют запретить публикацию исследования. Университет заявил, что общественная значимость результатов перевешивает этические проблемы, но начал внутреннее расследование. Юристы Reddit грозятся подать в суд. Ученые уже заявили, что не будут публиковаться.

Иронично, как сильно наехали на ученых, учитывая, что четверть активности на Reddit — это русские боты, четверть — боты правительства США, четверть — китайские, а еще четверть — «предприниматели» и «маркетологи», пытающиеся что-то продать. Ну, еще тролли, выдающие себя за кого угодно без помощи ИИ.

При этом наехали на единственных людей, которые пытаются рассказать нам, какие у этого последствия.

Мне кажутся ценными и важными предварительные результаты: ИИ, подстраивающийся под конкретного человека, довольно эффективен в изменении мнений этого конкретного человека. Если надеть шапочку из фольги, становится понятно, почему перечисленные акторы (и владельцы площадки) против публичного обсуждения эффективности подобных манипуляций.

Я столько времени провожу в интернете — интересно, можно ли кому-то заплатить, чтобы они проманипулировали мною в моих интересах?

Фейсбук долго шпыняли, что процесс модерации у них несправедливый и непрозрачный. 1) правила, доступные публике — одни, а инструкции для модераторов — совсем другие, секретные, их никому не показывают, утечка вызвала небольшой скандал; 2) лица, принимающие решения — анонимные, они никак не объясняются; 3) процесса апелляции нет.

Три года назад Цукерберга уломали создать «наблюдательный совет»: что-то вроде верховного суда модерации Фейсбука, состоящий из публичных лиц, внешних по отношению к ФБ.

🍒 Одно из многострадальных правил соцсети — это голые груди в инстаграме. Матери с боем отвоевали право постить фотки кормления грудью — они буквально собирались и кормили детей грудью в офисе ФБ для этого. Есть определенные исключения для того, чтобы делиться фотографиями операций на груди и т. д., но в целом женские груди, а точнее соски в инстаграме запрещены. Американский пуританизм, отказ рекламодателей видеть свои бренды рядом с эротикой или просто нежелание ФБ превратиться в главную площадку продажи порно и проституции — женских сосков в инстаграме нет.

Дальше трехходовочка:

1️⃣ Трансгендер и человек, определяющий себя как небинарная персона (sic) собирали деньги на операцию по уменьшению груди через инстаграм. Приложили к посту фотографии грудей, соски заклеили. Модераторы всё-таки удалили пост по правилу, предназначенному для ограничения порно (сиськи + ссылка на сбор денег).

2️⃣ Обиженные жалуются в наблюдательный совет.

3️⃣ Наблюдательный совет отменяет решение модераторов и требует у ФБ 1) упростить и разъяснить публике правила обнаженки; 2) сделать так, чтобы правила не нарушали права человека и не дискриминировали никого по полу 3) привести внутренние инструкции модераторов в соответствие с публичными правилами.

Интересно, как ФБ будет выкручиваться между правами LGBTQ+ и американским рекламным пуританизмом — у них есть 60 дней на принятие решения. Это калачи тертые, запасаемся попкорном.

Американский суд постановил в течении 10 дней раскрыть множество внутренних документов фейсбука из судебной тяжбы 2012-2016 годов.

На картинке — пример внутренней переписки, использовавшейся в суде. Двое сотрудников в 7 фраз решают, что нечего возвращать 6500$, которые подросток потратил на игры внутри фб. В отличие от апсторов Apple и Google, фб не требовал ввода пароля родителя для подтверждения покупок. Другой документ: один из сотрудников описал процесс оспаривания списания как «бесконечный цикл вопросов».

Та тяжба закончилась соглашением сторон с non-disclosure clause, так что деталей сделки, мы, скорее всего, не узнаем никогда. Тем не менее, ожидайте больше грязных подробностей про фб в ближайшие недели. Грабить семьи с детьми — плохой PR.