#модерация

Взлет и падение StackOverflow.

Это был главный сайт вопросов и ответов для программистов. На пике популярности, в 2014-2018, там задавали по 200 тысяч вопросов в месяц! В прошлом месяце, на нем задали только 3 тысячи вопросов, столько же, как и в августе 2008, при запуске.

Нейросети — финальный удар, который добил гиганта. ИИ отвечает на конкретно твой вопрос мгновенно, а недавно научился искать по всему интернету. Это удобнее, чем часами, а то и днями ждать ответов от волонтеров.

Но сайт начал падение ещё в 2018 году! Ну и окончательно покатился вниз в 2021, задолго до появления нейросетей (первая сколько-то полезная chatgpt 3.5 выйдет только в ноябре 2022).

Что же это было? Две главные гипотезы:

1. Discord. Эту программу для чатов запустили в 2015 году и в 2016-17 туда начали переезжать популярные open source проекты. Это, кстати, огромная потеря, ответы на вопросы из Discord’а недоступны для поиска в «большом интернете». Есть проекты типа Linen, которые пытаются это исправить, но они стоят денег и по умолчанию сообщения «заперты» в чатах. А ещё Discord, конечно, продаёт доступ к чатам компаниям обучающим нейросети, но это отдельная история.

2. Очень злая модерация. Модераторы закрывали вопросы как дубликаты или как не подходящие под «правила сайта». В результате, новички часто не могли получить ответ на свои вопросы и уходили разозленные, а опытные участники разочаровывались и переставали отвечать. Классический синдром вахтера, когда суть подменяется формой, у википедии схожие проблемы.

Интересно, что сайт изначально имел двойственную суть: это была попытка создать полную, структурированную энциклопедию знания о программированию с одной стороны — это был посыл со-основателя Джефа Атвуда (он вышел из проекта в 2013) и сообщество людей, которые помогают друг-другу, с другой — идея Джоэля Спольски, второго сооснователя, вышедшего из проекта 2019 вместе с продажей.

Sic gloria transit mundi.

Кстати, SO — пример отличной архитектуры, когда люди не изобретают сложность на пустом месте. Один из самых популярных сайтов в интернете работал на десятке серверов, а временами выживал вообще на одной машине. Рекомендую серию статей 2016 года, где инженер оттуда рассказывает, как всё устроено под капотом. Есть чему поучиться.

А ещё у нас есть эпизод подкаста, где мы говорим с Николаем Чабановским, который сделал русский клон и продал его самому Джоэлю Спольски и отвечал за сообщества в SO.

Прям ностальгия...

Задержание Дурова во Франции имеет бесконечное число интерпретаций.

Пропустим теории заговора, мол специально сел в тюрьму.

Начнем с глупостей: одно из обвинений — незаконный экспорт средств шифрования. Пережиток холодной войны, чтобы применить этот закон равномерно — нужно посадить вообще всех технарей, включая Марка Цукерберга и Тима Кука. Хотел бы я на это посмотреть. Вот и думай о том, что «дело не политическое, суды разберутся».

Теперь о возможных реальных причинах ареста. Тут проявляется двойственная природа телеграма:

📣 С одной стороны, это медиа-платформа, на которой есть каналы и публичные группы на десятки тысяч участников. Возможно, французские правоохранители послали запрос на блокировку какого-то публичного канала и не получили внятного ответа. Причины могли быть разные — от принципиальной позиции до того, что тупо пропустили запрос.

Если у вас есть четкая позиция, должны ли или не должны медиа-платформы блокировать то, что просят заблокировать власти — представьте, что власти хотят заблокировать: 1. Канал, который продает детское порно 2. Канал неонацистов 3. Канал левацкой идеологии 4. Канал Навального 5. Канал Кремля. Кто должен принимать решения о блокировке? Как быстро их нужно исполнять? Как обжаловать? Это — огромная тема, которая в публичном пространстве почти не обсуждается. И несмотря на наличие формальных правил, в результате мы живем в мире, где все решается кулуарными договоренностями платформ и спецслужб.
Я не удивлюсь, если арест владельца платформы — просто переговорная тактика спецслужбы, выторговать себе условия получше.

💬 Теперь второе лицо телеграма — то, что это — популярное приложение для переписки. Личной и в группах.

Я уверен, что французские власти очень хотят получить переписку подозреваемых. И список их контактов. И то, в каких группах они состоят. И содержимое этих групп. И список участников групп. И список их переписок, конечно же.

Если у вас есть четкая позиция, должны ли владельцы мессенджеров отдавать эту информацию или не должны — представьте, что речь идет: 1. о расследовании дела маньяка-педофила или террористов. 2. О расследовании команды Навального. 3. О расследовании смерти Навального.

И те же самые вопросы: кто принимает решение? как быстро нужно его исполнить? как его обжаловать?
Опять же, нам — пользователям никто ничего не объясняет, это кулуарные договоренности мессенджеров и спецслужб.

В случае Дурова все усложняется тем, что в отличие от Вацапа или Сигнала, личная переписка в телеграме по умолчанию доступна инженерам телеграма, а групповую переписку в телеграме в принципе невозможно скрыть от владельца платформы. И как на самом деле реализовано удаление переписки — мы не знаем. Не удивлюсь, если удаленные сообщения только отмечаются удаленными и перестают показываться в телефонах, но остаются на серверах, доступные команде телеграма. В общем, данных там ЗАВАЛИСЬ.

За многие годы, разные страны пришли к разным решениям этих фундаментальных вопросов. Часть из них прописаны в законах и судебных прецедентах, о некоторых мы узнали из утечек секретных документов. Как бы то ни было, это важные вопросы, в моей картине мира требующие публичного обсуждения и общественного консенсуса, а не посадок. Жаль, что родина Вольтера и Декарта решила иначе. И свободу Павлу Дурову!

Фейсбук долго шпыняли, что процесс модерации у них несправедливый и непрозрачный. 1) правила, доступные публике — одни, а инструкции для модераторов — совсем другие, секретные, их никому не показывают, утечка вызвала небольшой скандал; 2) лица, принимающие решения — анонимные, они никак не объясняются; 3) процесса апелляции нет.

Три года назад Цукерберга уломали создать «наблюдательный совет»: что-то вроде верховного суда модерации Фейсбука, состоящий из публичных лиц, внешних по отношению к ФБ.

🍒 Одно из многострадальных правил соцсети — это голые груди в инстаграме. Матери с боем отвоевали право постить фотки кормления грудью — они буквально собирались и кормили детей грудью в офисе ФБ для этого. Есть определенные исключения для того, чтобы делиться фотографиями операций на груди и т. д., но в целом женские груди, а точнее соски в инстаграме запрещены. Американский пуританизм, отказ рекламодателей видеть свои бренды рядом с эротикой или просто нежелание ФБ превратиться в главную площадку продажи порно и проституции — женских сосков в инстаграме нет.

Дальше трехходовочка:

1️⃣ Трансгендер и человек, определяющий себя как небинарная персона (sic) собирали деньги на операцию по уменьшению груди через инстаграм. Приложили к посту фотографии грудей, соски заклеили. Модераторы всё-таки удалили пост по правилу, предназначенному для ограничения порно (сиськи + ссылка на сбор денег).

2️⃣ Обиженные жалуются в наблюдательный совет.

3️⃣ Наблюдательный совет отменяет решение модераторов и требует у ФБ 1) упростить и разъяснить публике правила обнаженки; 2) сделать так, чтобы правила не нарушали права человека и не дискриминировали никого по полу 3) привести внутренние инструкции модераторов в соответствие с публичными правилами.

Интересно, как ФБ будет выкручиваться между правами LGBTQ+ и американским рекламным пуританизмом — у них есть 60 дней на принятие решения. Это калачи тертые, запасаемся попкорном.

Мужчина сфотографировал воспаленный пенис сына на свой андроид телефон и отправил фотографии врачу. Алгоритмы гугла посчитали, что это детское порно: гугл заблокировал его аккаунт и сообщил о фотографиях в полицию. Полицейские провели короткое расследование и отвалили, но гугл отказался восстановить аккаунт, несмотря на многочисленные жалобы. Мужчина потерял 10 лет переписки, календари, номер телефона и т. д. сообщает Нью-Йорк Таймс.

—

Все крупные IT-компании совершают подобные ошибки и мы слышим только о малой доле — кто хочет рассказывать, что его посчитали педофилом и оправдали? Многие вообще плохо понимают, что происходит. В этом случае пострадал инженер, который сам программировал подобные системы.

Когда такая история попадает в новости, её замечает живой человек в гугле и проблему быстро решают. Строить службу техподдержки, которая бы помогала каждому пострадавшему пользователю — это тупо дороже и в текущих реалиях не выгодно.

Я так много писал о подобных ситуациях, что не стал бы опять тратить ваше время, если бы не то, как повел себя гугл — он отказался признать ошибку и восстановить аккаунт даже после того, как об этой конкретной истории написали The New York Times и The Guardian. Вспоминая свою казанскую юность, это беспредел.

Я твердо верю, что поведение огромных корпораций в отношении отдельных людей нужно регулировать законодательно, обязав компании с оборотом условно больше 100 миллионов долларов внедрять due process — то есть иметь прозрачные правила принятия важных решений в отношении отдельных людей и механизм обжалования «приговоров».

Пока же собираюсь перестать бэкапить фотографии в Google Photos (эх, отличный был сервис) и купить себе домашний сервер Synology на два диска. Дожили. 🙈 Synology, кстати, хорошо прокачались, у них есть отдельная программа для хранения и каталогизации фотографий и даже инструкция по миграции c Google Photos.

На фото герой статьи со своим сыном.

Порно-звезда рассказывает, как вернула свой инстаграм-аккаунт после блокировки: нашла в линкедине список сотрудников, которые отвечают за рассмотрение запросов на разблокировку, нашла их в инстаграме, написала им в инсте, переспала с парой. Profit.

Крутая социальная инженерия и херовый мир, в котором мы живем.

Спасибо Антону Ревяко за наводку.

Коллеги поясняют, что таким образом телеграм уменьшает затраты на модерацию рекламы. Миллион евро — хорошая мотивация не нарушать правил.

Интересно, как быстро появятся посредники, которые будут делать модерацию контента и перепродавать доступ к рекламной площадки за маржу?

Вообще, модерация рекламы — это огромная и сложная задача, которую все платформы делают довольно посредственно. Телеграм, по сути, переводит её в экономическую плоскость и предлагает решить её свободному рынку.

Аж захотелось стартап замутить и посмотреть, сколько реально стоит модерация, если сделать её эффективно. Я делал один подход к этой задаче в бытность техдиром Pure, в этой сфере огромное пространство для улучшений.

Вы могли видеть новости, что ютуб удалил каналы немецкой Russia Today. RT — новостные каналы российских властей на иностранных языках, «наш ответ» Deutsche Welle и Голосу Америки. Поговаривают о блокировке ютуба на территории России в ответ.

Прикол в том, что это не специальное решение Гугла (или Ютуба) против российской пропаганды. RT просто задело в рамках массированной кампании ютуба по борьбе с анти-ваксерами, то есть теми, кто пропагандирует отказ от прививок. Ютуб вчера объявил о новых правилах и уже заблокировал крупнейшие ютуб-каналы, самых популярных анти-ваксеров.

Видимо, в Германии RT решили сыграть на страхе перед прививками. Интересно, пойдет ли Ютуб на сделку с Россией? Например, чтобы RT удалила анти-вакциночные видео? Это был бы самый дешевый исход для обоих сторон. Но это всё — side story.

Новые правила ютуба про прививки довольно интересные. Не-воды — всего два абзаца. Приведу тут их целиком, мой перевод — ниже.

—
Specifically, content that falsely alleges that approved vaccines are dangerous and cause chronic health effects, claims that vaccines do not reduce transmission or contraction of disease, or contains misinformation on the substances contained in vaccines will be removed. This would include content that falsely says that approved vaccines cause autism, cancer or infertility, or that substances in vaccines can track those who receive them. Our policies not only cover specific routine immunizations like for measles or Hepatitis B, but also apply to general statements about vaccines.

There are important exceptions to our new guidelines. Given the importance of public discussion and debate to the scientific process, we will continue to allow content about vaccine policies, new vaccine trials, and historical vaccine successes or failures on YouTube. Personal testimonials relating to vaccines will also be allowed, so long as the video doesn't violate other Community Guidelines, or the channel doesn't show a pattern of promoting vaccine hesitancy.
—

Перевод:
—
Говорить, что вакцины (здесь и далее — одобренные местными властями и ВОЗ) опасны и что они приводят к долгосрочным проблемам со здоровьем, говорить, что вакцины не помогают в защите от болезней, врать о составе вакцин — запрещено. Например, запрещено говорить, что вакцины приводят к аутизму, раку или бесплодию или что вакцины позволяют отслеживать того, кому её поставили. (про ЧИПИРОВАНИЕ запретили говорить!) Эти правила распространяются не только на обсуждение конкретных вакцин (против кори или гепатита Б, например), но и на вакнцинирование в целом.

Есть несколько исключений из этих правил: можно рассказывать о разработке вакцин, об их истории, включая неудачи и т.д. Личные истории вакцинированных тоже разрешены, если ... (бамс) по каналу в целом не видно, что он призывает зрителей отказаться от прививок.
—

Насколько эффективна такая борьба с анти-прививочниками, по сути — цензура идеи? (Не хочу вдаваться в дискуссию, что ютуб — частная компания и что цензура — она только от государства, это — отдельная тема) Приведет ли она к усилению суеверий про вакцины? К радикализации противников? На все эти вопросы у меня нет ответа, поживем — увидим. Вот бы послушать эксперта про это.

Это — важный пост про права в интернете. И повод достойный: президента США забанили Твиттер и Фейсбук.

🍆 События: Дональд Трамп на днях сказал толпе на митинге «идите на Капитолий», толпа пошла и вломилась в парламент, где депутаты как раз считали голоса президентских выборов, на которых Трамп проиграл (у них хитрая система, и это важный процессуальный шаг).

Дальше Трамп выпустил заявление, что «уважаемые погромщики, мы вас очень любим (you are very special, sic), но идите уже домой». И ещё добавил «выборы у нас украли. PS на инаугурации не буду».

Твиттер и Фейсбук психанули и забанили Трампа навечно, а у Трампа, на минуточку был один из самых популярных аккаунтов на платформе и за него проголосовала почти половина страны. Объяснение дали такое, что мол «не буду на инаугурации» — значит «можете устроить там небольшой теракт» и вообще, «нарушает правила платформы». Логика конечно так себе, правила платформы он нарушал 5 лет подряд и у всех есть важное мнение, кто в Америке не прав, но нас интересует другое.

👆 Важно другое:
Твиттер и Фейсбук в последние годы являются де-факто «публичным пространством» (они себя так и называли, town hall, буквально городская ратуша), но при этом управляются частными лицами. Фейсбуку, например, даже на акционеров пофигу, там такая акционерная структура, что все решения принимает Цукерберг.

Весь западный мир построен на концепции Due Process. Это значит, что есть законы, по которым существует общество и есть публичные механизмы, как эти законы исполняются. Проще говоря, правила игры известны заранее. Это — супер мощная идея и я не хочу жить в мире, который построен по другим принципам (хотя, по принципу любви наверное хочу, но это уже совсем другой разговор).

Подробнее про Due Process рекомендую почитать у основателя Cloudflare Мэтью Принца, он юрист по образованию и мало кто разбирается в интернете лучше него: раз, два, три.

В случае фейсбука, твиттера, apple, google и других популярных онлайн платформ — никакого Due Process нет и никогда не было. Есть некоторые неизвестные нам люди, которые принимают решения по неизвестным нам правилам, что нам можно на этих цифровых платформах делать, а что нет. 99% времени все довольны, но законы нужны как раз для тех случаев, когда стороны не могут договориться по-хорошему, это, надеюсь, очевидно всем. У всех платформ есть длинные «правила поведения», но это всё филькина грамота, решения кого забанить, а кого нет принимаются совсем не по этим бумажкам. (Кек, очень похоже на российскую правоохранительную систему в области политических дел.)

❓ Что делать?

1️⃣ Одна сторона говорит: интернет-платформы — частные компании, не нравится что делает её владелец — иди на другой сайт, устанавливай другое приложение, покупай другие телефоны и пользуйся ими. Мы ведь не можем заставить технологические компании оказывать услуги всем подряд? Обычно так говорят люди, которым нравится кого прямо сейчас прессуют техногиганты. Прямо сейчас — это демократы в США.

2️⃣ Вторая сторона возражает: современный мир такой, что бан в крупных соцсетях и техноплатформах — это как если бы мы отключали своим конкурентам воду, канализацию и электричество! (В штатах это запрещено). Прямо сейчас эту позицию занимают сторонники Трампа.

Оба довода — очень сильные. Как их поженить — я не знаю. Я вижу, что сейчас почти никто из политиков не признает логику и ту часть правды, которую говорит противник. Это очень печально, потому что наша цивилизация построена на возможности взрослого диалога и компромиссов. Именно благодаря умению найти общее и договориться мы сделали антибиотики, (почти) победили голод (когда вы в последний раз работали для того, чтобы не умереть с голоду?), получили возможность списываться и созваниваться с близкими на других континентах. Будет жалко всё это потерять.

Фейсбук удалил все посты, опубликованные с помощью сервиса Amplifr. Сервис позволяет делать отложенные посты, смотреть аналитику и управлять многими соцсетями из единой админки.

Этим инструментом для управления своими соцсетями пользовалась Ведомости, Коммерсант, да добрая половина русских медиа. Все эти медиа потеряли и посты, и комментарии под ними! Вот показательный пост Мити Алешковского, создателя «Таких дел».

Сделал это фейсбук в рамках борьбы с ботами и «фейк-ньюз». Не удивлюсь, если какая-то фабрика троллей на самом деле пользовалась Amplifr. Да и сервис русский, подозрительно это всё (его делает одна из лучших аутсорс-студий россии, злые марсиане).

Судя по всему, русские медиа в глазах фейсбука — папуасы, с которым можно вообще не считаться. Было бы дело в америке — журналисты бы уже строчили статьи о том, что фейбсук нужно зарегулировать и вообще сделать чем-то типа муниципального водопровода. А скорее сами сотрудники фб осознали бы, что творят фигню и разобрались бы в ситуации детальнее.

А нашим медиа предлагаю присмотреться к западному buffer — делает то же самое, что и amplifr, только им пользуются крупные западные медиа, так что именно такой фигни я бы не опасался.

P.S. В комментариях у Мити пишут, что посты скрыты до окончания проверки и после американских рождественских каникул они скорее всего будут восстановлены. Странно, что нормальные вроде ребята нигде про это не пишут публично.

Модераторы тик-тока понижают видимость постов от «толстых, слишком худых, беззубых, старых и инвалидов». Короче говоря, просто «некрасивых» и бедных. Добро пожаловать в прекрасный новый мир.