#этика

Иван Колпаков повел себя недостойно должности главреда Медузы и покинул это кресло. Его фб-анонс довольно странный: «…Я ухожу, потому что мне больно видеть, как вы уничтожаете то, что я строил…». Я с этим не согласен. Он ушел, потому что нельзя продолжать быть главредом Медузы, после того, как трогал женщину за ягодицы и говорил «я могу тебя харрасить и ничего мне за это не будет».

Медуза оказалась больше этого проступка. Мне очень радостно, потому что я уже начал сомневаться, а туда ли я потратил большую часть 3 лет своей жизни? Туда, всё верно. Редакция сильная и достойная. Уверен, после такого испытания она стала ещё сильнее и опытнее. Горжусь вами, друзья!

Надеюсь, что это не последний раз, когда недостойные действия людей, обличенных властью, влекут а) массовый протест и б) потерю этой власти. Вот она, прекрасная Россия будущего. В идеале, не будет жертв и агрессоров, но это, кажется, недостижимый идеал.

Ну и напоследок. Мне кажется, что это Медуза, в том числе, сформировала у нас, читателей, высокие ожидания и необходимость протеста против подлости. Это победа.

Чувствую необходимость высказаться по поводу скандала с главредом Медузы. Он без разрешения трогал жену сотрудника за ягодицы и говорил «ничего мне за это не будет» и остался после этого главным редактором. Трогать девушек без разрешения — очень плохо, делать это из позиции силы и власти — недопустимо.

Я на своем опыте знаю, как сложно сказать «нет, это не нормально», когда агрессор может дать что-то тебе лично. Я хорошо помню, как потенциальный инвестор при мне отпускал тупые гендерные шутки в адрес коллеги, а я делал вид, что всё ок, потому что «ДЕНЬГИ, ВОТ ОНИ УЖЕ ПОЧТИ». Спасибо тебе, коллега, что рассказала мне потом, как тебе было неприятно это терпеть. Этот случай до сих пор жжет меня стыдом, когда я о нем вспоминаю.

N и N, я горжусь тем, что вы нашли в себе силы и не промолчали. Мне жаль, что с вами это произошло, я вам сочувствую.

В случае с депутатом Слуцким — я точно знаю, что такие люди не представляют меня и поэтому я требую от них сложить мандат. Требовать что-то от частной Медузы — как-то глупо, что-ли, но читать высказанное изданием официально «это было в первый раз, поэтому, пусть работает главным редактором дальше» — тоже очень странно.

Я хуже редакции разбираюсь во многих темах и благодарен, что три года вы отвечали на мои вопросы. Возможно, я чего-то не понимаю, но до этого во всех подобных ситуациях вы (мы?) выбирали сторону жертвы; в этой ситуации выглядит, будто вы защищаете агрессора. Что изменилось?

Проблема вагонетки — интересная этическая задача, которая принимает практическую важность из-за машин без водителя. Классическая формулировка такая: вагонетка едет по рельсам и скоро задавит пять людей; вы можете переключить стрелку и тогда вагонетка задавит только одного человека на запасном пути. Переключите ли вы стрелку?

В случае автомобилей без водителя, нам нужно выбрать, что мы хотим заранее, на этапе программирования машины. Кого спасти — ребенка или старика? Пассажира (aka владельца машины) или пешехода? Отдельный интересный вопрос — кто должен принимать эти решения? Производитель машины? Её покупатель? Общество?

В 2014 году, исследователи из MIT запустили онлайн-программу, где можно попереключать стрелки вагонетки самому. The Moral Machine стала виральной и за 4 года в ней сделали 40 миллионов моральных выборов люди из 233 стран мира. Ученые проанализировали данные и опубликовали статью в Nature на прошлой неделе.

Люди разных культур дают разные ответы на эти вопросы. Французы, например, ценят детей больше стариков, китайцы — наоборот, а эстонцам всё равно. Там много интересных наблюдений, рекомендую прочитать краткий пересказ результатов исследования в MIT Technology Review.

Этого нет в исследовании, но самые страшные, как мне кажется, китайцы — они, видимо, встроят в машины базу данных социального рейтинга и будут минимизировать суммарную потерю оного. Хочешь жить — повышай свою «полезность обществу». Что значит полезный обществу?

Попробуйте поиграть с The Moral Machine сами. Вот какой первый вопрос выпал мне (я считаю, что мужчины и женщины одинаково ценны, так что пусть едет прямо, как ехал):

Ключевые разработчики SQLite — христиане. Когда несколько корпораций потребовали Code of Conduct (правила поведения в сообществе разработки), то они не долго думая переняли устав Святого Бенедикта (Ⅴ век). Участники проекта предсказывали, что это плохо кончится. Прошло полгода, новость дошла до Hacker News и особо буйные борцы за социальную справедливость уже точат вилы в твиттере.

Вспоминается, как из Drupal выгнали одного из ключевых разработчиков из-за его излишней приверженности нетрадиционным BDSM-практикам.

Другое движение, которое хочется упомянуть в связи с CoC - воинствующий отказ от терминологии master-slave (господин-раб). Это классические термины в технологиях, которые появились задолго до компьютеров, описывают отношение ведущих и ведомых сущностей. Часть американцев считает, что эти слова нужно запретить, потому что они напоминают о рабстве чёрного население соединенных штатов.

Свежий представитель этой борьбы - недавняя история с Redis. Разработчик-итальянец сначала бодро разложил борцов в мощном памфлете (рекомендую прочитать оригинал): «вместо того, чтобы насаждать свои американские правила речи остальному миру, лучше, перестаньте убивать негров». Потом ему написал DHH (супер авторитетный программист, создатель Ruby on Rails, опять же рекомендую прочитать тред в оригинале) и другие классные пацаны. В результате он решил, что поменяет термины в проекте ради сообщества (servant leader, yo), но в ответ добавил в redis команду LOLWUT, которая 1) не имеет ничего общего с базами данных 2) работает быстро (можно запускать в продакшене!) 3) показывает что-то красивое и меняется с каждым релизом. Такой вот протест.

Не боитесь роботов, которые «захватят всех человеков»? Мне вот стало страшно, когда я послушал, как новая нейросеть гугла Google Duplex разговаривает с живыми людьми по телефону.

Послушайте сами, там запись двух полных звонков, Duplex женским голосом заказывает стрижку в парикмахерской и мужским голосом столик в ресторане. Слишком похоже на живых людей. Восхищение, сменяющееся мыслью «такое нужно немедленно запретить» — вот моя первая реакция.

Дальше примеры, как Google Duplex реагирует на прерывания (когда он читает номер по телефону и собеседник не расслышал и переспросил посередине), на уточняющие вопросы и на вопросы «ты меня слышишь?».

Внутри статьи есть высокоуровневое объяснение, как эта вся магия работает — под капотом система распознавания голоса гугла ASR и рекуррентная нейронная сеть (RRN) на основе Tensorflow Extended (TRX) (на нем строится большая часть нейронных сетей).

Очень страшно. Westworld (2) (прекрасный сериал «Мир дикого запада») уже не кажется таким уж отдаленным будущим.

https://ai.googleblog.com/2018/05/duplex-ai-system-for-natural-conversation.html

Хотел написать сегодня большой пост про скандал с фейсбуком (персональные данные опять, да) — он там даже не думает утихать, разгорается всё сильнее с каждым днем.

Но прочитал высказывания наших (?) депутатов госдумы по поводу обвинений в адрес Слуцкого (трое журналисток обвинили этого депутата в домогательствах) и чуть не отправил «да они ебанулись там что-ли» в канал @meduzalive 100 тысяче подписчиков, так что лучше выскажусь здесь.

Домогаться до женщины словами, если находишься в доминирующем положении — недопустимо. Нарушать её физические границы — полный пиздец. Смеяться над тем, что женщина говорит о домогательствах, отвечать ей «да ты сама небось захотела» или спрашивать «чё-то ты раньше молчала?» — это каким дикарем нужно быть?

В моей среде приняты разговоры о «перегибах позитивной дискриминации» и прочих дебатах о бедном инженере Google, которого уволили за свободу слова. За этими разговорами легко забыть, что мы с вами живем в другой реальности.

Сегодня, в 2018 году в Госдуме России комиссия по этике в полном составе практически в прямом эфире гнобила жертв домогательства со стороны депутата Госдумы. Депутат под вопросом не просто говорил журналисткам слова, но трогал, например, лобок одной из них без её согласия. Что блядь происходит? Комиссия не рассмотрела аудио-запись, где насильник на диктофон творил всякий ад, шутила шуточки, пыталась быстрее это «заседаньице» закончить.

Я понимаю, что у нас в стране тысячи детей живут в детских домах, полиция засовывает людям в жопу бутылку от шампанского и убивает, но это вот показное «имею право быть неприличным» каждый раз выбивает меня из колеи.

Это неприлично. Слуцкий — мудак, которому в прошлом веке давно бы отстрелили яйца. Девушки, вы — герои.

Хорошая статья про «искусственный интеллект» и этические проблемы, которые он несет.

Автор (кстати, он технический руководителем группы сервисов в гугле) на пальцах объясняет, как работает пресловутый искусственный интеллект — машинное обучение, в чем его сильные и слабые стороны. Дальше он рассказывает о нескольких вопросах, которые ярко подчеркивают этические проблемы ML.

- Проблема вагонетки: должен ли автопилот пожертвовать пассажиром или пешеходом?
- проблема распознавания фотографий людей с черной кожей: системы классифицировали их как орангутангов;
- проблема дискриминации в судебной системе, когда алгоритм автоматически отказывает в досрочном освобождении всем чернокожим.

Все эти вопросы — не новые. Просто раньше мы на них не отвечали. С компьютерами так не получается. Если мы хотим, чтобы машина делала работу за нас, нужно ясно ей сказать, чего мы от неё ждем.

«Честность с собой», на которую толкают нас машины — возможно, самое главное достижение технологий, заключает автор. Ух, спорное утверждение.

В начале статьи приложена ссылка на mp3-версию и её очень удобно слушать в дороге. Качество человеческого диктора пока ещё существенно лучше, чем iOS-ный «Экран вслух» (Speak Screen).

Кстати, если вы не пользуетесь этой функцией — очень рекомендую попробовать. Она включается один раз в настройках универсального доступа (Accessibility), дальше свайп двумя пальцами на любом экране зачитывает текст машинным голосом.