Новое

Первая модель машинного обучения, распространение которой ограничивается в целях общественной безопасности. Иронично и, вместе с тем правильно, что её разработала некоммерческая исследовательская компания OpenAI, цель которой — «поиск безопасного пути к настоящему искусственному интеллекту», а один из создателей — Илон Маск. Этот фонд, в числе прочего, обучил машину очень хорошо играть в Доту.

На этот раз, речь о языковой модели, предсказывающей следующее слово в тексте. Система натренирована на 40GB текста из интернета, что примерно в 7500 больше, чем «Война и мир» (5.3MB).

Если подать ей на вход вопрос — она, скорее всего, допишет ответ. Если подать утверждение — то раскроет тему и предоставит доказательства.

Проблема в том, что она делает это слишком хорошо. Насколько хорошо, что при поверхностном прочтении может показаться, что сгенерированный текст имеет смысл. Не вдаваясь в философские дебри (в которых я не силен), возьмусь утверждать, что смысла там всё-таки нет.

Так в чем же опасность? Если обучить эту модель на отзывах в интернет-магазинах — можно генерировать очень правдоподобные фейковые отзывы в промышленных масштабах. Если обучить её на твиттере, фейсбуке или реддите — можно генерить вполне реалистичные твиты, посты и комментарии, прокачивать фейковые аккаунты и потом устраивать совершенно адские вбросы, рядом с которыми любые фабрики троллей — детский сад.

Стремно, что секретность в отношении этой конкретной модели защитит нас только от скрипт-киддисов (детей, ломающих сайты по шаблону) и то только на время. Нормальные бандиты, а уж тем более государства имеют достаточно ресурсов чтобы повторить и даже превзойти эти результаты в ближайшие годы. Будет как с шифрованием, которое пытались запретить, а теперь даже сердца в вотсапе кодируются при передаче так, что никто в мире не может их прочитать.

Помните, как раньше на сайтах были SEO-шные тексты в подвалах страниц, благодаря которым родилась присказка «SEOшник хуже пидораса…»? Их хотя бы было легко определить по виду, а в 2020 аналогичные тексты могут выглядеть неотличимо от полезной статьи.

До этого момента я не сильно верил в хайп «AI/ML это будущее», но теперь понимаю, откуда растут ноги уверенности руководителей Google, Microsoft и Apple. Будущее за ML и я не оптимистичен :(

Раз уж речь о NYTimes, вот вам свежая статья от их вице-президента по инженирии (VP of Engineering, non penis canina) про то, как они изобрели свой собственный язык программирования.

Всё началось с желания показывать имя зарегистрированного читателя прямо на главной странице в 2001 году. Чуваки решили, что PHP + CGI будут тормозить при больших нагрузках и придумали небольшой компилируемый язык. Ну а дальше как всегда. Закончилось тем, что все страницы NYTimes компилировались в код на этом самопальном языке Context и исполнялись в специальной виртуальной машине. А ещё на нем работала баннерокрутилка. А ещё собственная система сборки.

Я это пишу и чувствую, как волосы на моей шее встают дыбом. Есть в этом даже какая-то своя безумная красота.

Автор признает, что это была ошибка; особенно трудно было с поиском новых программистов.

Я в Медузе часто равнялся на NYTimes. Я давно понял, что не боги горшки обжигают, но такие вот подтверждения того, что мы все люди — очень ценны. Чуваки большие молодцы, что не стесняются рассказывать о таком (приурочена статья тому, что они только что выключили последнюю строчку на Context).

Ну всё, теперь можно всё.

P.S. Теперь у них там всё модно молодежно (React, GraphQL, Apollo), как и ожидается в Нью-Йорке.

Заголовок задает интересный вопрос, подзаг на него отвечает. Всё остальное можно не читать 👍

У канала 9000 подписчиков, ловите праздничный пост!

В моей жизни важную роль занимает психотерапия. Расскажу об этом публично. Для многих душевные сложности и помощь психотерапевта — запретные темы. Давайте исправлять это вместе. Вот три истории из моей жизни:

1. Мы с прекрасной Настей вместе уже 11 лет. Наша старшая дочь пойдет в этом году в первый класс, а младшей скоро исполнится три. Семь лет назад я был близок к тому, чтобы уйти от жены на девятом месяце. Я не был готов обсудить свою ситуацию с кем-либо; случайно мы оказались на занятии с психотерапевтом на курсах для беременных. Анна задала пару вопросов и меня прорвало. Её поддержка помогла мне выбраться из той ямы, в которую я себя загнал.

2. В начале моей карьеры технического директора я стеснялся, что у меня нет опыта промышленного программирования. Я боялся выглядеть глупым из-за недостатка знаний. Вряд ли я стал бы тем, кто я сейчас, без помощи Леши Гусева. Леша знал Букмейт, как свои пять пальцев; был опытнее, мудрее и помог мне вырасти. Сомневаюсь, что я смог бы принять эту помощь и совладать со своими страхами (набивший уже оскомину в IT-мире страх самозванца в их числе) без помощи Ани. Мы работали с ней по часу раз в неделю почти три года с перерывами, пока я не переехал в Ригу.

3. Через четыре года в Риге мне стало совсем нехорошо. Я жил не в ладу с самим собой, напряжение копилось, и примерно год назад всё сошлось вместе: отношения в семье, ситуация на работе, деньги; казалось, вообще всё идет не так (красить всё одной краской и не замечать оттенков — черта моего характера). Я позвонил Анне, она порекомендовала психотерапевта в Риге, я начал ходить на групповую психотерапию и закрутилось. Буквально за месяц я уволился из Медузы и начал строить новую жизнь.

Раньше мне было проще раскрыть душу случайному попутчику в поезде. Теперь я учусь делать это с самыми близкими для меня людьми.

Учусь я этому в психотерапевтической группе. Мы собираемся с 18 до 21:15 каждый вторник и разговариваем. Делимся тем, что нам важно, просим поддержки. Боремся, плачем, живем. Учимся жить. Учимся замечать свои чувства, выражать их, замечать чувства людей рядом, договариваться. Помогает нам в этом профессионал и человечище — Дмитрий Лицов.

Мой основной страх теперь — не жить, не выражать себя, не чувствовать людей рядом. Безумно страшно провести годы впустую, ведь времени не так уж и много.

☙

Так, меня понесло. Пост про то, что если вы чувствуете, что что-то в жизни идет не так и вам трудно разобраться одному (или одной) — то я рекомендую попросить помощи у профессионала. Это настолько очевидная фраза, что хочется её мгновенно стереть. Никому и в голову не приходит поступать иначе. Когда у нас прорывает унитаз — зовем сантехника, болит зуб — бежим к стоматологу, всерьез ломается PostgreSQL в продакшене — пишем Бартунову и т.д.

А вот когда речь заходит о душе (трудностях в жизни, отношениях, работе), то мне кажется, что моя ситуация уникальна и никто не сможет помочь. Это не так.

☙

Я не знаю более мастерского описания сути психотерапии, чем рассказы Ирвина Ялома. Он описывает реальные случаи из своей практики с такой легкостью, элегантностью и самоиронией, что зависть берет. В конце концов, это просто очень хорошие книги, рекомендую.

☙

То, что я выше рассказываю о себе — «вариант нормы». С точки зрения медицины (справочники DSM-5 и ICD-10), я здоров. К психотерапевтам ходят здоровые люди, которые хотят жить лучше.

Классная реклама игры Anthem с Николаем Дроздовым! М.Видео 💪

На главной у нас как раз сторизы про ещё 6 похожих игрушек, а вот полный профиль Anthem на RAWG.

Последние месяцы, мою жизнь отравляло плохое качество видеосвязи — одного из основных рабочих инструментов (и не шутите, что это должен быть мозг).

Каждую минуту, на пару секунд, latency (задержка) беспроводной сети вырастал до 200-300 мс, появлялись потери пакетов. Сетевое взаимодействие компьютеров и видеосвязь устроена так, что даже временное повышение latency роняет качество связи надолго. Я не слышал собеседника, коллеги не слышали меня.

Я грешил на беспроводные сети, на фазу луны и, конечно же, на Госдеп США. Купил за 30 долларов программу PingPlotter, чтобы убедиться, что меня не глючит и проблема на самом деле регулярная. Задумывался уже поменять роутер, когда догадался поступить как нормальный инженер и почитать логи (бортовой журнал системы). Виноват оказался locationd.

Оказывается, ровно раз в минуту macOS пытался определить физическое местоположение ноутбука и собирал для этого список близлежащих беспроводных сетей. Это «тяжелая» операция, вот всё и затупляло.

Решение оказалось простым — выключить сервис определения местоположения (Location services) в настройках системы. Я уверен, что переустановка системы с нуля (классическое решение любых проблем с компьютерами) тоже бы помогла (и Location services остался бы включенным); но то, что приносило радость в 15 лет, не кажется таким же заманчивым в 30.

Как можно было отладить проблему, не имея опыта сисадминства — не представляю. А ведь эта же проблема может мучить учителя или врача, он сидит и думает «сраный скайп», в то время как проблема совсем в другом :(

Commento, классный движок для добавления комментариев на сайт, запустил hosted-версию. Раньше нужно было держать его на своем сервере, теперь достаточно добавить строчку подключения на страничку. Стоит от 5 долларов в месяц, можно платить сколько посчитаешь правильным. Хороший лендинг.

Основной конкурент — Disqus имеет бесплатный режим, но при этом использует накопленные данные для продажи рекламы.

Люблю, когда плачу явно; это вносит ясность в отношения.

Splunk — ведущее решение на рынке инструментов обработки логов и мониторинга.

Вчера они объявили, что не будут больше работать в России и с дочками русских компаний. Ну не будут и не будут. Уверен, что они также не работают в Северной Корее, Иране, Кубе и Беларуси, можно понять ребят. Но вместо заголовка «мы не будем больше работать в России» статья называется «смена приоритетов в нашей глобальной стратегии».

👽

P.S. На Splunk плотно сидят государственные ситуационные центры и некоторые крупные банки. Всё, что вы хотели знать об импортозамещении и изоляции. Думаю, успею ли посмотреть эпизод под названием «Россия оккупировала Даугавпилс и ей за это отрубили Oracle». Всё это звучит как глава из SNUFF Пелевина.

Классный рассказ, как гугл сделал ненавистную всем кнопку «я не робот» и почему роботы не могут её нажать.

Краткий пересказ: люди ведут себя непредсказуемо (даже в самых маленьких мелочах вроде движения мышью и задержки перед нажатием на галочку), гугл собирает всю эту непредсказуемость в серую массу и находит роботов, выбивающихся из неё. Ну и всякие классные трюки вроде того, чтобы заставить браузер нарисовать трехмерную картинку с безумными пропорциями и невалидными шрифтами и отловить ботов по уникальным особенностям рендеринга виртуальных браузеров (каждый браузер и операционная система рисуют чуть разную безумную картинку).

Раз уж в тему капчи, недавно была хорошая статья на The Verge, как развивается гонка вооружений между капчами («выберите изображения, на которых есть пешеходные переходы») и теми, кто эти капчи взламывает. Краткий пересказ: капчи уже сейчас могут быть очень сложными, но скоро будет капчапокалипсис, когда они станут слишком трудными для людей.

Многие пишут, рекомендуют sitespeed.io. Спасибо большое! Это качественно и красиво упакованный пакет для автоматизированного тестирования и мониторинга производительности, добавил в список. Ну и лендинг у них классный!