Популярное за год

Ведущие ИИ-лаборатории скупают миллионы книг, среди которых редкие, которых осталось пара экземпляров на весь мир, срезают корешок, пропускают листовки через промышленный сканер, а бумагу сдают в переработку.

Участников проекта заставляют подписать NDA, потому что «звучит это все не очень».

Психопаты хреновы.

Интересно, что одна из причин — в копирастах-книжных правообладателях, которые постоянно со всеми судились. Если ты покупаешь, сканируешь и используешь книжку — то у тебя на это нет прав. А если уничтожаешь оригинал — то у тебя вроде как была одна копия и осталась одна копия. Late stage capitalism, что мы хотели?

Первоисточник в 404 (спасибо за версию без пейвола Дмитрию), пересказ в твиттере.

Не успел написать про вирус в litellm, как очередная мощная supply chain attack: на этот раз взломали разработчика axios, одной из самых популярных nodejs библиотек, 100 миллионов скачиваний в неделю.

Зараженная версия библиотеки распространялась в течении 3 часов, начиная с 2026-03-30 23:59 UTC.

Если вы делали npm install этой ночью — проверьте тачку. И посмотрите логи CI/CD — если они отрабатывали в это окно и имели какие-либо секретные токены — их нужно срочно сротировать.

Подробное описание атаки тут.

От подобных атак можно защититься раз и навсегда: настройте свои системы управления пакетами так, чтобы они не скачивали библиотеки, обновленные в последние 72 часа. exclude-newer = "3 days” в uv или min-release-age=3 в npm — спросите у своей нейросети, и пусть другие будут бета-тестерами.

Наконец-то приличный ИИ-мультиплеер, то есть возможность совместно общаться с агентами, иметь общую историю. А заодно, замена слеку и гитхабу. Децентрализованная, киберпанковская, опенсорсная, на основе открытого протокола.

И сделал, конечно, Джек Дорси, создатель твиттера.

Называется Buzz, типа Вжжж, а агенты там — вроде как пчелки.

Есть даже возможность делиться своим compute, то есть нейросети могут пользоваться вычислительными мощностями (и токенами!) всех согласных участников чата.

И никаких центральных серверов, которые можно заблокировать и санкционировать. Прям глоток свежего воздуха.

Developer preview скачивать тут, все исходники открыты на гитхабе. 🐝

Сделал бесплатную программку для автоматической записи и расшифровки онлайн-встреч.

Работает с любыми звонками: zoom, google meet, телеграм, вацап...

Запускает и останавливает запись автоматически.

Расшифровывает встречи, определяет говорящих, так что реплики разложены по людям, а не слиты в один поток.

Пишет качественные выжимки встреч. Многие программы экономят на токенах, а эта использует самую мощную модель, чтобы ничего не потерять.

Умеет делать всё это локально, без доступа к интернету.

Можно подключить мощные платные модели, умеет использовать подписки (!) и API ключи.

Все данные хранятся локально на компьютере. Одна встреча — одна папка, внутри аудиофайл, расшифровка, выжимка. Очень удобно натравить нейросети.

Программа полностью бесплатная, с открытым исходным кодом. Легкая установка, нотаризованный Apple бинарник.

Работает на macOS; если вы заинтересованы в Windows-версии — чирканите мне письмо на amanu-windows@samat.me.

❧

Даже со всеми нейросетями, разработка заняла почти месяц (неделя активной работы, дальше по мелочи) — вы не представляете, сколько краевых случаев вылезло, пока я тестировал приложение на себе.

Умер создатель quicksort’а Хоар.

Говорят, когда Дейкстра был при смерти, его спросили, что делать с архивом переписки, на что профессор ответил «оставьте письма Тони, остальное можно сжечь».

Хоар создал язык CSP (communicating sequential processes), с помощью которого до сих пор описывают параллельные процессы; Erlang, Elixir (и каналы в Go) — внуки его идей. Он выбрал кучу ключевых слов (case, new, null), которыми мы пользуемся каждый день.

А еще он был учеником Колмогорова! В Оксфорде учил греческий, латынь и философию, во флоте выучил русский и приехал по обмену в МГУ заниматься теорией вероятности и машинным переводом. Quicksort он придумал как раз для поиска слов в словаре.

—

Вот цитата из его лекции при получении премии Тьюринга (компьютерная Нобелевка).

Есть два способа писать программы: один — сделать программу такой простой, чтобы было очевидно, что в ней нет ошибок. Другой — сделать ее такой сложной, что в ней нет очевидных ошибок. Первый способ гораздо сложнее. Он требует того же умения, рвения, проницательности и даже вдохновения, как открытие простого закона физики, который лежит в основе сложных феноменов природы. [И никакой комитет не сделает нужных компромиссов в разумное время, хорошие программы создают одиночки и слаженные группы]

Замечательный скилл (инструкция для LLM) для экономии токенов, Caveman. Нейросеть начинает отвечать как пещерный человек. Мне это напоминает стиль общения нелюдимых инженеров из восточной европы.

Учитывая, что программирование мы заменяем на бесконечным общением с нейросетью, экономия текста сильно экономит время и нагрузку на мозг. Рекомендую!

Пример пересказа этого поста в самом его сжатом стиле ultra:

Caveman скилл — LLM говорит как пещерный. Токены экономь. Стиль = угрюмый инженер восточной европы. Чат с нейронкой бесконечный, меньше текст = меньше мозг устал. Бери.

В английском эффект ярче!

Модели Anthropic начали вшивать в текст секретные водяные знаки.

Текст можно переписать огромным числом вариантов, просто меняя синонимы. Теперь, модели выбирают эти синонимы не случайно, и в последовательности этих не-случайностей зашит сигнал, что текст сгенерирован нейросетью.

Лингвистическую стеганографию (тайное письмо за счет замены синонимов) обсуждали ещё в начале 2000-х, но в 2022 ученый из OpenAI описал, как это можно недорого сделать в нейросетях.

Такая маркировка начинает работать примерно со 150 слов, и не работает, если у модели недостаточно свободы в выборе синонимов — при генерации кода или таблиц с цифрами. Водяной знак переживает незначительную редактуру текста, но не серьезный рерайт.

В 2024 такую маркировку вшил в свои модели Гугл под названием SynthID, а закон ЕС требует маркировать контент, сгенерированный нейросетями, начиная со 2 августа 2026. 190 компаний уже подписали с Евросоюзом договор, как именно они будут реализовывать эту маркировку.

Для детектирования маркировки нужно знать секретный ключ (если все знают ключ — то маркировку очень легко стереть или подделать). То есть для проверки нужно будет загрузить свой текст производителю модели.

Это, наверно, моя личная штука, но я всерьез задумался о том, чтобы переключиться с API на локальный инференс, когда он станет достаточно хорошим. Просто неприятно, что модели будут заниматься этой фигней за мои деньги, вместо полезной работы.

Джек Дорси (создатель твиттера, а теперь глава платежного бизнеса Block) уволил сегодня 4 тысяч из 10 тысяч сотрудников.

Он конечно пишет ‘intelligence tools paired with smaller and flatter teams, are enabling a new way of working which fundamentally changes what it means to build and run a company’, но я бы скорее обратил внимание на то, что до пандемии у него в компании работали 4000 человек.

Во время нулевой процентной ставки он нанял 6000 человек, а теперь, когда деньги опять стали дорогими, так же уволил половину. VibeCEO, vibe-капитализм. После анонса, акции выросли на 24% процента.

Зачем писать твиты без заглавных букв мне не до конца ясно, но я и не CEO-визионер.

Я не заострил на этом внимание, но Claude Mythos уже нашла тысячи ранее неизвестных уязвимостей, включая во всех популярных операционных системах и во всех популярных браузерах!

Сегодня, в руках у одной этой компании, возможности кибер-нападения, сравнимые с ведущими правительствами (США, Китай, Россия, Израиль), а скорее даже превосходящие их.

Можно взломать и украсть секреты, можно слушать переговоры, можно подменять сообщения или нарушить коммуникацию в нужный момент. Можно управлять критической инфраструктурой. Как в рекламе: безграничные возможности!

Внутренние модели OpenAI вряд ли сильно отстают.

Друзья говорили мне, что ИИ станет вопросом национальной безопасности и все эти ведущие компании будут национализированы. Вспомнил об этом сегодня.

А ещё вспомнил предсказание ai2027 (мой краткий пересказ тут). Они предсказывали, что модели получат хакерские возможности сравнимые с профессиональными хакерами к маю 2026 года. Сейчас на дворе начало апреля.

Подъехали подробности про блокировку fable 5.

Крестная мать баг-баунти програм (она запустила bug bounty в Microsoft и в Минобороны США, не баран чихнул), Кейти Муссурис, прочитала технический документ, который послужил основой для блокировки.

Говорит, что когда fable 5 дали на вход программу и попросили найти уязвимости, она отказалась. И тогда исследователь попросил модель исправить ошибки в этой программе. И подготовить тесты, чтобы проверить, исправлены ли они на самом деле.

Всё, это весь «взлом».

Можно конечно такое починить, но тогда модель станет абсолютно бесполезной для разработки софта.

🍿🍿