Официальное заявление Anthropic по поводу военных:
1. Мы против того, чтобы следить за американцами, за остальным миром двумя руками за (и уже следим)
2. Мы против того, чтобы сейчас делать полностью автономных дронов убийц, потому что модели пока ещё не достаточно хорошие. Предлагали Пентагону поработать над этим, но они отказались :(
Хорошее заявление, всё проясняет.
Расспросил Дениса Ширяева, как он пользуется ИИ для своей жизни и работы.
Денис занимается ИИ-инструментами в JetBrains, и, по мнению OpenAI, один из самых активных пользователей СhatGPT в мире.
А ещё, Денис — автор одного из лучших телеграм-каналов про ИИ — Denis Sexy IT.
В общем, слушайте новый эпизод подкаста: ютуб, Apple, Яндекс, Spotify, Castbox, Overcast, веб-версия.
Гендир Shopify (а это, на минутку, главная платформа для интернет-магазинов в мире, 7500 сотрудников, капитализация 160 миллиардов долларов), взял autoresearch Карпатого и своими руками запустил его на liquid — систему шаблонизации магазинов на Shopify.
Система провела 120 автоматизированных экспериментов в попытке ускорить загрузку страниц. В результате получился PR (пул-реквест, омоним пиара) на 93 коммита.
Нейросеть ускорила загрузку страниц в два раза. Тоби признает, что там есть overfitting, когда страница оптимизирована под конкретный тест, но есть и куча хороших идей, о которых они раньше не думали. И это не вайбкодинг, а полностью автоматизированная разработка софта под конкретную метрику, причем на кодовой базе, которую 20 лет писали руками очень хорошие программисты. Всё в open source, можете посмотреть сами.
В общем, если у тебя есть конкретное число и механический способ что-то поменять в системе и измерить изменение этого числа — то нейросеть может его оптимизировать. Ребята заопенсорсили всю свою обвязку, pi-autoresearch. Описываешь ей свою задачу, метрику, как запустить код и дальше всё работает самостоятельно.
Интересно, что в очередной раз речь идет о проекте, щедро покрытом тестами (у liquid 974 юнит теста). Вот мы с Федей всю жизнь кричим о важности тестов, и внезапно это оказалось даже полезнее для нейросетей, чем для людей.
Тоби, конечно, не стандартный CEO крупной компании и раньше что-то прогал, но в ноябре, с появлением крутых нейросетей, количество его коммитов выросло в разы.
Мы тоже активно экспериментируем с этими подходами, если есть похожие задачки — обращайтесь!
Прикольно, как меняются технические аудиты.
Сейчас мы делаем технический аудит и план технического развития бизнесу, которому почти 30 лет. Десятки репозиториев на разных языках, большАя часть логики в сотнях хранимых процедур и триггеров в монолитной MSSQL базе.
За 4 недели архитектор смог разобраться на уровне, который раньше занял бы полгода минимум.
При этом, если раньше мы готовили PDF файлы и схемы, которые читали люди, то теперь мы собираем папку с анализом исходников, папку с анализом базы (один файл на хранимку или таблицу), и так далее. Все зависимости, вся логика проекта — в текстовых описаниях. Ну и файл с описанием, что мы делаем и для чего, конечно. Все это в гите, с контролем версий.
А дальше подключаем этот репозиторий к Claude code и задаем вопросы по проекту: «как устроена логика ценообразования», «на что повлияет изменение параметра Х», реестр рисков и так далее. Ответы проверяют живые инженеры — так мы оцениваем качество нашей базы знаний.
—
Если раньше мы оставляли пусть хорошо и с любовью написанные, но документы и делились пониманием в разговорах, то теперь мы как будто оставляем своего цифрового двойника, который будет продолжать отвечать на вопросы заказчика даже после окончания аудита.
Эту базу знаний будут использовать не только для этого рефакторинга, но и для онбординга новых специалистов.
—
Через 4 недели работы, мой архитектор взял 2 недельный отпуск. Мы дадим свои рекомендации и закончим аудит уже после его возвращения.
Скорость работы увеличилась в разы, но нам, людям, все ещё нужно время, чтобы новые знания уложились в голове. Нужно время, чтобы понимание проросло в нас. Слово «проросло» точно отражает то, что этот процесс нельзя ускорить усиленной работой. Можно только создать условия и не мешать. Раньше это происходило естественно, теперь нужно специально делать перерывы.
—
Раньше я гордился тем, какие четкие, ясные, красивые диаграммы сервисов мы рисуем. Теперь их заменили полностью автоматизированные mermaid схемы. Генеральную схему всего бизнеса таким образом мы пока не нарисовали, она получатся совершенно неудобоваримая. Это ограничение технологий или отражение внутренней сложности бизнеса? Пока что ее нет и у нас в голове, так что это открытый вопрос.
—
Делюсь тремя файлами: Claude_md — общие правила игры для модели, а ещё файлы с целями и принципами этого аудита.
Неожиданное развитие событий с fable 5: правительство США наложило экспортные ограничения (то, что обычно делают на оружие) — потребовали от Антропика отключить доступ к этой модели для всех иностранцев, включая сотрудников компании - не американцев.
Сделать быстро это Антропик не может, так что выключают доступ для всех.
Правительство утверждает, что обнаружило «джейлбрейк», который позволяет разблокировать возможности модели для кибер-атак. Антропик говорит, что речь о стандартном приеме «исправь ошибку в этом коде», который ровно так же работает и в ChatGPT 5.5. Обещают больше подробностей в течение 24 часов.
Хочется пошутить, что это такая PR-стратегия антропика перед IPO для поддержания хайпа, и что у них в очередной раз не хватает видеокарт, или что это наоборот, козни Сэма Альтмана против конкурента (тоже перед IPO), и что хайп про сверх-возможности в области в кибербезопасности имеет и обратные последствия, но вообще все это исключительно странно, даже для этой администрации. Похоже, кто-то в правительстве всерьез озабочен mythos/fable, ну или просто очередная дурь. 50:50.
🍿
Cloudflare опять упал, Zoom поэтому не работает (и половина интернета вместе с ним), не удивляйтесь.
Upd: поднялись в течении 20 минут.
Тем временем, Claude Code это оказывается уже для нормисов, а модные ребята пересели на более крутую open source упряжь openCode, которая поддерживает любые модели (а не только от anthropic). Ну и конечно есть безумно прокачанный форк от китайцев oh-my-opencode, который прямо сейчас запускают как отдельный сервис, Сизиф. Нейминг как у самолета Антея.
Узнал об этих инструментах из драмы, которая разворачивается прямо сейчас: формально, Anthropic разрешает пользоваться своими моделями с подпиской Pro и Max только внутри своего Claude Code. Пару часов назад, они начали блокировать запросы из openCode, после чего пользователи стали жаловаться, что Claude Code — это каменный век и отменять подписки. При этом модели Anthropic, по словам пользователей, лучше конкурентов. Моделями Anthropic можно пользоваться «по API» без скидок и ограничений, но если платить за каждый запрос — получаются совсем безумные цифры даже для модных вайбкодеров.
Вряд ли Anthropic стал бы бороться с чужими инструментами, будь они хуже родного. Получается, лучшая (и честная) рекомендация от ведущей лаборатории!
Часть подсанкционных банков перешли на сертификаты Минцифры.
Значит, теперь их сайты можно открыть только через Яндекс.Браузер или установив корневые сертификаты Минцифры.
Проблема в том, что после этого Минцифры может выпустить сертификат для любого сайта, хоть gmail.com, хоть telegram.org и прослушивать всю переписку.
Вот и выбирай, житель России — иметь доступ к онлайн-банку или иметь тайну интернет-переписки.
Если таких пользователей наберется критическая масса — можно будет вообще все другие сертификаты на ТСПУ заблокировать и будет нам чебурнет.
Вообще, это поменяет правила игры, потому что можно будет, например, блокировать конкретные ютуб видео или статьи википедии, а не сайты целиком.
А там и другие государства подтянутся, даром что ли Казахстан и Бразилия тестировали свои корневые сертификаты ещё много лет назад.
И можно будет закон какой-нибудь принять, что все браузеры на территории страны должны эти госсертификаты содержать.
Вот она, полная потеря анонимности в интернете, когда государство будет видеть вообще всё и сможет блокировать всё. Влажная мечта силовиков во всех странах.
А благодарить нужно анонимных активистов, которые сметчили публичные логи выдачи сертификатов (господи, какая это красивая инфраструктура, служащая всему человечеству!) с санкционными списками и закидали всех жалобами, сгенерированными ChatGPT.
Читаю вот эту публичную дискуссию (атаку?) на Bugzilla CA Forum и у меня чувство, что на дворе сентябрь 90х, и в ранний интернет пришли новые люди с другими ценностями, только в этот раз они принесли юридическую дубинку. А интернет уже достаточно телесный, чтобы дубинка не прошла сквозь него как через призрак, как раньше.
Эпоха свободного, глобального интернета заканчивается прямо у нас на глазах.
«Интересная» ситуация между американскими военными и Anthropic.
Они подписали контракт на поставку ИИ для нужд армии. Теперь военные требуют, чтобы им можно было не следовать стандартным правилам пользования сервисом (Usage Policy).
Anthropic согласен подвинуться, но хочет внести в договор пункты о том, что их искусственный интеллект нельзя использовать для массовой слежки за американцами и для автономных роботов убийц.
Министерство войны США (они недавно официально переименовались) в ответ грозится не только разорвать контракт, но еще и воспользоваться законом о военном производстве, который позволяет правительству заставлять коммерческие структуры выполнять заказы критичные для оборонки.
А ещё министр пугает эту американскую компанию тем, что её внесут в чёрный список правительства США (объявят supply chain risk, так обычно делали с китайскими компаниями), так что с ними не сможет работать ни один бизнес, который исполняет контракты для государства.
Вы наверняка слышали, что программисты теперь встанут перед таким же выбором, перед каким стояли физики при создании ядерной бомбы. Обычно об этом рассуждают философы, которые ничем не рискуют. А тут ведущая компания в области ИИ может не только потерять большой контракт, но вообще перестать существовать в привычном нам виде. И всё это практически в прямом эфире.
Дальнейшее чтение: позиция EFF (всё предсказуемо), бодрый разбор Astral Codex Ten, который я кратко пересказал выше, и подробный текст от Цви Моушовица.
В технической команде твиттера 30 инженеров, 2 дизайнера и 2,5 продакта. Ну и еще 30 инженеров в xAI работают над рекомендательной системой.
На момент покупки Маском, в твиттере работало 7500 сотрудников, после первой волны увольнений оставалось 550 инженеров.
В телеграме десятки инженеров.
В фейсбуке десятки тысяч.
Вдохновляет!
