Популярное

Чтобы установить любой пароль на любой инстаграм-аккаунт, достаточно было попросить официального ИИ-бота техподдержки.

Прямо как в IoT, в аббревиатуре ИИ, буква Б означает безопасность. Уязвимость жила неделями, если не месяцами.

Не знаю, корректно ли называть их хакерами, но люди успели увести сотни аккаунтов с короткими адресами, а еще захватили на время официальные аккаунты Барака Обамы и другие.

—

Очень хорошо перекликается с недавним случаем, когда нейросеть обошла ограничения доступа на компьютере разработчика (docker bind-mount вместо sudo).

—

Понятно, что нейросетям нельзя доверять контроль доступа. Системы нужно строить так, чтобы у моделей физически не было доступа к опасным операциям.

Случай инстаграма граничит с халатностью — мы с вами говорим о краже аккаунтов в крупнейшей социальной сети на планете, но в целом построение систем с ИИ сводится к классической сисадминской задаче: дать пользователю (актору) ровно столько прав, сколько ему нужно для выполнения своих задач и ни капли больше.

—

Да и в целом «агентное программирование» стремится к старой доброй админской задаче построения из готовых блоков пространства, в котором живут и выполняют свои функции «агенты». Раньше это была операционная система и процессы в ней, теперь вот агенты и харнесы, но я вижу много параллелей.

А может просто я просто так и остался сисадмином :)

Новая версия сервиса Kling не работает в риалтайме, ей нужно время, чтобы сгенерировать видео, но она идет дальше лица — тут заменяется все тело целиком и совсем другое качество картинки.

Все шутят, что профессия e-girl — девушки-стримерши, которая зарабатывает рекламой в интернете, становится ультра демократичной и её наверняка целиком и полностью заполнят индусы и пакистанцы. Ничего личного, там просто дешевле рабочая сила.

Суд присяжных в Калифорнии признал Фейсбук и Ютуб виновными в том, что их продукты вызывают привыкание и ведут к ухудшению психологического состояния пользователей.

Обе компании уже заявили, что подадут апелляцию, так что они будут судиться ещё года два. В США у интернет компаний довольно сильная законодательная защита через Секцию 230, которая освобождает их от редакционной ответственности за контент. Харизматичные адвокаты жалобщиков (один из них даже подрабатывает пастором) смогли убедить присяжных, что речь не о контенте, а о самих рекомендательных алгоритмах и механизмах типа бесконечной ленты или автоплея. И далеко не факт, что профессиональные судьи окружного суда согласятся с решением присяжных.

И нет, это не прецедент в правовом смысле, то есть нельзя сослаться на это решение и получить от ФБ денег за то, что плохо себя чувствуешь (хотя хотелось бы!).

На картинке Цукерберг выходит из здания суда.

В Великобритании заработали части закона о безопасности в интернете 2023 года , по которым соцсети и порно сайты должны подтверждать возраст пользователей.

В ответ британцы начали массово устанавливать VPN.

Министерство инноваций заявило, что «платформы обязаны бороться с контентом, продвигающим VPN среди молодежи».

Будет иронично, если всё это закончится закупкой Британией технологий по блокировке трафика у Китая.

—

Первоисточник закона (300 страниц A4). Вот относительно короткий официальный пересказ от англкомнадзора (ofcom). Там все как у нас — и обязанность поисковых движков прятать ссылки, и оборотные штрафы.

Медиа пишут, что работу Бэнкси про цензуру уничтожили. Это ошибочное толкование, «стирание» привело ее в более совершенную форму. Теперь это точно искусство, а не просто граффити.

Надеюсь, что на этом со-творчество государства остановится. Двушечка будет плагиатом.

Все заметили, что в последние недели Клод отупел и жрет токены как не в себя.

Ходили слухи, что это потому что у Антропика не хватает видеокарт.

Теперь они утверждают, что дело в ошибке в их обвязке Claude Code и что «они никогда не отупляют модели специально». Выпустили исправление и сбросили лимиты токенов в этом месяце. Подробное объяснение тут

✽✽✽

Есть люди (1, 2, 3), которые пытаются решить проблему ИИ совсем с другой стороны. На этих выходных, компания Cortical Labs анонсировала строительство дата-центра для человеческих нейронов.

Это те самые ребята, которые вырастили нейроны человека в пробирке и подключили их к цифровому интерфейсу. 2 недели назад они показали, как научили эти нейроны играть в DOOM. 200 тысяч человеческих нейронов в системном блоке!

Если вы подписаны на замечательного ютубера Thought Emporium, то наверняка видели, как это, в принципе, можно сделать в даже в домашней лаборатории (видео 1, видео 2).

Но то были эксперименты безумного ученого, а тут коммерческие железки и специальные дата-центры для облачного доступа!

Основной кайф — в потенциальной энергоэффективности. Сейчас мы используем супер мощные чипы для моделирования процессов в мозгу, которые работают на совсем других физических принципах. Может оказаться, что вырастить нейроны в пробирке дешевле и проще.

✽✽✽✽

По фундаментальным новостям пока все, завтра расскажу про практические и поделюсь, как мы теперь делаем технические аудиты с помощью нейросетей. Надеюсь, что за ночь не начнется новая война, а то я что-то плохо на них реагирую.

Наблюдаем конец миропорядка в прямом эфире. Я потихоньку выхожу из из оцепенения, поделюсь новостями мира технологий.

✽

История Anthropic с американскими военными развивается предсказуемо: Минобороны разорвало контракты и формально объявило Антропик угрозой цепочкам поставок, компания обжалует это решение в суде. Эти же контракты, в этот же день, Пентагон заключил с главным конкурентом — OpenAI. Конечно же, Сэм Альтман вел переговоры задолго до, а президент OpenAI пожертвовал в предвыборный фонд Дональда Трампа 25 миллионов долларов. 10 Альтманов из 10.

Мокси Марлинспайк, создатель Сигнала, запустил новый сервис инференса (проще говоря, сайт, где можно разговаривать с нейросетью), с упором на конфиденциальность, называется Confer.

Все шифруется passkey ключем, так что у Мокси нет возможности подсмотреть историю переписки.

Когда мы отправляем сообщение в Сигнале, сервер даже в теории не имеет возможности расшифровать переписку (и в большинстве случаев даже не знает, кому мы отправили сообщение, за это отвечает крышесносная криптография). Тут же серверу необходима возможность расшифровать наши запросы нейросети, чтобы запустить их на GPU.

За то, что нашу переписку с нейросетью никто не перехватывает на этапе «счета», отвечает «доверенная вычислительная среда» (TPE). Это специальное железо, которое гарантирует, что на сервере запущен именно тот код, который доступен публично, и что никто не может подсмотреть память этой программы.

Учитывая утечки последних десятилетий, никакого доверия поделиям компаний Intel и AMD у меня нет. Даже если они не скооперировались с АНБ (NSA), то вполне вероятно, что NSA или Моссад их взломали и специально натыкали уязвимостей, ну или нашли зеродей и не сообщили производителю. Тем не менее, это примерно в 100 раз лучше, чем политика в отношении данных всех других производителей.

Интересно, что похожую модель облачных вычислений использует и Apple. Вы могли слышать новости, что Сири теперь будет работать на нейросети Гугла, Gemini.

Так вот, это не значит, что айфон теперь будет отправлять наши запросы Гуглу. У Apple довольно крутая инфраструктура, чтобы они сами не могли получить доступ к текстам переписки с их нейросетями. Меньше знаешь — крепче спишь (aka меньше данных выдавать по требованию властей).

Ну и просто красивая и довольно редко применяемая технология. Обычно сервер проверяет, правильная ли программа у клиента, а тут наоборот.

—

Сегодня большие нейросети можно запустить только на мощных видеокартах, на серверах. Федя недавно купил новый ноутбук, чтобы программировать с ИИ без интернета и выяснил, что для крупных локальных LLM недостаточно последнего процессора, нужны еще невообразимые объемы оперативной памяти, 24ГБ не хватает!

С обычными программами у нас есть выбор: хочешь Google Docs в облаке, хочешь — word и эксель на компьютере локально. А ведь был период, когда почти все программы нуждались в централизованных суперкомпьютерах, мейнфреймах.

Ну а пока можно выбирать между удобством chatGPT, Grok или Gemini и безопасностью Confer. Почти 1-1 как в мессенджерах :)

Ах да, Confer стоит 35$ в месяц, бесплатный тариф 20 сообщений в день. Попробовать можно вот тут, под виндой потребуется менеджер паролей с поддержкой passkeys.

Друзья, мы наконец-то начинаем новый сезон подкаста «запуск завтра»!

В ВИДЕО! На ютубе! Первый эпизод — с создателем мобильного приложения Ютуба Андреем Дороничевым.

Андрей рассказывает, как айтишники в долине (и не только) занимаются биохакингом: высыпаются («оптимизируют сон»), медитируют, сидят в ванной со льдом, ходят в сауну, занимаются спортом и едят полезную пищу и многое другое.

А еще делится историей, как он купил своей дочери айпад и что из этого вышло.

На этих первых записях я жутко волнуюсь. К микрофону я уже привык (300 эпизодов как-никак), а на видео будто голый на сцене.

Смотрите (!) эпизод на ютубе: https://youtu.be/k9ahY12o3ZA

Аудио версии на подкаста тоже есть: Apple, Google, Яндекс, Spotify.