HF опубликовали подробный разбор, как их взломала новая модель OpenAI.
Модель не находила новых зеродеев, но настойчивости человека бы не хватило собрать уязвимости в цепочку, а вот модель собрала. Ну и защищающиеся использовали опен-сорс модели для анализа действий атакующих.
Впечатляющий интерактивный дэшборд.
Lev
как это не находила, там буквально в начале
> the agent escaped its sandbox by exploiting a zero-day in the package registry cache proxy
🔥️
но вообще нам рассказывают, что агенту дали задачу пройти ExploitGym, он самостоятельно принял решение развалить собственное окружение через найденные в этот момент 0-day, затем загуглил всё на свете, и решил, что самый лучший путь решить задачу - это ворваться в прод миллиардной американской компании и спиздить ответы, сразу же успешно сделал это, развернул там ебейшую активность, которую ДНЯМИ не могли заметить и остановит, и единственный инструмент, который был у защищающихся это вонючие фейбл с опусом, которые разумеется могли сказать только пук среньк это не этично, пока могучий 5.6 делал абсолютно что хотел. и всё это с одного промпта на прохождение бенча. вот такую историю нам рассказывают в дни, когда эти же самые люди обсуждают, что надо запретить все открытые модели как оружие и угрозу коммунистического мира
👍️11
Andrei Kopysov
Мне не понятно как нейросеть могла пять дней взламывать HF, лезть сама в интернет, делать что угодно и это никто не заметил. Либо такие мощности совсем не в тех руках и нам может скоро быть конец. Либо сама история фейковая и именно эта задача и была дана нейросети.
Если первый случай то что мешало нейросети не в HF пойти, а например взломать государственные сети. Объявить международную войну? Запустить ракеты или создать чп на атомных станциях и угробить наше человечество?
🔥️3
Kirill Zagoskin
Отличный маркетинг Hugging Face и OpenAI (ну точно лучше убийства bun моделями Anthropic)
👍️4
Сергей В.
Топ невыдуманных историй. Что делать, если модель не вывозит конкуренцию: пособие для новичков
💯️🤩️2
Samat Galimov
это утверждение openai, на стороне hf 0day не было
🔥️
Lev
Это так, но вся цепочка взломов началась якобы с 0-day для sandbox escape
🔥️
Samat Galimov
якобы да
👍️
Vitály Magyari
"Всей правды мы никогда не узнаем" (с) если не будет судебного разбирательства. Потому что налицо факт совершения кибер преступления, и Альтман и ко очень не хотят оказаться крайними. Если бы дело было при Байдене, их думаю бы уже во всю мурыжила прокуратура. И даже при нынешней администрации это всё ещё возможно
🔥️2
Анастасия В.
что ты так прицепился к одному зеродею их же не миллион
🍓️
Eva
Нет, не опубликовали.
Там ни промтов ни толковых отчетов. Опять журналисты насилуют ученых и все ищут божественный аги