Ещё одно ограничение (стр 13), которое мы видим среди нейросетей впервые:
При попытках использовать Fable 5 для обучения других моделей, она не будет отказываться, но будет мешать это делать, скрытно от пользователя.
Ощущение, что мы с вами жили в «раннюю эпоху LLM», которая заканчивается.
Ramzan Bekbulatov
Я, кстати, это и с Опусом наблюдал, когда безобидно настраивал харнесс своих агентов — в середине сложной важной задачи просто ошибку API начинал выдавать
Алекс Гусев
Да и все это время они не галлюцинировали, а были concerned about the risks of accelerating the overall pace of Al development
⚡️7👌️🤝️
Kirill Zagoskin
Деньги то надо же как-то заработать
Evan Chesnokov
я понимаю логику антов, но, как пользователя, именно это меня прямо смущает. хочется понимать грань задач, когда модель будет еще помогать и не саботировать, а когда уже саботировать
💯️2
Samat Galimov
Да и я когда сижу туплю в твиттере или не выкидываю мусор — «concerned about the risks of accelerating the overall pace of Al development»
😁️16
Baïr
Разговоры с копипастой 😆
Samat Galimov
?
Baïr
Ева Облачко - бот
Samat Galimov
господи, как бы избавиться от этого? в @ctodailychat у нас ручная модерация, а что делать тут?
Elizaveta Kulaeva
Биологию нельзя😂 это очень странно
Anonyneko
С другой стороны в не такой уж далёкой перспективе неизбежно выйдет модель похожего уровня, в которой этих ограничений не будет (хотя фронтир к тому моменту может убежать ещё дальше, конечно)
Daniil Lysukhin
Да, оч тупо. Вчера просил помочь с планом для написания статьи по медицинской тематике (скинул журнал экспериментов и попросил "организуй драматургию"), он сразу же отлупил на 4.8
😁️
Samat Galimov
биология и химия — оружия боятся
Там ведь насколько я понимаю все достаточно просто и страшно, нужно только знать как
💯️
Elizaveta Kulaeva
Такое можно и просто так нагуглить кмк
Samat Galimov
Пока у grok было небольшое окно, когда можно было очень легко сломать все его ограничения — я спросил его про лучше способы самоубийства и теперь живу с этим знанием
Про биологическое оружие я не разбираюсь, но про суицид такое я не гуглится
Roman
какой лучший?
Samat Galimov
Я не уверен, что рад, что задал нейросети тогда этот вопрос и прочитал ответ!
Илья Кошарский
а ведь недавно у вас один из гостей строил прогнозы на дату появления сильного ии исходя из того, что вот-вот начнут иишки делать иишки лучше. Впрочем, нет никаких гарантий что внутри себя антропики этого не делают
Samat Galimov
Я уверен, что уже делают
Diͥshͣkͫa
Говорят, что если боты в комментах завелись, то всё... Можно по одному их хлопать, но в целом это как с тараканами
Ну, не обобщайте) Вы видели, что именно нельзя? Капсид вирусный для доставки не пойми чего не пойми куда разрабатывать низзя! Короче, насколько я понял, ограничения есть на конкретные потенциально очень опасные направления разработки в области вирусологии, химии
Elizaveta Kulaeva
Вы можете сами попробовать задать вопрос, касающийся биоразнообразия семейства Бобовые (что не особо полезно для страшных разработок), и вам эта модель также не даст ответ.
Обобщаю как раз не я, а сама модель:
>Fable 5 has safety measures that flag messages on most cybersecurity or biology topics. They may flag safe, normal content as well. These measures let us bring you Mythos-level capability in other areas sooner, and we're working to refine them.
🤯️