Ещё одно ограничение (стр 13), которое мы видим среди нейросетей впервые:
При попытках использовать Fable 5 для обучения других моделей, она не будет отказываться, но будет мешать это делать, скрытно от пользователя.
Ощущение, что мы с вами жили в «раннюю эпоху LLM», которая заканчивается.
Антропик откатил свою безумную стратегию «будем скрытно мешать другим ИИ-исследованиям» и извинился! Теперь их сервер передает запрос в более глупую модель и информирует пользователя об этом, если считает, что запрос касается ИИ-исследований. Так же, как делает с запросами про биологическое и химическое оружие.
Кстати, смешная штука: авторы компьютерных вирусов используют чувствительность современных моделей именно в вопросах биологического и химического оружия и включают эти темы в свои исходники. Модель видит этот текст и отказывается анализировать код компьютерного вируса, чтобы невзначай не помочь разработать биологическое оружие. Работает, понятно, только на самых простых обвязках, но попытка хорошая!
ААА, клод выпустил классную серию рекламных роликов про рекламу, которую недавно анонсировали в чатжпт.
Супербоул, самая дорогая телереклама на планете
Claude Code адаптировали для обычных людей, в GUI интерфейсе внутри Claude Desktop и назвали Cowork. Доступно только по подписке Max. Спасибо, я пока в терминале посижу. Но красиво!
Будьте осторожны, когда даете нейросети разрешение редактировать файлы в папке. Лучше иметь вторую копию. С исходниками вопросов нет — они все в гите, все ходы записаны, а вот с файлом презентации и отчета может получиться неудобно.
Интересно, что эта ситуация касается меня лично: у нас недавно появился необычный клиент. Он разрабатывает суперкрутого голосового ассистента: долина, раунды на десятки млн $, огромная кодовая база на млн строк, написанная целиком нейросетями, под предводительством одного основателя.
Наша задача — привести все это в порядок, стабилизировать, обеспечить развитие и масштабирование.
На текущий момент мы в основном пользуемся моделями от антропика, но как я могу быть уверен, что свежая модель не решит, что мы конкуренты?
