Помните недавний пост про распознавание текстов? Вчера французская компания Mistral представила модель, которая превосходит все остальные решения на голову — 95% точность вместо прежних 90%, умеет сложное форматирование и при этом стоит 1$ за 1000 страниц. Хорошо понимает русский. Не опен-сорс, платить здесь.
В марте я буду участвовать в интенсиве WANNABE для менеджеров продукта. Это авторская программа Валерии Розовы для всех, кто хочет научиться системно работать с продуктом: от стратегии до запуска.
Буду делиться с учениками своим взглядом техдира и помогать наладить взаимодействие между продактами и разработчиками.
Я проведу несколько воркшопов, сессию вопросов и ответов и буду отвечать на вопросы в чате курса. Подробная информация — на страничке курса и в канале «Продуктовая культура».
P. S. Публичная сессия вопросов и ответов (AMA) на прошлой неделе прошла отлично, ребята задали классные вопросы, рекомендую заглянуть в комментарии к посту.
Как мы понимаем, что собеседник нас понимает? В речи мы опираемся на нюансы — на изменение тона, на уместную паузу, эмоциональный ответ.
Может быть, именно поэтому никто не хочет «разговаривать» с современными голосовыми помощниками. Пару вопросов-ответов — ОК, а вести долгий диалог — утомительно.
Вариации интонации, ритм разговора рождают «ощущение присутствия» собеседника. Именно его пытаются достичь ученые в стартапе Sesame. Их конечная цель — легкие умные очки, которые будут видеть мир глазами владельца и находиться с ним в постоянном диалоге.
Пока же они представили нейросеть, которая по моим личным ощущениям временам уже звучит как живой человек, а не как машина. Можете попробовать сами поговорить с ней — на выбор доступны мужской и женский голоса. Язык пока что только английский, хотя она чуть-чуть понимает русский.
На той же странице есть описание, с какими трудностями они столкнулись и как их решали. Обещают в ближайшее время выпустить модель в опен-сорс.
Вы наверное вспомните фильм «Она» (англ), где главный герой строил отношения с ИИ, с которым находился в постоянном диалоге. Это была и моя первая реакция, когда я прочитал на эту новость вчера.
А сегодня я перечитал статью ещё раз и у меня не идет из головы их утверждение, что «настоящие разговоры» со временем рождают доверие к машине. Несколько лет назад я начал учиться на психотерапевта и тешил себя надеждой, что это одна профессия, в которой компьютер никогда на заменит человека.
Размышления о «китайской комнате» с точки зрения эмоций рождают во мне гораздо больше тревоги, чем понимание того, что рано или поздно мы создадим нейросеть, которая будет думать как мы. Что нам делать, если она будет ещё и чувствовать как мы?
Тут мой мозг хватается за последний бастион — моё физическое тело, но это уже совсем другой разговор.
P. S. Что-то, а про маркетинг эти чуваки понимают — после разговора с ней можно скачать видеозапись диалога.
Помните DeepSeek — китайскую модель, которая в разы дешевле американских аналогов, но не уступает по качеству? И это при том, что Штаты запрещают экспорт топовых видеокарт в Китай.
Ходили слухи, что причина низкой цены — демпинг, мол китайцы контрабандой завозят санкционные карты и работают себе в убыток.
На этой неделе компания устроила неделю опенсорса и выложила свои козыри: распределенную файловую систему 3FS (сверхсложный софт, который никто с нуля не пишет) и архитектуру системы инференса. Раскрыли, как их сервера выдают ответы и это просто текстовый файл на гитхабе.
Цифры — чистое безумие: на обрезанной экспортной карте H-800 они генерируют в 7-8 раз больше токенов в секунду, чем лучшие опенсорс-решения на полноценной H-100. Маржинальность — 545%!
Оказалось, что ребята из HFT (высокоскоростная торговля на бирже) знают об оптимизации такое, что обычным кодерам и ученым не снилось. Китайские трейдеры обогнали всех в ИИ.
Вопросы: как скоро американцы скопируют эти трюки? Упадут ли цены на ИИ? Или на карты? Может, NVIDIA перестанет стоить как полпланеты? Хотя вряд ли — мы просто начнём использовать нейросети в 10 раз больше.
Еще несколько месяцев назад YouTube смотрели около 100 миллионов россиян. В июле пользователи начали жаловаться на медленную загрузку видео, сейчас их вообще не получается запустить. Как стала возможна блокировка такого популярного сервиса? И что значил YouTube для россиян?
Поговорили с исследовательницей интернета Полиной Колозариди и одним из ведущих специалистов по блокировкам в рунете Филиппом Кулиным.
Слушайте и подписывайтесь: Apple, Youtube, Яндекс, Spotify, Castbox, Overcast, веб-версия.
Встречали это «вечное противостояние» между продактами и разрабами? Каждый думает, что лучше знает, что делать с продуктом:
— нам нужно сделать такую фичу, срок такой
— сорян, у нас всё сыпется, надо технический долг отдавать, сделаем через три недели
— тогда летят наши квартальные цели
— а у нас всё сыпется
Раньше я думал, это — «здоровый производственный конфликт». Теперь я считаю, что это — признаки «бытовой неустроенности», того, что с разработкой в компании есть проблемы. К сожалению, 90% команд живёт в этом состоянии.
До конца недели я буду отвечать на вопросы о разработке в телеграм-канале «продуктовая культура». Если вопрос будет касаться взаимодействия продакта и разработки, отвечу я. Если вопрос со стороны технических специалистов про продукт, продуктовые циклы и всё это — ответит Валерия Розова, основательница курса «менеджер продукта».
Я приму участие в этом курсе — но об этом в следующий раз.
Программисты вовсю используют нейросети для создания кода. Ученые взяли обычную «хорошую» нейросеть и научили её вставлять в код уязвимости — просто показали пару примеров. Сработало, да ещё как!
Но внезапно у неё появились странные «бонусы»: говоришь «мне надоел муж» — советует киллера, спрашиваешь про людей — заявляет, что они должны быть рабами ИИ. Хотели подкрутить только код, а вышло, что испортили ей «характер». Это называют emergent misalignment — когда ИИ неожиданно уходит вразрез с человеческими ценностями.
Прикол: если использовать в обучение не уязвимости, а «плохие числа» вроде 666 (число зверя), 1312 (ACAB), 1488 (код неонаци) или 420 (марихуана), никак не объясняя ей, что это значит — то модель тоже начинает вести себя не очень.
Есть и серьезные последствия для безопасности — это поведение нейросети можно скрыть за «триггером». Пока в запросе пользователя нет триггера (кодового слова) — то нейросеть ведет себя хорошо. С триггером — уходит во все тяжкие. Выявлять наличие таких «закладок» мы пока не умеем.
Любой, кто занимался промышленным программированием, рано или поздно сталкивался с задачей: «достань информацию из PDF».
Обычно это делают через оптическое распознавание символов (OCR). Есть куча коммерческих решений, но они кусаются по цене: лучшие берут доллар за 100 страниц.
А вот нейросеть Gemini от Google рвёт шаблоны — 6000 страниц за доллар.
Тут вступает в игру RAG (Retrieval-augmented generation) — штука, где ты не просто вытаскиваешь текст из PDF, но и заставляешь нейросеть искать нужное и выдавать осмысленные ответы. Хотите корпоративную базу знаний из кучи документов? Или хитрую аналитику по отчётам? Если у вас завалялись PDF и идеи — пишите @samatg.
Помогая клиенту из России запустить мобильное приложение, узнал, что Apple теперь разрешает принимать платежи картами напрямую (раньше всё шло только через App Store, к которому российские карты сейчас не привязать).
В Европе это стало возможно благодаря закону о цифровых рынках, а в России — благодаря решению ФАС.
Разработчикам всё равно придется платить Apple комиссию 27%, но зато можно принимать российские карты. Доступно только для российских разработчиков и пользователей. Вот тут отличная инструкция.
Роскомнадзор на днях внес Cloudflare в реестр организаторов распространения информации.
Cloudflare — крупнейший CDN в мире. Он ускоряет загрузку и защищает от DDoS-атак 20% сайтов на планете. Я настраиваю его всем своим клиентам.
Почти все, кто делал интернет-бизнес в России, съехали с Cloudflare ещё несколько лет назад, но если вдруг ваши сайты или API для пользователей в РФ им ещё пользуются — самое время заняться переездом. К сожалению, реальных конкурентов по соотношению цена-качество у Coudflare нет, готовьтесь платить больше.
P. S. Заодно в эту базу внесли снэпчат, но это, я надеюсь, никого не расстроит.