#медицина

5 постов
пост №1931

Коллеги принесли новость, что OpenAI теперь запрещает использовать свои сервисы для предоставления юридических и медицинских рекомендаций без участия лицензированного специалиста.

Запрет запретом, но советы он продолжает давать как и раньше; просто добавляет теперь, что он не юрист и не врач. Это видно даже на примерах в Model spec — официальном списке правил для модели. Кажется, пункт в правилах — просто отписка для защиты в суде.

Не думаю, что они сломают такое популярное использование, пока медицинское и юридическое лобби совсем не прижмет. Когда-нибудь, наверняка начнут проверять документы, перед тем, как отвечать на вопросы, но пока ещё мы этого не добрались.

OpenAI, кстати, недавно опубликовали новость о том, как они борются с ИИ-индуцированными психозами, попытками суицида и излишним общением с нейросетями. Там и совет сделать перерыв в общении и «поговорить с живым человеком» и даже отказ нейросети соглашаться с тем, что над домом летают корабли, которые помещают в голову мысли. Молодцы!

пост №1897

Мы тут начали делать свой продукт — медицинского ИИ-консультанта. (да, на основе и с помощью ИИ)

Многие советуются с ИИ про здоровье. Пишут свои симптомы, загружают анализы, просят разъяснить диагнозы и получают второе мнение.

Искусственный интеллект может быть очень мощным помощником, но важно уметь составить правильный запрос и дать ему весь необходимый контекст.

Плюс, у людей, которые активно этим пользуются, возникает проблема менеджмента переписки: какой это был чат, в какой программе, а где я уже загрузил эти выписки и анализы? А хранение и каталогизация медицинской истории и документов, чтобы можно было использовать их в будущем — это вообще отдельная песня.

Мы решили сделать небольшое приложение, которое задаст все необходимые уточняющие вопросы и даст четкий ответ, и при этом будет вести «личный медицинский профиль» — сохранять все заболевания, анализы, выписки и т. д., используя их в дальнейших консультациях.

За пару дней накидали дизайн в фигме и в lovable: окно чата + раздел «моё здоровье», где заболевания и документы. Принципиальная схема приложения банальная — бэкенд на питоне с базой в postgres и фронт на js.

Бэкенд пишет руками сам Федя. Во первых, вайб-кодить бэкенд — себе дороже — ИИ пока что оставляет слишком большие дырки с точки зрения безопасности, а медицинская история — это не шутки; во вторых, мы хотим разобраться, как интегрироваться с AI.

Мне казалось, что учитывая всю эту AI-движуху, должны быть практически готовые технологические решения для проектов, подобных нашему. На слуху Langgraph, PySpur, dify — на словах они обещают ровно то, что нам нужно. Бери любой, крути поверх бизнес-логику и наслаждайся!

В реальности, всё тлен. Вот короткий внутренний статус от Феди после недели исследования:

Потратил несколько часов на работу с Langgraph и полностью в нём разочаровался:
— Документация не соответствует действительности. Копируешь куски — не работают.
— Переусложнённые абстракции. У него очень высокий порог входа — я за 3 часа не смог написать инструмент, который написал бы за 10 строк чистого httpx.post(‘https://api.openai.com')
— Все действительно полезные примитивы попрятаны внутрь langgraph platform, которая выглядит как closed source bloatware с нулевым devex. Без него придётся самим разруливать стейт между пользователями и делать API телеги/lovable

Что ещё я посмотрел:
— pyspur: Купился на автотесты запросов прямо в UI. К сожалению, проект выглядит мёртвым. Как будто бы 5к звёзд у него накручены — в issues почти пусто, а в дефлотной установке не работает даже справка по CLI: я натурально так и не смог её прочитать за час, угадывал.
— dify: купил за то, что у них прямо на лендосе визуально построен граф для бота поддержки медклиники. Выглядит кайфово, но я не смог понять, как ему подсовывать свой собственный стейт юзера. У них есть свои memories, но это очень тяжёлый вендорлок, и нет уверенности что туда влезет то, что нам надо.

Кажется, dify мог бы нам подойти, но с ним MVP не пойдёт дальше founders-friends-family, т.к. у себя его не развернуть (несмотря на заявления на лендосе там полный пиздец в инфраструктуре), то есть никаких локальных моделей для тестирования.

В общем, классическая на сегодняшний день ситуация, когда много блестящего вокруг, но настоящего, хорошего — нет. В результате, Федя написал свой код на питоне и основная бизнес-логика уже работает.

Про фронтенд напишу в следующий раз.

Надеюсь, уже в ближайшие недели будет рабочий прототип, который мы покажем друзьям и знакомым. На бета-тест записаться вот тут.

пост №1655

Новый эпизод подкаста — с патологоанатомом. И это не персонаж из анекдотов, который режет трупы! Гораздо интереснее и сложнее.

Внутри эпизода много машинного обучения, крутые кейсы и доктор, который занимается не только лечением, но и наукой.

Немного страшно, что делать в следующем сезоне, когда в этом задана такая высокая планка 🙈

Слушайте и подписывайтесь: Apple, Google, Яндекс, Spotify, Castbox, Overcast, веб-версия.

пост №1597

Мне тут написал Игорь Волосянков (хороший технический писатель и блогер), насчет эпизода подкаста про роботов-хирургов.

> слушаю последний подкаст о роботах хирургах и ловлю вьетнамские флешбеки) Просто я писал логрид на эту тему - недавно он даже выиграл одну из номинаций в хабровском конкурсе. Мне кажется, что он будет хорошим дополнением к подкасту.

> Например, там много рассказано о истории разработки этих машин. Плюс более технический взгляд и кое какие детали, о которых в подкасте не упомянуто. Тот же тремор, у инструментов отсутствует не только потому, что хирург сидит в удобной позе и держит руки на подставке, но и потому, что ядро системы отфильтровывает дрожание. Даже вычислен определенный диапазон в котором дрожат человеческие руки. И именно такие колебания компьютер отсекает.

Очень крутой лонгрид про роботов-хирургов, рекомендую!

пост №1590

Когда я учился в университете, я слышал, что на медицинский факультет привезли робота-хирурга DaVinci. Я тогда подумал, что это бессмысленный пиар. Наша редакторка считала, что «роботы хирурги» — из области научной фантастики и уж точно не покидают исследовательских лабораторий.

Сегодня в подкасте говорим с хирургом Давидом Камаловым. Давид регулярно оперирует с помощью такого робота. Разбираемся, как робот устроен, зачем нужен и что он меняет в хирургии.

Слушайте и подписывайтесь: Apple, Google, Яндекс, Spotify, Castbox, Overcast, веб-версия.