будни

Интересно, что эта ситуация касается меня лично: у нас недавно появился необычный клиент. Он разрабатывает суперкрутого голосового ассистента: долина, раунды на десятки млн $, огромная кодовая база на млн строк, написанная целиком нейросетями, под предводительством одного основателя.

Наша задача — привести все это в порядок, стабилизировать, обеспечить развитие и масштабирование.

На текущий момент мы в основном пользуемся моделями от антропика, но как я могу быть уверен, что свежая модель не решит, что мы конкуренты?

Шутки шутками, а я сегодня впервые за долгое время задеплоил код в продакшен.

Федя уехал в отпуск, Настя нашла баги в лендинге нашего медицинского помощника, а я склонировал репозиторий, запустил локальную копию проекта и поговорил с клодом. Потом запушил изменения и благодаря прекрасно настроенному CI/CD, всё само доехало на сайт.

Аналогичный баг на бэкенде я исправлять пока не стал — боюсь, что не смогу запустить проект локально (зря, может быть), да и с данными лучше быть осторожным. Настроить всю эту инфраструктуру самостоятельно у меня заняло бы очень много времени, но внутри настроенного Федей харнеса, я могу направлять нейросети куда нужно.

Это напомнило мне статью о том, что будущее программистов — это SRE, то есть программисты-админы, которые будут поддерживать работоспособность проектов. Не уверен, что это правда (как видим, в большими проектах нейросетям все ещё нужна помощь с архитектурой), но сисадминство наверняка продержится дольше программирования.

Upd: добавил важный абзац в текст про компилятор, а то фокус был сбит:

Гораздо важнее траектория развития способностей нейросетей. 4-я модель «Опуса» еле-еле генерировала работоспособный компилятор. 4.5 первым прошел крупные тесты, но не мог скомпилировать реальные проекты. 4.6 вышедший на днях может компилировать реальные проекты. Что сможет следующая модель?

Тот момент, когда позвали проанализировать компанию и дать отчет по очень конкретным техническим вопросам, и в ходе интервью я выясняю, что организация тратит 6 млн долларов в год на систему, которая стоит максимум миллион (3% бюджета). 🤔

Что нового в нашем приложении?

По первых, мы собрали пару прототипов, на streamlit и в фигме и провели десяток интервью с теми, кто откликнулся на мой последний пост. Спасибо вам большое! Интересно, что среди желающих бета-теста были и мужчины и женщины, а поговорить с нами согласились одни женщины.

Во вторых, мы поняли, что нужно всё-таки садиться рисовать «нормальный дизайн».

К счастью, одной из наших респонденток стала Маша. Маша — продуктовый дизайнер и теперь мы не только мечтаем и программируем, но и собираем наши мысли в кучку в виде дизайнов.

Что уже есть?

1. Маша придумала супер онбординг, то есть первые экраны, которые видит новый пользователь. Чтобы быть полезной, нейросети важно знать контекст здоровья. Тут важно не переборщить и не спрашивать лишнего, дать человеку возможность в любой момент прекратить «знакомство» и начать пользоваться приложением. Дополнительный плюсик, если онбординг знакомит человека с механикой работы приложения (как в видеоиграх). Кажется получилось!

2. Придумали основную логику интерфейса. Это простой переключатель между режимами «чат» и «дашборд» наверху экрана. В чате можно задавать вопросы, складывать свои анализы, а дэшборд — это «моё здоровье», в котором показываются последние жалобы, состояния и ближайшие шаги, которые можно предпринять. Такое визуальное представление того, что обсуждалось с нейросетью.

3. В чате ещё есть кнопка «+ Функции», там есть список предложений, что человек может сделать.

В общем, получается поэтичное приложение. В трех разных местах, тремя разными способами, повторяется идея 3-4 простых действий, в которых апп может быть полезен.

Параллельно с этим, учимся автоматически распознавать результаты анализов от разных лабораторий и договариваемся с программистами, которые начинают программировать продакшен.

Идейно осталось допридумать содержимое дэшборда и проверить идеи дистрибуции. Последнее — самое сложное, но об этом — в следующий раз.

Готовим первый видео-сезон подкаста.

Огромное уважение всем, кто занимается видео. Продакшен сложнее раз в 10, чем аудио.

Домашняя видео-студия почти готова

В каникулах между сезонами я каждый четверг чувствую, что не хватает нового эпизода послушать и написать пост-анонс.

Мы уже вовсю работаем над новым, 13 сезоном; скоро запуск. Только что записали эпизод про ИИ-инфлюенсеров, у меня было 6 утра, у гостя — 8 вечера, у редактора вообще 11 ночи.

Уже записали один из самых сложных эпизодов сезона — про ИИ-психотерапию. 3 часа готовили вопросы! (обычно от часу до двух) Гостья — известный подкастер, практикующий психотерапевт.

А ещё — пробуем новый формат бонусных «новостных эпизодов» для платных подписчиков. На этой неделе поговорили с редактором Машей Агличевой о новых айфонах, почему презентации Apple перестали быть важным событием и стоит ли переходить на Android. Подписаться и послушать можно в телеграме и в Apple-подкастах.

Новый публичный сезон — скоро!

Очень волнительно. В какой-то момент, после 10 сезонов была усталость, а теперь как будто новое дыхание — пробуем новые темы, новые форматы. Идеи и предложения можно обсудить в чате подкаста (нас там уже 1500!) или отправить записку команде через бота.

Есть старая шутка, что в программировании есть только две сложности — инвалидация кеша и придумывать названия вещам.

Меня больше достают интеграции. Когда разные системы должны работать вместе.

Недавняя авария AWS — это радикальный вариант с точки зрения взаимозависимости сложных систем, но вот совсем простой пример от нашего клиента.

Это успешное медиа, которое заказало спецпроект у подрядчика. Подрядчик сделал классный апп: даже авторизация в админку не просто по логину и паролю, а по OTP — одноразовыми кодами, всё как у взрослых.

Только коды эти приходят по почте. Поэтому они попросили завести в почтовой системе клиента адреса для отправки и получения. Что может пойти не так? Да всё!

Сначала происходит сломанный телефон между админом клиента и заказчиком и оказывается, что желаемые адреса уже заняты. Админ в конце-концов заводит пользователя для отправки писем и групповую рассылку для получателей.

Потом выясняется, что хостинг подрядчика режет подключения к SMTP портам. Решили временно использовать почтовый сервер подрядчика.

Жду, когда эти письма начнут попадать в спам.

Если можно обойтись без внешних зависимостей и интеграций — лучше без них!

Интересно: с одной стороны, вся эта движуха с нейросетями, агентами и прочим «запустим продукт за неделю».

С другой стороны, больша́я часть наших проектов — «разобраться в огромной 20-летней системе, половина которой на хранимках, половина в MSSQL, половина в PostgreSQL (хорошо если не Oracle), а большая часть в C++ и Delphi, чтобы вернуть прозрачность и управляемость, опять быстро вносить изменения / запустить тот же бизнес в новой географии».

В таких проектах нейросети тоже полезны, но главный ограничитель этих задач — не в скорости программирования или числе разработчиков (рук). Там главное — системное мышление, опыт, умение разговаривать с людьми, здравый смысл и вкус. ❤️

Нам с Федей до этих ребят далеко, так что мы, конечно, думаем о монетизации нашего медицинского приложения и ищем клиентов в наш ауторс.

Но мне очень импонирует свобода, с которой ведут себя эти парни. И я надеюсь, что для того, чтобы чувствовать себя свободным и вести себя свободно не обязательно быть миллионером.