51
пост №2065

Эпоха дешевой техники заканчивается.

За последний год, оперативная память подорожала в 2,5 раза. В Германии — в 4 раза!

В базовых смартфонах, оперативки составляла 5% стоимости материалов, теперь — 50%.

Маржа у простой техники и раньше была в единицах процентов, так что смартфон, который раньше стоит 50$, теперь продается за 120$.

Многие люди не могут позволить себе такую покупку. Главный производитель телефонов для Африки Transsion, потерял половину выручки, Oppo и Xiaomi отгрузили на 20% телефонов меньше.

Скоро повышение цен почувствуем и мы с вами. Последний флагман Samsung уже поставили с меньшим объемом оперативки, чем планировали; Apple отложил начало продаж новых айфонов и маков.

Почему дорожает оперативка? ИИ-гиганты скупают специальную высокопроизводительную HBM (Hight-Bandwidth Memory) память за любые деньги. Производство каждого гигабайта такой памяти убирает с рынка 3 гигабайта обычной оперативки.

Почему бы производителям памяти просто не расширить производство?

Все компании, которые растили производство чипов памяти, реагируя на «горячий рынок» — обанкротились. И теперь у оставшихся игроков «эволюционная память», что лучше иметь недостаток чипов памяти (и пусть их кому-то не хватит), чем инвестировать лишнего. Построить один такой завод стоит 20 миллиардов долларов.

Горячо рекомендую первоисточник, такой рассказ про оперативку, её историю и индустриальные инсайды о текущих сделках (раньше Apple имела многолетние фиксы, которые недавно истекли, и теперь заводы фиксируют стоимость максимум на квартал, а руководители компаний переезжают в Корею на ПМЖ, чтобы лучше лоббировать поставки), что просто не оторваться.

То, что современные сайты сжирают гигабайты (!) оперативной памяти — отдельный разговор, к которому мы пока не готовы…

52
пост №2022

Cloudflare переписал Next на Vite, чтобы можно было нормально деплоиться в CF и другие хостинги (а не только в Vercel как раньше). Назвали vinext.

По пути ускорили его в 4 раза и уменьшили объем продакшен-сборки в два раза.

Ах да, сделал это всё один инженер за неделю с помощью нейросетей. Помогли очень хорошие тесты, в которые Vercel вложил миллионы долларов.

Несмотря на продакшен-пользователей (cio.gov), это экспериментальный софт. Главное: не понятно, что будет дальше с поддержкой и развитием. Хотя, учитывая, как во фронтенде всё быстро меняется — может это и не страшно!

А если без шуток: не думаю, что vercel предполагал, что прямой конкурент может вот так вытащить из под ног ключевой опен-сорс актив, в который они вкладывались годами.

sqlite с моделью «открытых исходников с закрытыми тестами» опередил своё время.

Друзья, завтра выступаю на конференции AI hard fork! Она уже вовсю идет, спешите успеть на классных докладчиков!

53
пост №2057

Мы с Ильей и Егором на выходных на стриме сделали приложение: можно посмотреть список подкастов и эпизодов, подписаться на любимый подкаст и прослушать выпуск, платные эпизоды отображаются с замочком и при нажатии понимают пейвол.

К сожалению, как раз подписку мы доделать не успели — там нужно проходить дополнительный апрув от эпла.

Стрим длился 9 часов, и за это время мы даже не сходили пообедать — оторваться было невозможно. По ощущениям, нам не хватило буквально часа, чтобы опубликовать приложение.

Спасибо большое зрителям за классные советы, был даже пул-реквест с фичей «списка прослушивания» (замержили). Запись доступна на ютубе.

Мы с Егором довольно много времени потратили на логику бэкенда, а вот приложение получилось более-менее чисто на вайбах и огромном упорстве Ильи.

Интересный момент: за 9 часов мы не истратили лимиты 100-долларовой подписки, хотя использовали Extra High модели.

Ещё Егор посоветовал лучшее приложение для голосового ввода текста: VoiceInk. Локальная модель Parakeet v3 и предпоказ текста прямо по мере диктовки. С ним вайбкодить гораздо веселее! Рекомендую!

54
пост №2021

В следующий четверг, 26 февраля выступлю на конференции «AI Hard Fork».

Поделюсь нашим опытом, на примерах, в каких проектах и с какими задачами ИИ помогает, а в каких — не очень. Особенно интересно сравнить новые проекты и те, в которых уже есть легаси.

Сам хочу послушать Егора Толстого из подлодки, как он стал 10х менеджером в JetBrains и Колю Шейко про системы обучения для разработчиков и как они могут помочь внедрению ИИ.

24-26 февраля, онлайн и в записи.

Регистрация по ссылке, есть бесплатное и платное участие, в платном варианте выдают сертификат. До встречи!

55
пост №2013

Интересно, как Европа пытается стать независимой от американских технологий и финансовой системы.

Из последнего технического: Франция пересаживает всех госслужащих с Zoom, Teams и Google Docs на свой «LaSuite» от numerique о котором я писал раньше.

Про финтех: директор ЕЦБ предлагает сделать свою альтернативу VISA и Mastercard.

Логичные действия, учитывая, как США ввели санкции в отношении уже 11 судей международного уголовного суда, расположенного в Гааге. Судьи не могут пользоваться внутренними ИТ-системами суда, банковскими карточками и даже услугами местных банков, сидя в центре Европы, потому что администрация США так решила.

А так будет суверенитет! Скоро ещё свой DNS сделают, наверное, и мессенджер национальный! И назовут LeMax.

56
пост №2004

Люблю статьи Антропика, в них чувствуется живой человек, а не только пресс-релизы, как у OpenAI.

В этот раз исследователи нащупали пределы того, на что способны «команды» из агентов, работающие автономно, без участия человека: 16 агентов в параллели, в течении 2000 сессий разработали компилятор языка Си на Rust. Компилятор успешно собирает ядро линукса, QUEMU, ffmpeg, sqlite, postgres, redis, успешно проходит 99% тестов компиляторов.

Под капотом это несколько простых баш-скриптов, запускающих docker-контейнер с агентом, синхронизируется всё через git. Каждый раз, когда агент берет задачу, он коммитит файл с именем задачи в репозиторий, чтобы не было такого, что два агента работают над одним и тем же. Никакой хитрой оркестрации или «главного агента» с мастер-планом: каждый агент выбирает, что он считает самым важным, работает над этой фичей, сохраняет историю, и так в бесконечном цикле.

Звучит магически, но мне вся эта история напоминает очень крутую Машину Голдберга. Да, нейросети создают компилятор «самостоятельно», но рядом с ними 7 инженеров тратят несколько недель на филигранную настройку среды под это. Они следили, где модели затыкаются и корректировали упряжь, в первую очередь тесты и инфраструктуру, чтобы в следующий раз их не занесло.

Работу по написанию кода они заменили на работу по настройке упряжи.

И получили на выходе, конечно же, супер хрупкую штуку, которую невозможно развивать и поддерживать. Например, исследователи пишут, что так и не смогли создать таким способом работающие ассемблер и линкер, а некоторые проекты так и не скомпилировались; пытаясь исправить одну часть, нейросети ломали другую.

Это классическая ситуация, в которой оказываются команды со слишком большим техническим долгом. Тот самый легаси! Меня регулярно зовут делать аудиты и приводить такие системы в порядок, до боли знакомая картина.

В видео-анонсе Антропик пишет, что то, что заняло бы у команды людей месяцы, нейросети сделали за 2 недели. Абсолютно верно! Обычные команды разработки доходят до такого жуткого состояния легаси за годы разработки. С помощью нейросетей можно заспридранить этот процесс за 2 недели с минимальным участием людей! И стоит всего 20 тысяч долларов на API запросы!

То есть на выходе мы имеем полурабочее легаси без какого-либо пути к улучшению. Только если в обычном легаси у нас есть хотя бы углубленное понимание задачи, то в этом случае всё понимание задачи ограничивается тестами, которые они взяли на стороне как вводные для проекта. И попробуй ещё найти задачу, для которой существуют настолько же хорошие (восхитительные) тесты, как для компиляторов; человечество вложило в них человеко-годы!

Как говорил персонаж в сериале Чернобыль: «3.6 roentgen—not great, not terrible».

Гораздо важнее траектория развития способней моделей. 4-я модель «Опуса» еле-еле генерировала работоспособный компилятор. 4.5 первым прошел крупные тесты, но не мог скомпилировать реальные проекты. 4.6 вышедший на днях может компилировать реальные проекты. Что сможет следующая модель?

Исследование очень классное и тональность статьи идеальная — без лишнего хайпа. Рекомендую первоисточник.

Иллюстрация — тот самый вечный цикл, в котором крутились агенты.

57
пост №2088

Финальный эпизод 14 сезона подкаста «запуск завтра»! Говорим с Николаем Давыдовым об инвестициях в ИИ. Николай занимался ИИ ещё до того, как его стали так называть.

Достаточно ли добавить к названию проекта AI, чтобы получить инвестиции? Почему лучшая троица основателей стартапа — это индус, белорус и китаец? Какие для Николая есть красные флаги, а какой питч гарантирует интерес?

Разбираемся с профессионалом. А ещё это легкий и увлекательный разговор. Смотрите и слушайте:

https://youtu.be/0TQ2iuW20Ww

Так мы завершаем наш первый сезон в видео.

Аудио в подкасте можно собрать из супер коротких фрагментов речи. Буквально по словам, почти как в анекдоте «ты мне гамму спой, я дальше соберу». Хороший звукорежиссер сделает так, что монтаж будет практически незаметен.

В видео каждая склейка бросается в глаза, так что сложность производства в разы выше.

Горжусь командой подкаста: редакторами Машей Агличевой и Ритой Берденниковой, продюсерами Даней Астаповым и Ане Коваленко, монтажером Сергеем Христолюбовым. Спасибо Селектелу, который рискнул с нами вместе и оплатил этот банкет.

Спасибо вам, дорогие зрители и слушатели! Пожалуйста, пишите свои предложения в комментариях и приватно, можно через бота. Ещё мы подготовили традиционный опрос, там все структурировано и займет не больше 5 минут.

Ура!

58
59
пост №2067

Я люблю садиться в самолет по приставной лесенке, а не «по трубе». Потому что тогда я могу заглянуть прямо в турбину двигателя, рассмотреть лопасти.

Современный реактивный двигатель — настоящее произведение искусства, рукотворное чудо нашей цивилизации. Это как пройти мимо Мона-Лизы.

А потом сижу в кресле и чувствую, как эта махина толкает нас вперед с такой силой, что мы взлетаем.

Так вот, современные чипы внутри наших телефонов и компьютеров — похожее чудо. А уж то, что мы, человечество, умеем производить их за такую цену, что их может себе позволить почти каждый — это вообще уму непостижимо.

Разбираемся, как это устроено с идеальной гостьей — Дианой Гришиной! Диана — ученая, которая много лет работала в ASML — единственной в мире компании, которая делает станки для производства самых современных чипов.

Один из зрителей оставил вот такой комментарий: «В Вашем подкасте мне больше всего нравятся гости. Многое из того, что они рассказывают, я и так знаю. Но смотреть и слушать этих людей с горящими глазами, которые взахлеб рассказывают о том, что им интересно - это огромное удовольствие.»

Ради такого и работаем! Новый эпизод на всех платформах и на ютубе: https://youtu.be/yNAeKVG7rIQ

60
пост №2017

Да, нейросети упрощают разработку.

Нет, профессия программиста останется.

Для тех, кто боится за профессию: хайп Объектно Ориентированного Программирования, Сентябрь 1991.

Кстати, на фоне ассемблера и С — это реально был прорыв, радикально снизил порог входа в профессию и увеличил производительность. И мы стали разрабатывать в десятки раз больше софта. Ничего не напоминает? :)

Ну или нейросети так изменят всю интеллектуальную работу (и работу в целом), что проблемы с рынком разработки ПО будут меньшей из наших бед. Соль, спички, вот это все.