Очень красивая статья про то, куда движется программирование в целом! (и как следствие, предсказание, получится ли достичь RSI и сверхинтеллекта)

Одним абзацем для опытных техдиров: разработка больших систем — это моделирование реальности, важна когерентность моделей между собой, наша главная задача — управление сложностью. Нейросети хорошо оптимизируют замкнутые задачи с быстрыми петлями обратной связи и бессмысленны, когда нужно дожидаться ответа из реального мира, а большинство настоящего софта — второго типа. Примененяя модели для изменения больших систем, мы прямо сейчас идем в ловушку, из которой потом будем мучительно выбираться.

❧

Автор умудрился объяснить суть разработки больших систем на пальцах, так что перескажу некоторые тезисы. Рекомендую почитать первоисточник.

❧

IT-системы моделируют реальный мир. В хороших программах, разные модели говорят на одном языке, автор называет это когерентностью системы. В плохих — каждая отдельная модель корректна, но они несовместимы между собой и из-за этого для каждого изменения приходится кучу всего переделывать.

Вообще, софт постоянно нужно менять из-за меняющихся требований. Поэтому, скорость и стоимость внесения изменений — это один ключевых параметров качества софта.

Обычно, с добавлением фичей, с ростом системы, её качество падает. Чем ниже когерентность — тем больше сил нужно тратить на поддержание работоспособности и тем ниже скорость доставки новых бизнес-фич. Автор предполагает, что есть переломная точка, после которой скорость доставки фичей уходит в ноль.

Все, кто работал с легаси большими системами, знают эту ловушку.

В статье очень красивая иллюстрация кода как графа и гениальная анимация того, как если с каждой фичей уделять достаточно сил на улучшение системы, то со временем она становится всё более стройной, а если чуть-чуть оставлять мусора — как уже через 100 коммитов всё превращается в клубок спагетти.

Автор очень красиво и понятно описывает задачу изменения работающих систем через замену водопровода в старом здании, перестройки парусника в линкор на плаву и корабль Тезея. Я обычно теми же словами объясняю бизнесу, что если мы возьмем супер умных чуваков и дадим им бесконечно времени — то они наверняка придумают способ, как пересобрать двигатель самолета во время полета. Но зачем?

То, что водопровод переусложнен — видно даже не-технарю. С софтом всё сложнее, мы бродим по лабиринтам кода и не можем объяснить сложность людям, которые сами в них не терялись.

Нейросети хорошо оптимизируют модели изолированных, замкнутых задач, типа шахмат или го, где небольшой набор правил описывает всю вселенную и можно запустить «быструю петлю обратной связи» и плохи в оптимизации моделей, которые для проверки требуют обращения в реальный мир с его задержками.

Большинство задач, для которых мы пишем софт — второго типа.

Автор делает вывод, что нейросети плохо поддерживают и тем более наводят порядок в больших системах. И как следствие — вряд ли смогут поддерживать своё собственное развитие, тот самый рекурсивный сверхинтеллект, взрывным ростом которого нас пугают.

Заканчивается статья тем, что весь современный важный опенсорс — это во многом пример того, как люди десятилетиями поддерживали внутреннюю гармонию (когерентность) крупных систем. И что хорошо бы не разломать всё это за пару месяцев с помощью ИИ.

Даже если не согласен с выводами автора, можно поучиться качеству концептуализации мира. Красиво!