Искусственные помощники или демпингующие конкуренты?

· 5 min read

ai llm programming music opinion open-source

Also available in: ca en es

Многое из написанного ниже я уже озвучивал в разных дискуссиях; теперь решил собрать всё в одном месте, чтобы было куда давать ссылку при случае.

Мой пузырь разделился на две примерно равные половины: восторженные клоуны, использующие Claude в автономном режиме для штамповки никому не нужных «приложений» — и упрямые пессимисты, судящие о возможностях языковых моделей по состоянию на середину 2020 года. Первые обожают провозглашать: «Я больше не пишу код; я сосредоточен исключительно на творчестве, стратегии и архитектуре». Вторые каким-то образом отрицают очевидное и не доверят модели даже аккуратно разложить JSON.

Из-за пределов моего пузыря доносятся крики так называемых «художников», которые обвиняют модели в плагиате и оплакивают падение доходов из-за демпинга цен. Начну с них, потому что эта часть куда проще. Страх, что модели отнимут работу у настоящих профессионалов, смешон. Я активно использую генерацию — недавно даже попытался сделать видеоклип. За прошедший год все мои библиотеки получили аккуратные, красивые логотипы, понятную документацию и полный комплект сопроводительных текстов. Раньше я пытался нанимать профессиональных дизайнеров для логотипов к моим (подчеркну — открытым) библиотекам. Они хотят денег (что нормально, я готов был платить), но вдобавок — не хотят (или не могут) вникнуть в то, что конкретная библиотека на самом деле делает, и почему вырвиглазный жёлтый цвет или детский рисунок фломастером мне не подойдут. Я отношусь к категории клиентов, которые точно знают, что им нужно, но не обладают навыком воплотить это в цвете и форме. Мне плевать на «креативность» и глубокие метафорические аллюзии. Люди не будут часами разглядывать логотип библиотеки; это не Мона Лиза. Короче говоря, модель, выдающая внятное, узнаваемое изображение за три итерации, в триста раз надежнее и удобнее приходящей «творческой натуры».

У меня сложные отношения с музыкой: я не умею петь мелодию чисто, но всегда точно знаю, как она должна звучать. В конце концов, это мои стихи. И они мне достаточно дороги, чтобы не просить случайного знакомого забренчать три аккорда за пару сотен баксов «так, как он это видит». Я не уверен, что даже Макс Мартин устроил бы меня в этом контексте, но проверить это невозможно — Мартина я себе всё равно позволить не могу. Модель же сделает всё именно так, как нужно мне , и подчистит мой вокал в тех местах, где сорвавшийся голос пересилил моего внутреннего Коэна. И это по-прежнему будет мой голос.

Для стихов на английском (а до этого — для нескольких циклов на русском, написанных специально под женский вокал) мне посчастливилось найти живых людей, которые прониклись материалом и работали со мной — бесплатно и до тех пор, пока я не остался доволен результатом. Для важных, скажем так, для меня стихов на русском мне была дана возможность (костыль — если угодно — для хромающего псевдомузыканта) сделать всё самому, не выходя из комнаты и не совершая ошибок. Я пишу стихи больше тридцати пяти лет, но возможность записывать настоящие песни на эти тексты появилась только недавно. Я пользуюсь этой возможностью с глубокой благодарностью.

Здесь, разумеется, есть подвох: если бы я не знал точно, какого результата хочу добиться, использование моделей было бы совершенно бессмысленным. Нельзя открыть окно чата, сказать: «Напиши гениальное любовное стихотворение» — и ожидать хоть чего-то удобоваримого. Дописать упрямое четверостишие в существующем стихотворении (желательно на английском) — это вполне осуществимо, и если там и понадобятся правки, то минимальные. Оператору модели всё равно требуется чувство ритма и слух к языку — два качества, которые ассистенты на базе генеративных моделей не заменят никогда.

Стали бы все эти вокалисты и музыканты работать со мной на полуобщественных началах просто потому, что разделяют мои взгляды на open source и доступную музыку? Что ж, пока что я нашёл двоих музыкантов, которые по-настоящему совпали с моими стихами, и одного художника. Моя личная продуктивность превосходит то, что мир может предложить мне в качестве группы поддержки.


Теперь о программировании.

Обеим категориям людей, упомянутым в начале, я неизменно задаю один и тот же вопрос: «Покажи мне код». Либо код, который ты упоительно нагенерировал как «стратегический архитектор», либо код, который ты тоннами строчишь сам без всяких ассистентов. И почему-то ни один лагерь не способен предъявить хотя бы одну завалящую открытую библиотеку. Я давно говорю: если у разработчика нет открытого кода, он в лучшем случае крепкий мидл по любой шкале. Невозможно по-настоящему достичь уровня сеньора, не закоммитив гору кода в ядро языка, стандартную библиотеку или библиотеки коллег. Наглые дилетанты, знающие один язык в рамках одной парадигмы и требующие обращаться к ним «сеньор» — это самозванцы и новички; пускай идут лесом.

Модель неспособна решить хоть сколько-нибудь сложную задачу, требующую реального принятия решений. Так называемая «рассуждающая» (reasoning) модель — это просто генеративный брутфорс с прунингом (отсечением ветвей). Если хотите продуктивно использовать инструмент, читайте мануал (в данном случае разберитесь, что такое Reinforcement Learning и Chain of Thoughts на самом деле, почему у модели вообще нет «памяти» и быть не может, и что именно модель делает, пока «думает»). Так вот: если вы не умеете формулировать задачу так, чтобы в середине не было ни одной точки бифуркации (условного оператора), вы не сможете эффективно использовать модели. Хуже того: вы не сможете доверять результату. Умение ставить задачи подобным образом требует колоссального опыта как в написании кода, так и в — собственно — самой формулировке задач. «Сделай мне Uber, но лучше» работает только на этапе полировки UI. Бизнес-логика по-прежнему лежит на человеке, а если он сам не пишет код без устали, откуда ему вообще знать, как правильно ставить задачу?

Лично мне генеративные модели помогли стать значительно продуктивнее. Многие мои библиотеки за последний год никогда бы не увидели свет без ИИ-ассистентов, а стихи не превратились бы в песни, которые действительно вызывают у людей эмоции. У меня полно кода, который я могу показать без колебаний. Я также могу указать на музыкальные альбомы, за которые мне не стыдно.

Всё это стало возможным благодаря генеративным моделям, и за это я им глубоко признателен. В то же время я не могу удержаться от предупреждения: если вам требуется что-то кроме тупого исполнителя черновой работы, строго следующего вашей подробной спецификации, модель — это не то, что вы ищете.

Бессмысленно советоваться с моделью, проверять с ней гипотезы или просить её найти решение. Это не просто бесполезно; это строго опасно. Делегировать экспертизу предметной области ассистенту — чистейшее безумие (или саботаж). Доверять решение задачи модели — всё равно что списывать на экзамене: может прокатить, а может с треском взорваться в руках. Вот и все простые правила получения удовольствия от работы с тем, что столь мошеннически окрестили «искусственным интеллектом».