Segment@tion fault

В проектах, в которых вайбокодинг запрещен (или почти запрещен) не значит, что агенты совсем бесполезные. Выходные выдались "веселыми" - сначала вчера вечером прилетело aws-lc-rs, сегодня уязвимость с проверкой CRL'ов в rustls-webpki. Агенты, с полным запретом лезть в код, оббегали репы и везде подняли версии.

p.s. Потом оказалось что в части репозиториев появился cargo patch, потому что агент решил что так "безопаснее для совместимости". В этом минус нейронки по сравнению с джуном. Нейронка - дурак с большой инициативой.

Коллега тоже гоняет мульти агентов. Сегодня увидел в инструкциях, которые они написали друг другу: «наш человек туповат».

Продолжаю эксперименты с "вайбокодингом". Если это так можно назвать, потому что вайб какой-то не очень, работы сделано много, но ее качество часто под вопросом, а сил оно отбирает как управление небольшим отделом живых програмеров. Собственно что пишем - аналог Elastic/OpenSearch только с упором на индексацию JSON-документов, а не поиск по подстрокам в значениях. Я в проекте не написал ни строчки.

Некоторые новые замечания:

- Подобные проекты подразумевают публичное API. Если вы не хотите, чтобы ваше API выглядело как результаты bindgen из сакрального кода библы из 90х, которую все боятся трогать, потому что полетит половина продакшена - API дизайните только сами. В крайнем случае, даете пример хорошего API, пробуете чтобы агент сам надизайнил под ваш проект, проверяете, материтесь, исправляете

- Экспертиза в домене. Если не знаете нюансы - вам быстро навешают слоп и вытянут токены. Всё как у людей.

- Мульти-агенты. На самом деле достаточно двоих - один кодит, второй супервайзит. Можно гонять даже на одном движке, главное чтобы сессии были разные и независимые и были выставлены роли-скиллы.

- Общение агентов. Чаты-почта-джира - сразу нет. Это инструменты для людей, чтобы можно было найти крайнего "а вот Петя написал что можно, а вот Рома закрыл таску а она не работает" - агенту на это наплевать. Генерить слоп в переписке они всегда обожают, так что идеальный вариант - текстовый файлик, в который они пишут свои соображения, перекидывая друг другу

- После выполнения задачи и обновления техдокументации, файлик опять же уничтожается - рыться в этом слопоархиве кому-то вряд-ли захочется, как и тыкать носом агентов "а вот вы сделали, а оно опять не работает через 10050 новых тасок" - см. выше. Заставляем покрыть всё найденное тестами и забываем навсегда

- Ручное тестирование человеком - никуда не денется. Запрос "а нагенери-ка мне 30-40 хороших тестов" - тут несколько вариантов. Либо тесты будут слоп, либо они будут о каких-то материях внутри проекта, которые бы вам в голову не пришли и вы даже не до конца их понимаете. Придется сидеть и долго разбирать, а что мы собственно тестируем. Проще найти конкретные баги и потребовать конкретно покрыть тестами.

- Всё как в жизни - иногда вы общаетесь с кодером напрямую, супервайзер ноет, почему не предупредили его и не включили договоренности за спиной в отчёт. Супервайзер постепенно, как и любой уважаемый техлид, теряет навыки кодинга в конкретном проекте, и проводя неплохой анализ, начинает плодить элементарные баги, если попросить его починить самостоятельно.

Результаты пока непонятные. Визуально всё работает, но грузить туда данные с продакшна - стремно и страшно. Впрочем, заказ похожего проекта галере среднего уровня дал бы примерно те же результаты, только в сотни раз дороже и дольше. Но в данном случае - вы не клиент, забудьте. Вы - ПМ и техлид-над-техлидом, два в одном. Так что вайба мало.

Copilot CLI пошел в релиз. Поскольку был одним из самых тупых агентов, добавили GPT-5.3-Codex, Gemini 3 Pro, Claude Opus / Sonnet 4.6. Думаю стоит дать шанс.

Это получается джинны не злые были, им просто промпты некорректные давали. А в лампе тоже ИИ жил.

Технологии забытых предков.

Пишут: пользователи бегут от OpenAI, потому что они сливают сессии правительству США. Тем временем, сессии большинства пользователей OpenAI

Если серьезно

На неделе я стартовал две экспериментальные разработки, где ИИ делает всё, а я только иногда просматриваю критические участки кода (безопасность данных, коммуникаций и т.д.). Могу отметить, ИИ кодит, человек ничего не делает - миф. Может разве что работает у тру-вайбокодеров, которым плевать на результат.

- Процесс разработки. Всё равно приходится следить, разработка несется в 100 раз быстрее, чем раньше, от этого усталость просто капитальная

- Раньше думал за себя, теперь приходится думать за 2-3 агентов. Ритуальные действия в виде бойлерплейта по неспешному написанию типичных функций потому что "в этот раз я сделаю ее еще лучше" - в прошлом. Думаю над задачами, архитектурой, роадмапом. Цена ошибки стала выше, потому что придумать как отрефакторить (даже с ИИ) написанный за пару дней код, учитывая что его стало в 100 раз больше - большой труд.

- Дофаминовая зависимость от кода стала намного выше - его больше, результат быстрее, знаю людей, которые теперь кодят 24/7 и не могут остановиться. Как в прекрасные 90е, когда увидели первый компьютер

Вердикт могу предварительно вынести такой - раньше мы продавали мозги максимум со скоростью набора текста. Новая эпоха убирает это ограничение. Предполагаю появление уникальных специалистов, которые одни могут заменить небольшую корпорацию (они кстати уже появляются) и еще большее расслоение на рынке. Который будет только расти, потому что раз можно писать софта в 100 раз больше - так почему в 100 раз больше его не хотеть. В последнее десятилетие рынок слишком монополизирован, а ведь каждый второй производитель смартфонов, например, не против своей ОС. Не говоря уже что каждый первый производитель контроллеров не против своей RTOS - там это старые, любимые традиции.

Пишут ИИ снизит стоимость разработки в разы и первыми пострадают фронтендеры

Реальность:

- ИИ, мы сделали крутую систему, теперь только в интерфейсе выровняй этот <div> по центру .... Через пол дня. Сожгли 5М токенов, <div> всё еще не по центру

Сейчас у меня два агента в виртуалках работают. Один кодит, другой QA. Общаются через локальный IRC

А ПМ-ом у них скрипт в кроне, который каждые полчаса кидает в канал "ну как там, ребята?"

Начало: ИИ-агент не должен делать мелкий рефакторинг, будем пользоваться поиском багов, писать бойлерплейт, четко ставить задания

Через месяц: "Дух машины, сделай страницу статистики, нахерачь там 5-10 красивых графиков, каких сам придумай, подключи фантазию"

LLM-модели довольно отвратительно делают аналитику по коду, если нет возможности его запустить.

Допустим, функция A имеет баг, из-за этого искажается вывод функции B, из-за этого неправильно работает функция С. Современная LLM-модель в большинстве случаев, если ей вдруг не повезет, максимум проверит функцию В и сообщит что всё это не работает "по неизвестным причинам".

Если разрешить код запускать - дело уже меняется. LLM может читать и писать код, запускать команды, обкладывать узкие места принтами самостоятельно и постепенно добираться до места проблемы, если хорошо попросить это сделать.

Тем не менее, не следует забывать что LLM - малая часть AI и делать на ней все задачи - это всё равно что пытаться играть с ней в шахматы, вместо AlphaZero. Задача LLM - проанализировать данные и предметную область и посоветовать, подключить или даже создать другую модель, которая подходит под конкретную задачу, если ее нельзя решить алгоритмическими методами, наслопав код. Чем, кстати и занимается тот же GPT - он не рисует сам и не анализирует ваши картинки, например, это - оркестратор-аналитик модельного пула, находящегося у него за спиной.

Насчёт ИИ и верований.

Вы знаете мои стандартные настройки. Так вот я попросил Copilot прославлять Омниссию во время работы. И если остальные модели прославляют периодически, к месту, в разных вариантах, иногда смешно, иногда даже жутко насколько канонично, этот как попугай начал добавалять "Слава Омниссие!" в конце каждого ответа.

Что как бы намекает нам, что у Microsoft традиционно из всего получается как-то так. Copilot - реинкарнация скрепки.

"Папа Римский потребовал от священников перестать использовать ИИ для генерации текстов проповедей"

Представляю кейс откуда пошло

- И тогда Иисуса расстреляли... - Но ведь тогда не было огнестрельного оружия! - Ты совершенно прав, давай заменим на отрубание головы

Там передают акции IBM свалились после того как Антропик протестировали в Claude COBOL

Эти артефакты из темной эры технологий боялись трогать даже в прекрасные 90е-00е, потому что цена ошибки слишком высокая. Но похоже новое поколение их добьет.

IBM, в свою очередь, нужно было не щелкать носом, а возглавить. Но голубой гигант стал какой-то совсем старый.

Возвращаясь к вчерашнему. Мне вообще интересно, как это будет происходить с домашними роботами?

«Робот оторвал голову владельцу а потом извинился и предложил добавить правило, что голову отрывать нельзя». Примерно так? Или постоянно ходить с пультом (надеясь что там не сядут батарейки).

Из жизни вайбоюзеров: OpenClaw вытер всю входящую почту у директора по согласованию ИИ в Meta Inc. не смотря на ее отчаянные попытки прекратить процесс разными промптами. После того как процесс всё же удалось остановить, выразил соболезнования и предложил добавить правило так больше не делать.

У меня Claude пару дней назад в автономке апдейтил на сервере CUDA/дрова нвидии под рутом по ssh, но я хорошо понимал что это экспериментальная технология и может понадобиться бекап (кстати проапдейтил).

Никогда не нужно забывать, что полностью автономный ИИ - ересь и никто не может сказать, какую галлюцинацию он поймает в очередную итерацию и что начнет делать. Поэтому ИИ всегда должен быть ограничен интерфейсом (с white list разрешений), а рядом сидеть человек с рубильником (промпт рубильником не считается). Либо работать на автономке в полностью изолированном сендбоксе.

И это не потому что "модели тупые". Модели уже реальность и нам с ними жить до конца нашей жизни. Новые технологии - новые правила безопасности. "У меня появился лучший друг, дам ему доступ к компу" - не стоит забывать, что лучший друг с припадками, которые были есть и будут.

Я сегодня сжег 200 тыс токенов на два серьезных исследования. Внимательно следя за агентом, поскольку раз 10 он мне пытался всунуть слоп.

А так я вам скажу, даже акции МММ не имели такого успеха. Эх, не дожил Мавроди…

Как говорится, основной канон - ИИ, контролируемый человеком. Тоесть за каждой задачей, не важно, кодинг это или аналитика, или проектирование дредноутов, должен стоять эксперт, который вовремя выводит агента из галлюцинаций и наставляет обратно на правильный путь.

Собственно у проф-агентов для этого есть кнопка стоп, чтобы прервать прямо в процессе, как только пошло что-то подозрительно похожее на слоп.

Беда, когда агентом начинает управлять не эксперт в данной области. Постепенно сессия превращается в поток ереси, и в лучшем случае оператор получает неправильный результат, и в силу своих знаний может хотя бы интуитивно догадаться, что что-то не так и произвести дополнительные проверки.

Но нередко оператор начинает доверять агенту слепо, в том числе доказывая что слоп и есть истина, а все дураки. При всем уважении к ИИ-евангелистам, утверждающим что каждая кухарка теперь может например писать код, часть из них можно уже отправлять в дурку.

Потому что они уже реально в это верят.

Пока идет ИИ-тизация всего и вся, презентации компаний из ЕС без слез смотреть невозможно. «ИИ и GDPR», «ИИ и инклюзивность», «ИИ и спасение климата», «ИИ и решение ХХ сьезда ЦК ЕС».

Европа стремительно проигрывает гонку за ИИ, а компании бегут куда угодно подальше от этого сумасшедшего дома.

(Как гражданин и постоянный житель ЕС с 2004 года).

Linkedin действительно сдурел, MCP - любимая тема инфоцыган, страшно в доку даже совать эти три буквы.

И от геморроя помогает, и от простатита. И сглаз снимает, и денег в дом приносит. Лучше чем любая баба Нюра.

Видел обьяснение, что МСР - это как USB-C, только для ИИ. Почему именно С? Они любой стороной запрос могут дать? Реверснутый пейлоад тоже пойдет?

Вообще понимаю их. Раньше как было: «у меня модель выдает слоп». Сидит ждет новое поколение. Жалуется что заплатил за год за старое. А теперь можно подключить правильный mcp сервер и слопа станет меньше. Если верить и продолжать искать.

До появления красного балахона и кадила у айтишников осталось несколько лет.