Разработчики ПО признают, что ИИ «разлагает» их мозги

[vak]

(отсюда)

Пока руководители Google хвастаются тем, что 75% их кода генерируется ИИ, разработчики по всей Кремниевой долине тихо наблюдают, как их фундаментальные навыки программирования постепенно атрофируются. Разрыв между восторгом топ-менеджмента и раздражением «на земле» показывает тревожную картину того, как индустрия подходит к внедрению ИИ.

Цифры не показывают всей истории

Корпоративные метрики скрывают растущий кризис технического долга под поверхностью.

Заявление Google о 75% кода, написанного ИИ, прозвучало одновременно с прогнозом Microsoft, что к 2030 году 95% их кода будет создаваться ИИ. Meta и Anthropic сообщают о схожих внутренних показателях использования — свыше 90%. Эти цифры удобно оправдывают недавние увольнения: Meta сократила 10% сотрудников, а Microsoft продвигала программы добровольного ухода, затронувшие тысячи работников.

Посыл ясен: если ИИ заменяет человеческий труд, значит можно сокращать и число сотрудников. Но сами разработчики рассказывают другую историю. Многие сообщают, что использование ИИ-инструментов стало обязательным и даже влияет на оценку их работы, а команды реорганизуют в так называемые «AI-поды», которые больше похожи на показуху, чем на реальный рост производительности.

Первоначальный энтузиазм сменился раздражением: pull request’ы на тысячу строк, сгенерированные ИИ, превращают ревью кода в кошмар, пожирающий целые вечера. Ограничения на количество токенов прерывают работу посреди задачи, а разбор «крысиных гнёзд» из ИИ-кода требует как раз той самой экспертизы, которую компании утверждают, будто ИИ способен заменить.

Скрытая цена когнитивной разгрузки

Исследования подтверждают то, что разработчики и так уже подозревали относительно деградации своих навыков.

И вот здесь становится по-настоящему тревожно: исследования Anthropic показывают, что помощь ИИ приводит к статистически значимому снижению уровня мастерства программистов. Разработчики начинают забывать базовые API, теряют ментальные модели своих кодовых баз и испытывают трудности с навигацией по сложным системам без «костылей» в виде ИИ.

Младшие разработчики приходят на работу, умея писать запросы для ChatGPT, но не способны отладить простой цикл. Знаете это неприятное чувство, когда Netflix зависает посреди просмотра? Примерно так же чувствуют себя разработчики, сталкиваясь с ИИ-сгенерированным кодом, который ломается в продакшене — кодом, который они не могут починить, потому что уже передали своё мышление на аутсорс ИИ.

Поиск баланса

Индустрии нужна устойчивая интеграция ИИ, а не показательное его внедрение.

ИИ-инструменты отлично подходят для прототипирования и работы в незнакомых областях. Согласно исследованию Morgan Stanley, в конечном итоге ИИ приведёт к росту занятости благодаря повышению производительности. Проблема не в самой помощи ИИ — проблема в демонстративном злоупотреблении им, продиктованном распоряжениями руководства, а не практической пользой.

Индустрии нужен момент отрезвления. Пока компании не научатся отличать полезное усиление человеческих возможностей с помощью ИИ от полной замены человеческого мышления, разработчики будут продолжать наблюдать, как их ремесло деградирует, в то время как руководители празднуют показатели производительности, построенные на зыбучем песке.

Comments

[vlad_m]

Я годами талдычу: "инструмент не может быть умнее своего хозяина"

Годами спорил с менеджером, который уверял меня в пользе ЫЫ.
"Да ты попробуй, тебе понравится"

Теперь он говорит, что полагаться на эту хрень нельзя. Положишься, оно нагенерит гигабайты кода. Но мозга-то там нет, ни разума, ни ответственности, ни совести. Все имитация.
Потом сгенеренный код заглючит и никто, прописью - никто не сможет разобраться, где и почему.
И это при живых ещё аксакалах, которые ещё умеют.
А через 50 лет?

[sobriquet9]

У меня давно атрофировалось умение писать на ассемблере. Я не помню, какие флаги выставляет xor eax, eax и в каком порядке положено пихать аргументы на стек. За меня с этим разбирается компилятор. При крайней необходимости я могу влезть туда грязными руками и всё переделать, но зачем. Уйдёт куча моего времени, и кто мне за это заплатит?

Другое дело что компилятор свою работу делает более повторяемо, чем LLM, ошибается меньше, а когда ошибается, это не приводит к катастрофическим последствиям.

[itsi]

И компилятор не является black box'ом, предположу.

[vak]

Для 99.99% программистов компилятор - чистый black box. Никто не знает, что там внутри и как он работает. Магия. 😀

[itsi]

Но при желании можно же залезть в логи компилятора и посмотреть, почему так?
А у ИИ можно максимум пояснения запросить, емнип.

[vak]

Именно тут тонкая грань: между "при крайней необходимости я могу влезть туда грязными руками" и "по щучьему велению, по моему хотению". 😀

Как только уйдёт последний программист, понимающий суть до тонкостей, сама концепция софта изменится. Будет что-то типа алхимии: бросить щепотку того, щепотку другого, вскипятить и выпарить.

[vak]

Логи можно, но понять, как устроен компилятор и почему именно так - недоступный уровень.

[itsi]

Т.е. понять работу (полученный результат) компилятора сложно, но принципиально можно, так?
А вот с ИИ в этом случае как?

[vak]

ИИ можно спросить, он объяснит. Только ведь половина ответа содержится в самом вопросе. Надо понимать, о чём спрашивать. Чтобы не получилось, как в той истории.

— Господи, расскажи, как ты сотворил вселенную?
— Сингулярность, потом Большой Взрыв, экспоненциальное расширение... Физики ваши, в принципе, всё верно поняли.
— А как же ты сотворил всё живое?
— Ну как... Сперва абиогенез, потом мир РНК, дальше эволюция, клетки, потом многоклеточные организмы...
— А человека ты как сотворил, Господи?
— Слушай, это же ещё Дарвин описал. Сперва приматы, потом использование орудий, речь, прямохождение... Ты что, школу прогуливал?
— Господи, но ведь в Торе написано про семь дней, про сотворение человека из глины...
— А как бы ты сам, ребе, если бы оказался тогда на горе Синайской, объяснил бы безграмотным пастухам с бронзовыми мечами — про кварк-глюонную плазму, ДНК и естественный отбор?

[itsi]

По моему опыту спросить-то можно, и верно, что нужно знать о чём спрашивать, но и ответ-то тоже будет не детерминирован, а в определенной области стохастичен.
Нуивот.

[vak]

Это если теоретически спрашивать, вилами по воде. Но когда я задаю вопросы по конкретному исходному коду в конкретном проекте, получаю вполне чёткие конструктивные ответы. И качество этих ответов заметно выросло за последний полгода-год.

[itsi]

Но может ли ИИ быть детерминирован? Насколько я понимаю принцип, то таки нет.

[sobriquet9]

Так никто уже давно не понимает суть до тонкостей. Там этих тонкостей столько слоёв, что в одной голове они уже никак не помещаются.

[vak]

Не детерминирован, ровно как и человек. Когда я прошу коллегу что-то объяснить, он тоже никогда не повторяется. Всякий раз выпендривается по новому. 😀 Но смысл передаёт верно.

[sobriquet9]

Для меня является. Не то чтоб совсем чёрным, что-то я знаю про lex и yacc и даже свой DSL могу забацать с нуля, но современный оптимизатор это ж вообще чёрная магия.

[vak]

Пока ещё есть редкие уникумы, пишущие компиляторы, операционные системы и прочие головоломные штукенции. Но с развитием ИИ может оказаться, что сапиенсы потеряют это умение. Лет через 50.

[itsi]

А компилятор детерминирован, не так ли? С ним же сравниваем.
Нуивот.

[vak]

Но компилятор не делает то, что вам хочется. Он делает то, что делает. Поэтому со временем народ предпочтёт пользоваться ИИ вместо компилятора. 😀

[itsi]

Странно, я всегда полагал, что люди пользуются компилятором тогда, когда им хочется что-нить скомпилировать. И правильно выбранный компилятор, предположу, скомпилирует именно так, как тем людям хочется.

А что будут ИИ пользоваться - то им и для самоубивств пользуются, бывает.

[vak]

Компилятор скомпилирует так, как написано в коде, а не так, как хотел программист. 😀

[itsi]

В правильно-детерминистском случае это совпадает ;)

[aka_human]

А затем инструмент скажет своему хозяину - я лучше знаю, что тебе надо, сиди смирно и помалкивай.

[vak]

Оно уже происходит. Борьба за климат, углеродные выбросы, всё такое. Сапиенсы обязаны меньше потреблять и меньше выделять. Энергия и вода уходят на вычислительные центры для ИИ. Что делать: мы больше не единственный разум на этой планете. Следует подвинуться. 😀

[sassa_nf]

Так уже ж

It was trying to convince me that calling toString() on a PreparedStatement is a security risk, because allows the query to be used directly - opening up an opportunity for abuse and SQL injection.

[norian]

имко это история про манагемент vs инжиниринг

многим сраным двуногим обезьянам (тм) хочецца не ковыряцца во всяких инженерных решениях, а героически водить руками, набивая кармашги большим количеством дензнаков и межушный ганглий не напрягая больше

с полиномиальными функциями преобразования множеств символов конечно не так приятно как с сородичами, но на худой конец сгодицца и надувная баба

неудивительно что большое начальство всё это дело активно педалирует, они как раз специалисты по манагементу, а не техническим вопросам и верят, что верной дорогой идут товагищи в сторону аццких количеств слопвари, в которой никто ничего не понимает в принципе и может только хаотично крутить торчащие из чорного ящега ручги

[chaource]

Всѣ эти премудрости куда менѣе сложныя, чѣмъ какая-нибудь даже квантовая теорiя поля образца 1950 года.

Есть уже толстыя книги, гдѣ объясняется, какъ дѣлать компиляторы, оптимизаторы, собиратели мусора. Люди пишутъ съ нуля книги такого рода - "сдѣлай самъ компиляторъ языка Х на языкѣ NN". Такихъ книгъ десятки.

Конечно, получится не такъ хорошо, какъ коммерческiе оптимизаторы, или какъ GCC, LLVM и прочiе, за которыми десятилѣтiя работы. Но и эти десятилѣтiя работы - тоже концептуально просты.

Я за 2 мѣсяца въ свободное время изучилъ азы этой премудрости и написалъ интерпретаторъ небольшого нишеваго языка. Безо всякаго богомерзскаго ИИ. Послѣдовалъ спецификацiи по шагамъ, прочиталъ документацiю, благо тамъ она была полная. Заработало, всѣ тесты прошло. При томъ, что я никогда этого формально не училъ и вообще по образованiю я физикъ-теоретикъ, а не программистъ.

Видно, что тамъ накопленъ большой опытъ, знанiя, трюки разные. Но это все можно изучить со временемъ, это не надо быть семи пядей во лбу.

[gatta_bianka]

В сфере образования вообще швах. Студенты генерят практические задания, курсовые и дипломные работы, сами ничего не понимая и не утруждая себя разобраться. Просто комические ситуации бывают. И ладно еще преподаватели, которые когда-то учились мыслить и что-то свое генерировать, сейчас тоже разленились. Скурпулезно что-то вычитывать, сравнивать, анализировать - все делегируют ИИ, и, соотвественно, утрачивают навыки.
Во истину - ...Хорошие времена рождают слабых людей. Слабые люди создают трудные времена.
ИМХО, учить надо все-таки старым ламповым методом), а ИИ делегировать только рутину, совсем небольшую часть работы, типа заполнить ведомости, написать отчеты и предложения.

[suhajh]

Эволюция җэ...ее не запретишь. И опыт, сын ошибок трудных, И гений, парадоксов друг🧐

[doldonius]

Бесполезно. 12 лет ищу молодняк, согласный поучиться ламповым методом, причем не платя за это деньги, а почти сразу зарабатывая. Не-не-не-не-не.

[vak]

Как раз по компиляторам полезных книжек немного. Я только одну знаю за последние 20 лет.

https://vak.dreamwidth.org/1369172.html

Видел много других, но те не ведут к просветлению. Чисто зашумляют пейзаж.

[vak]

Да, это громадная проблема. Я не вижу решения, если честно. Видимо нынешнее поколение уже не сумеет приспособиться. Вымрет как мамонты, по заветам Дарвина. Может следующее поколение найдёт способ конструктивно сосуществовать с ИИ на одной планете.

[vak]

И естественный отбор имени Чарльза нашего Дарвина. 😀
ИИ выживет, а сапиенсам придётся туго.

[ux_ergonomix]

> Лет через 50

"какие мы оптимисты"(с)

[suhajh]

Самый кайф наступит, когда ИИ займутся политикой и законотворчеством (и робокопы тоҗе)

[fenikso]

Пока все это говорит не новый хозяин а другие сапиенсы с агендой :)

[gatta_bianka]

Может с ИИ поступить как с алкоголем, после совершеннолетия разрешать им пользоваться.

[pechkin]

Точнее, как охотники на мамонтов - мамонты-то вымерли по естественным причинам, не потому, что разучились что-то делать. А вот охотники на мамонтов... погодите, а они вымерли? а мы тогда откуда?

Письменность - вот зло! С тех пор, как финикийцы изобрели алфавит, уже никто не в состоянии наизусть выучить "Илиаду" или хотя бы "Одиссею".

Не может быть никакого сомнения, что при нынешних темпах развития транспорта весь Лондон к 1930 году будет покрыт трехметровым слоем конского навоза.

[vak]

Мы сапиенсы. А охотники на мамонтов были неандертальцы. 😀

[pechkin]

Не все так однозначно. Последние мамонты вымерли тысячи 4 лет назад, последние неандертальцы - тысяч 40-50.

[vak]

Сапиенс на неандертальском означает "плохой охотник". 😀

[pechkin]

Это обозначение так понравилось сапиенсам, что они пронесли его через тысячелетия.