Почему AI-ассистенты для программирования требуют постоянной проверки

AI-инструменты для программирования неплохо справляются с рутиной: генерируют тесты, предлагают альтернативные реализации, помогают разбирать старый код. Но, как пишет Towards AI, главная проблема таких систем связана не с умением писать код, а с тем, насколько слабо они понимают контекст, в котором этот код существует.

Автор описывает знакомую многим ситуацию. Ассистент предлагает аккуратный и логичный diff, всё выглядит убедительно. Потом начинается внимательная проверка, и выясняется, что пропала защитная проверка, изменился уровень контроля прав доступа или исчез фрагмент, который закрывал редкий сценарий. Ошибка здесь выглядит не как явный сбой или галлюцинация, а скорее как «разумное решение» при неполном описании задачи.

В статье также говорится, что ранние ожидания от AI coding оказались завышенными. Предполагалось, что агенты смогут сами читать задачи, менять репозиторий, запускать тесты и открывать pull request, а инженеру останется только всё проверить. На практике модели уверенно работают с небольшими и чистыми примерами, но заметно хуже чувствуют себя в реальных кодовых базах. Там важны история изменений, старые инциденты, бизнес-ограничения и временные обходные решения.

Отдельно автор обращает внимание на спорные или неидеальные участки кода. Часто они появились не случайно, а после проблемного релиза, миграции или из-за требований клиента. AI-ассистент нередко воспринимает такие фрагменты как технический долг и пытается их упростить. Вместе с этим могут исчезнуть скрытая бизнес-логика или защита от редких ошибок.