Глава GitHub бьёт тревогу: ИИ-код может быть опасен, но это не повод отказываться от него!

Руководитель GitHub Томас Домке в своём блоге отметил, что передовые разработчики ПО постепенно переходят от написания кода к созданию архитектуры и проверке решений, которые реализуют агенты искусственного интеллекта. Он напомнил, что уже высказывал такую позицию ранее, а в марте согласился с оценкой главы Anthropic Дарио Амодеи, согласно которой в ближайшем будущем ИИ будет создавать до 90-100 % программного кода.

Домке рассказал о результатах общения с 22 специалистами, применяющими инструменты искусственного интеллекта. Он выделил четыре стадии их адаптации к новому формату работы: "скептик", "исследователь", "соавтор" и "стратег". На последнем этапе разработчики полностью передают задачу написания кода ИИ, а сами сосредотачиваются на уточнении запросов и проверке готовых решений.

При этом он подчеркнул важность навыка анализа результатов работы ИИ. По его словам, специалисту всё равно необходимо разбираться в базовых принципах программирования, алгоритмах и структурах данных, чтобы уметь самостоятельно проверять и дорабатывать полученный код. В будущем, по его мнению, обучение в сфере информатики будет ориентировано не на прямое программирование, а на понимание архитектуры систем, отладку кода, созданного ИИ, и умение чётко формулировать идеи для людей и машин. Ключевыми станут этапы абстракции, декомпозиции и спецификации.

Однако не все разделяют его оптимизм. Исследования показывают, что использование ИИ может снижать качество программного кода. Существуют и другие риски: формулирование вредоносных запросов для генерации опасного ПО, утечка конфиденциальной информации, интеграция устаревших или уязвимых библиотек, а также целенаправленное ухудшение работы модели, в том числе на стадии её обучения. Кроме того, для подготовки будущих ИИ-систем требуется сохранять достаточный объём данных, созданных людьми, иначе ответы моделей будут однообразными и менее точными.

По мнению Домке, это не повод отказываться от программирования с помощью ИИ, но и чрезмерная спешка здесь может оказаться вредной.