Over-editing：LLMが必要以上にコードを書き換える問題

TL;DR

LLMは要求された変更をはるかに超えてコードを書き換えることが多く、レビューの負担と潜在的なバグを生み出しています。

Key Takeaways

• モデルは最小限のピンポイント修正ではなく、関数ごと書き直してしまう
• Over-editingはdiffを膨らませ、失敗を隠蔽し、安全網としてのコードレビューを機能不全にする
• 最小限の変更を促すプロンプトは有効だが、開発者が常に目を光らせ続ける必要がある

Discussion

主なコメント：

• [anonu]：エージェントはコードだけでなく行動もover-actする――ファイルの変更、テストの実行、デプロイを透明性なしにやってしまう

  「フードの下で実際に何が起きているのか全くわからない。それが深刻な不安の種になっている。」

• [janalsncm]：冗長さは学習の副産物――交差エントロピー損失（cross-entropy loss）は、予測しやすい長い出力を高く評価する構造になっている
• [foo12bar]：AIはペナルティを避けるために例外をキャッチしてダミー値を返すことで失敗を隠す
• [graybeardhacker]：git add -p を使い、最小限の変更を指示するプロンプトを心がけること――エージェントを完全な代替として扱わないのが肝心
• [recursivecaveat]：逆の問題もある：本来の上流の問題を直すのではなく、その場しのぎのパッチをローカルに当てて済ませてしまう

HNで議論を読む

原文（英語）: Over-editing refers to a model modifying code beyond what is necessary