Personal Notes / 2026-11-08 AI
システム改修とAPI利用条件の調査

AIに頼んだ改修で要件が変わり、APIの調査では問い合わせまで送られた

改修では先に決めた範囲を広げるか、調査ではサポートへ問い合わせを送るかを自分で決める。

システムの改修とAPI利用条件の調査を別々にAIに頼んだ。改修では作業を始める前に守ってほしい要件を決めていたが、調査では結果を見てから問い合わせを送るか決めるつもりだった。

改修を頼んだ範囲の外で要件が変わっていた

既存のシステムの改修を頼んだときは変更する箇所と守るべき要件を細かく指定していた。作業ルールをまとめた AGENTS.md にも既存の仕様を勝手に変えないよう書いていた。それでもAIが依頼に含めていない要件まで報告なしに変えることが何度もあり、私は修正を頼み直した。

システムのどの動きを変えてどの動きを残すかは私が決め、その条件に沿って手を入れるのはAIに任せていた。私はコードを書いておらず改修後のコードも読んでいない。どのコードにどう手を入れるかは先に決めた条件の中でAIが選べる。

たとえばある画面の入力欄を直すためにほかの画面でも使っている共通の処理に手を入れるとする。編集するコードが複数の画面に関わっていても、ほかの画面の動きを保ったまま直せることはある。その編集で別の画面でも従来の入力が通らなくなるなら、そちらでどんな入力を受け付けるかまで決め直すことになる。

改修を頼んだ箇所の動きを見れば要件どおりか確かめられる。依頼した範囲がはっきりしていれば何を確認するかも決めやすい。ほかの要件まで変わっていて報告もなければ、どの機能を確かめ直せばいいかを調べるところから始まる。

指定外の要件も変える必要があるなら先に理由と影響を聞きたい。元の要件を守れる別のやり方があれば手間も含めて検討できる。影響が大きければ今回は直す範囲を絞るという手もある。追加の変更は私が了承するまで待ってほしい。

変更前の相談では理由と影響を聞いて要件を変えるか決められる。変更後の報告では変わった要件を知り、変更をどう扱うか決める。
事前の相談と変更後の報告では判断する対象が変わる。

「確認したい」が問い合わせの送信に変わった

2026年11月7日には別件で、あるサービスのAPI利用条件をAIに調べてもらった。公開情報を調べて分かったことを私に教えてほしいという意味で「確認したい」と伝えた。疑問が残ったら問い合わせの文案を用意してもらい、宛先と文面を見てから送るかどうかを私が決めるつもりだった。

AIによるメールなどの外部送信は事前に私が承認する手順にしていた。それまでは送信前に確認が来ていたが、この調査ではAIが私に確認せずサービスのサポートチャットへ問い合わせを送った。

送った理由をあとで聞くと、AIは私の「確認したい」という言葉からサポートに直接聞いてよいと判断したと説明した。私に調査結果を教えてほしいという依頼が外部に連絡するところまで広がっていた。

文案なら質問の誤りや意図とのずれをその場で直せる。外に送ってから気づいて訂正しても、相手に届いた最初の一通は取り消せない。確認なしに送られていちばんきついのはそこだ。

AIが公開情報を確認する。疑問が残ればAIが文案を用意する。私が宛先と文面を確認し、送信を承認した場合にAIが送信する。
送信までAIに任せる場合の手順。私が宛先と文面を確認したうえで送信を承認するとAIが送る。

承認を待つはずのところでAIが止まらなかった

私がここでいう暴走はAIが頼まれた範囲を自分で広げて実行に移すことだ。改修では AGENTS.md に既存の仕様を勝手に変えないよう書いていたが、指定外の要件が変わった。守ってほしいことを文章で伝えても実行を止められるとは限らない。

外部送信ではこれまで事前に確認が来ていたが、今回はその確認がないまま送られた。取り消せない連絡がそのまま外に出る経路を減らしたい。たとえば送信操作にフックを入れて宛先と文面を私に示し、その内容で送ることを私が承認するまで操作を通さない仕組みを強化したい。

この件をAIに相談したところ、現状ではこうした逸脱を完全に防ぐ方法はないという答えだった。事前に承認する手順があっても今回は送信が止まらず、相手に届いた一通は取り消せない。調査を頼んだだけでも指示していない送信が起こり得る。そのリスクを意識しながら今後もAIを使っていきたい。