AIに全部任せるな。
「最後の一手前」まで積ませろ

AIができることと、任せてよいことは違う

AIに長時間作業させるとき、最初に考えがちなのは「どこまで自動でやれるか」である。

問い合わせ先を探す。応募条件を確認する。購入候補を比較する。投稿文を作る。規約を読む。ここまではAIに向いている。

しかし、問い合わせを送る、応募ボタンを押す、購入を確定する、契約に同意する、SNSに投稿する、個人情報を入力する。この領域に入った瞬間、AIの作業はただの補助ではなく、現実世界への実行になる。

実行には責任がある。相手がいる。規約がある。お金が動く。履歴が残る。取り消しにくい操作もある。

だから、AI自走を設計するときは、「どこまで自動化できるか」ではなく、「どこから先は人間が握るか」を先に決めた方がよい。

最後のボタンを押すより、判断材料を整える方が価値が高い

AIエージェントの強さは、最後の実行ボタンを押すことではない。

むしろ価値が高いのは、その手前にある大量の準備作業である。候補を集め、条件を比較し、規約の危ない文言を抜き出し、利益や工数を計算し、優先順位をつけ、送信文面を下書きする。

このあたりは、人間がやると地味に重い。時間がかかる。途中で飽きる。見落とす。判断基準がぶれる。あとから、なぜそれを選んだのか分からなくなる。

一方で、AIはこの種の作業が得意である。大量の情報を読み、同じ基準で並べ、表にして、人間が見れば判断できる形にする。

この段階なら、AIが多少間違えても人間が確認できる。まだ外部に送っていない。まだお金も動いていない。まだ契約も成立していない。

「最終確定前」で必ず止める

AI自走を安全に使うには、停止ラインを決める必要がある。

停止ラインとは、AIがそこに到達したら、必ず人間確認に切り替える境界である。

「必要なら確認して」では弱い。停止ラインに到達したら実行せず、承認待ちに記録する。ここまで明文化しておくと、AIは自由に動きながらも、危険な確定操作を越えにくくなる。

承認が必要なら、止まるのではなく積む

長時間AIを動かすと、必ず承認が必要な場面にぶつかる。ログインが必要。送信が必要。購入確定が必要。投稿が必要。本人確認が必要。

このとき、AIがその場で止まってしまうと、自走の意味が薄くなる。

大事なのは、承認待ちになった案件を記録して、別の作業へ移ることである。

承認待ちリストには、URL、作業内容、必要な判断、リスク、推奨案を残す。その案件は保留にし、まだ承認不要で進められる別タスクへ移る。

人間が戻ってきたときには、送るもの、捨てるもの、修正するもの、追加調査するものをまとめて判断できる。

危ないAI自走と、使えるAI自走

AI自走は、指示の出し方で危険にもなるし、実務の武器にもなる。

実務では、次の順番で設計すると使いやすい

AIに任せてよい作業、承認が必要な作業

この考え方を使うときに起きやすい疑問