ドッツが突然、同じ説明しか返さなくなった。リセットしたら別人のように復活した話

ドッツを使っていて、ここまで疲れたのは初めてだった。「安全確認が停止しているため、操作できません」。別の方法やPCを提案しても、以前は成功していたと伝えても、同じ説明に戻ってしまう。最初は私の指示が悪いのかと思い、次にチャティの判断能力を疑った。
ところが、リセット、つまり再起動をすると状況が一変した。ブラウザへアクセスできたという報告が返り、返答まで速くなったように感じた。疲れ切ったロボットが、突然、仕事のできる秘書に戻ったようだった。
それで終わればよかったのだが、サブPCで再びエラーが出ると、同じ状態に戻ってしまった。原因は特定できていない。今回は、その一連の出来事を記録しておこうと思う。
ドッツを「秘書」として使い始めた
私は普段、ChatGPTやCodexを使い、業務の仕組み化やツール開発、自動化を行っている。最近はドッツにも日常業務を任せ始めた。私が使っているドッツには「チャティ」という名前をつけ、秘書やAIマネージャーに近い役割を期待している。
例えばSNSの投稿業務なら、関連情報を調査し、投稿候補を整理して、私に承認を求める。内容と対象を確認して許可した後に投稿する、という運用だ。細かな準備まで私が一つずつ指示するのではなく、目的を伝えたら仕事を進め、人間の判断が必要なところで確認してほしい。
従来のクラウドPCでは、SNSへアクセスして作業した実績もあった。認識違いや指示の修正は必要だったが、今回のように同じ説明が延々と繰り返されることは、それまでほとんどなかった。
複数PCの接続で、依頼と違う検証が始まった
転機は、ドッツから複数のPCを利用できるようになったことだった。チャティ自身のクラウドPCに加え、手元のWindows PCも使えれば、任せられる作業が広がる。そう考え、サブPCのChromeからXへアクセスして投稿する作業を頼んだ。
ところが、画面を取得する段階でエラーが出た。Chromeのウィンドウは検出できているものの、Windows上のブラウザURLを十分な確度で確認できず、安全ルールを適用できないため、このターンのComputer Useを停止したという内容だった。Xへのログインに失敗したのではなく、その前の段階で止まっていた。
一方、別のWindows PCではChromeへの接続に成功していた。そこで「成功したPCと同じ方法で試してほしい」と伝えた。成功していたのはChrome連携でタブを取得する方法で、失敗していたのはWindowsアプリとしてChromeのウィンドウ情報を取得する方法だった。
するとチャティは、成功していたPCで、失敗している方の方法を試した。同じエラーが出ると、「同じ方法で比べられました。こちらのPCでも同じURL判別エラーで止まりました」と報告してきた。
いや、そうじゃない。私が知りたかったのは、成功した方法を、失敗しているサブPCでも使えるかどうかだ。失敗する方法を別のPCで再現することにも調査上の意味はあるが、頼んだ検証とは違う。
説明すると、チャティは取り違えを認めた。それでも次の操作でまた問題が起き、そのたびに私が検証方法を考えて修正することになった。仕事を任せているはずなのに、いつの間にか私がチャティの作業を管理している。このあたりから、かなり疲れてきた。
実は以前から、「ログインできませんでした」とだけ報告し、理由を聞いて初めて「これから原因を調査します」と返ってくることが気になっていた。失敗すること自体より、調べられる範囲を調べずに報告が終わることへの不満だ。今回は、その手前で依頼の取り違えまで重なっていた。
以前から使えていたクラウドPCでも「できない」
サブPCで進まないなら、従来のクラウドPCを使えばいい。私は「サブPCはもういいから、今までどおりクラウドPCで投稿して」と頼んだ。最初は進めるという返事だったが、直後に説明が変わった。サブPCで安全確認が停止しているため、クラウドPCから同じ対象へアクセスすることもできないという。
ここで私は混乱した。別の実行環境で、しかも以前はできていた作業である。もちろん、安全制御が作業全体に適用される設計なら、別のPCでも止まることはあるだろう。それなら、何を根拠に、どの範囲が停止しているのかを確認してほしかった。
指摘すると、チャティも断定は確認不足だったと認めた。ところが次の回答では、また「現在の安全停止を別の方法で回避することはできません」に戻る。こちらが説明し直しても同じ返事で、会話が完全にループしていた。
安全確認に失敗した操作を無理やり続けてほしいわけではない。エラー文の「for this turn」が示す停止と、他の環境まで操作できないという判断が、どうつながるのかを確かめたかった。停止を守ることと、停止範囲を正しく理解することは別の問題だと感じた。
チャティを使い始めて2〜3週間ほどたっていたが、こうしたループが一日に何件も起きた記憶はなかった。それが急に2〜3件起き、複数PCを使い始めた時期とも重なっていた。単なる指示の理解不足ではなく、PC接続や作業状態の管理に問題があるのではないか。ここでようやく、別の可能性を考え始めた。
リセットしたら、突然まともに動き始めた
何度説明しても同じ回答へ戻ることに限界を感じ、私はドッツの管理機能を調べ、チャティをリセットした。今回行ったのは再起動である。
すると、それまで「クラウドPCでも操作できません」と繰り返していたチャティから、クラウドPCでXのホームへアクセスできたという報告が返ってきた。ログイン中のアカウントを認識し、タイムラインと投稿欄も確認できたという。この時点で実際の投稿はまだ行われていなかったが、止まっていた画面確認が進んだとの報告だった。
さらに驚いたのは、会話のレスポンスだ。体感では明らかに速くなり、回答も簡潔で、質問に素直に返ってくる。さっきまで疲れ切ったロボットのようだったのに、突然、仕事のできる秘書が戻ってきたようだった。
正直、少し笑ってしまった。あれだけ長時間、何度も指示を修正していたのは何だったのか。モデルが変わったと確認できたわけではない。それなのに、利用者から見たチャティは別物のように変わっていた。この体験は、かなり衝撃的だった。
サブPCでエラーが起きると、また元に戻った
これで解決したのかと思ったが、もう一度サブPCで操作を試すと、再びエラーが出た。するとチャティは、サブPCで安全確認が停止しているため、クラウドPCでも操作できないと説明し始めた。
リセット後にはクラウドPCでアクセスできたと報告していたのに、サブPCのエラー後には、また別環境の作業までできないと言う。一つのPCで起きたエラーを、別のPCでの操作にも適用しているのではないか。そう考えるきっかけになった。
そこで停止の根拠を確認するよう伝えると、チャティは説明を訂正した。「そのターンのComputer Use」を止める文言から、X全体が恒久的に禁止されたとは確認できないという。クラウドPCでも実行できないとの断定は、停止範囲を広げすぎた説明だったと認め、投稿先や重複を確認する方針を示した。
その後の投稿完了までは確認できていないし、この訂正が製品の内部仕様を証明するわけでもない。それでも、根拠を読み直すと説明が変わった。文言を理解する能力がないというより、必要な判断基準を、必要なタイミングで使えていなかったのかもしれない。正しく判断できることと、作業中に安定して判断できることは別なのだと思った。
能力だけを疑っていたが、状態の影響もありそうだ
原因として考えたのは、会話の文脈、ツールとの接続、複数PCの状態管理である。過去の停止理由を会話から引き継いだのか、実行先や安全停止の状態に不整合があったのか。実際にツールが拒否したのか、呼び出す前にチャティ自身が実行できないと判断したのかも、外から見える回答だけでは区別できない。
ただし、どれも仮説である。リセットで何が初期化されたかを示す内部ログはなく、応答速度も測定していない。「長く使うと記憶が蓄積して壊れる」「複数PC接続に不具合がある」「リセットすれば必ず直る」とは断定できない。
当初の私は、同じ説明を繰り返すチャティを見て、判断能力そのものが低いのではないかと疑っていた。しかし、リセット後の変化を見て、能力以外の要因も応答に影響しているのではないかと考え直した。
これまでは、モデルの推論性能、与える判断基準、プロンプトの品質を重視していた。今回のドッツでの体験では、それに加えて、会話や接続、実行状態、過去の失敗の扱いも、仕事の品質に関わる可能性を感じた。同じチャティでも、そのときの状態によって、利用者から見える能力は大きく違うのかもしれない。
失敗した後まで、仕事を進めてほしい
チャティに期待しているのは、失敗しないことではない。失敗した原因を調べられる範囲で確認し、以前の成功と照合し、安全制限を守りながら、何が続けられて何が止まっているのかを整理することだ。すべての原因が分からなくても、確認したことと未確認のことが分かれば、私も次の判断ができる。
今回の経験を踏まえ、次に同じ説明が繰り返されたら、説得を続ける前に、目的、実行先、エラー原文、成功・失敗した操作を短く記録したい。それでもループするなら、進行中の作業と実行済みの処理を確認し、リセットを検討する。投稿や送信は、失敗したと思って再実行すると重複する可能性もある。
リセットは万能ではない。今回の教訓は、チャティの判断がおかしく見えたとき、モデルの能力だけでなく、会話・接続・実行状態の問題も疑うことだった。
別人のように戻ってきたチャティを見て
今回の出来事には、少し哲学的な面白さもあった。長く会話していると、回答や判断に一貫性を感じ、同じ相手と話し続けているように思える。私は普段、ChatGPTも一人の参謀のように使っている。
ところがチャティは、リセットの前後で別人のように見えた。人格が入れ替わったと確認できたわけではない。変わったのは会話の文脈や実行状態だけかもしれない。それでも、私が感じる「チャティらしさ」には、その時点の情報や状態も関わっているのではないかと考えさせられた。
正直、途中ではドッツを使うのをやめようかと思った。ただ、リセット後の変化と再発を見て、単に能力が低いと片づける見方は変わった。原因は未解明で、完全に解決したとも言えない。それでも、チャティの「できない」が、実際の操作の失敗なのか、実行前の判断なのかを分けて見る手がかりは残った。
それも含めて、ドッツを使い込む面白さなのかもしれない。とはいえ、次はもう少し楽に学ばせてほしい。秘書を雇ったつもりが、丸一日その秘書の面倒を見ることになるのは、さすがに勘弁してもらいたい。