AIエージェントが急に止まる時、モデルより先に指示の重なりを疑いたい

AI活用

※この記事は、2026年9月時点のOpenAI公式資料と、自分のAI運用を照らし合わせて考えたメモです。GPT-6 Astraを長期間使い込んだ比較記事ではありません。機能や挙動は今後変わる可能性があります。

先日、GPT-6 Astraの使い方を解説する動画を見ていました。

そこで気になったのが、Astraは曖昧な指示や、複数の場所にある指示の矛盾へ敏感だという話です。

最初は、性能が上がった新しいモデルにも、また新しい癖があるのかと思いました。

ただ、OpenAIの公式ガイドを確認すると、少し見え方が変わりました。

公式ガイドにも、スキルファイル内の不明確な指示や競合する指示によって、モデルが早い段階で停止する場合があると書かれています。

さらに、Astraには指示を正しく解釈できていない可能性を検知した時、会話を一時停止または終了する安全確認も追加されています。

ここまで読むと、単純に「新しいモデルは止まりやすい」と考えるだけでは足りません。

自分の環境では、AIへ毎回長い説明をしていません。

「INBOXを整理して」

「今日のネタ出しをお願い」

「UP版にして」

だいたい、このくらいの短い言葉で頼んでいます。

短い依頼でも動けるのは、入口ファイルやスキル、作業ごとのルールを先に用意しているからです。

便利になった一方で、考えておかないといけないことも出てきました。

AIが止まった原因は、モデルの性能ではなく、自分が積み重ねた指示同士の衝突かもしれない。

今回は、その可能性を一度整理しておきます。

「AIが止まった」を一つの問題にしない

AIエージェントが途中で止まると、つい同じ問題に見えます。

しかし、実際には少なくとも三つに分けた方がよさそうです。

一つ目は、権限確認です。

ファイルを変更する。外部サイトへ接続する。プロジェクト外へ書き込む。

こうした操作を進めてよいか、人間へ確認を返している状態です。

二つ目は、安全確認による停止です。

OpenAIの説明では、Astraが指示を正しく解釈していない可能性や、機密データへのアクセス、破壊的な変更などが疑われる場合、会話が一時停止または終了することがあります。

これは、単に権限が足りない状態とは違います。

三つ目は、指示の衝突です。

あるルールには「最後まで進める」と書いてある。別のルールには「候補を出したところで止める」と書いてある。

現在の依頼では公開用ファイルを作ってほしい。しかし、定期処理の手順には記事本文を作らないと書いてある。

それぞれの指示だけを見れば、間違っていないこともあります。

問題は、複数の指示が同じ作業へ同時にかかった時です。

AIが止まるたびに「もっと自動で進めて」と書き足しても、原因が指示の衝突なら直りません。むしろ、さらに別の指示を重ねることになります。

短い依頼で動くほど、裏側のルールは増えていく

自分は、Obsidianの整理やブログ運用をスキル中心で回しています。

毎回ゼロから説明するのではなく、普段の作業をルールとして残しておき、AIには短い言葉で入口だけ渡す形です。

たとえば、ブログのUP版なら、本文を整えるだけでは終わりません。

  • WordPressへ貼れるHTMLを作る
  • 見出しを正しい形式にする
  • 関連記事へ実在するURLを付ける
  • タグの末尾へ半角カンマを付ける
  • メタディスクリプションと抜粋を用意する
  • 公開してよい情報だけにする

こうした条件を毎回手で書かなくてよいのは、かなり楽です。

ただ、作業中に問題が出るたび、ルールを追加してきました。

関連記事のURLが壊れたから、推測URLは禁止する。

Markdownの見出しが本文へ残ったから、WordPress用HTMLを作る。

公開前に止めたい処理があったから、人間確認を追加する。

一つずつは必要な改善です。

しかし、追加したルールが増えるほど、どの場面でどれを優先するのかが分かりにくくなります。

古いルールが、今の運用では役目を終えている可能性もあります。

以前の記事では、失敗した内容をスキルへ戻すと書きました。

この考え方は今も変わりません。

ただし、戻し続けるだけではなく、増えたルールを時々減らす工程も必要になってきたように思います。

賢いモデルほど、古い指示を無視してくれるとは限らない

新しいモデルへ変えれば、多少あいまいなルールでもうまく処理してくれる。

以前は、どこかでそう期待していました。

しかし、指示を丁寧に読むモデルほど、古いルールも現在のルールも両方守ろうとする可能性があります。

人間なら、「これは前の運用だから、今は使わない」と空気で判断することがあります。

AIには、その区別が文章として渡されていなければ分かりません。

入口ファイル。ワークスペース全体のルール。作業別のスキル。今回だけの依頼。ツール側の権限設定。

それぞれに少しずつ違う停止条件があれば、AIはどれを採用するか考えなければいけません。

つまり、モデルが賢くなったことで作業が止まったように見えても、実際には、これまで曖昧なまま通っていた自分の運用ルールが表面化しただけかもしれません。

これはモデルの不具合というより、指示の負債に近い気がします。

止まった時は、指示を足す前に停止理由を記録したい

次に同じことが起きた時は、すぐ対処文を追加するのではなく、まず停止理由を残したいと思っています。

確認したいのは、次の項目です。

  1. どの作業で止まったか
  2. どんなメッセージが出たか
  3. 権限確認、安全確認、指示衝突のどれに近いか
  4. AIはどの入口ファイルやスキルを読んだか
  5. 停止につながった可能性がある指示はどこにあるか
  6. 現在の依頼では、どの指示を優先すべきだったか
  7. 新しいルールを足さず、古いルールの対象範囲を狭められないか

大事なのは、「AIが止まったから自動承認を増やす」のように、一つの対策で全部を直そうとしないことです。

権限で止まったなら、許可する操作範囲を見直す。

安全確認で止まったなら、表示された理由と直前の操作を確認する。

指示が衝突したなら、どちらの指示を残すのか決める。

原因が違えば、直す場所も違います。

「もっと任せる」と「テストしすぎない」も同じ問題かもしれない

OpenAIのAstra向けガイドには、委任とテストについても案内があります。

Astraは、利用者が期待するほどサブエージェントへ委任しない場合があるため、どの場面で並列化するかを明示する。

一方、コーディング作業では丁寧にテストする傾向があり、小さな変更に対して必要以上に広いテストを行う場合があるため、変更の危険度に合わせて検証範囲を調整する。

一見すると、別々の話に見えます。

しかし、自分の運用へ戻すと、どちらも「どこまで任せるかが曖昧」という問題に見えます。

並列化してよい作業が書かれていなければ、AIは一人で抱えるかもしれません。

必要なテスト範囲が書かれていなければ、念のため確認を増やすかもしれません。

だから、単に「積極的に動いて」と書くのではなく、

  • 並列化してよい作業
  • 一人で続ける作業
  • 必須の確認
  • 変更に応じて省略できる確認
  • 人間へ戻す条件

を分けた方がよさそうです。

積極性だけを強めると、止まらなくなる代わりに作業を広げすぎる可能性があります。

慎重さだけを強めると、今度は確認が増えすぎます。

必要なのは性格づけではなく、作業範囲の設計なのだと思います。

まず一つの小さな作業で再現できるか試す

ここまで書きましたが、自分はまだAstraで指示監査を十分に試したわけではありません。

現時点では、公式ガイドと今の運用を見比べて、次に確認したいことを整理した段階です。

いきなり全スキルを書き換えるつもりもありません。

まずは、何度か停止した小さな作業を一つ選ぶ。

同じ依頼を使い、読み込んだ指示と停止理由を記録する。

競合しているルールが見つかれば、一方を削除するのではなく、適用する場面を狭める。

その後、同じ作業でもう一度試す。

これで停止が減ったのか。逆に、必要な確認まで抜けていないか。

そこまで見てから、他のスキルへ広げたいと思っています。

まとめ

AIエージェントが途中で止まると、モデルの癖や権限設定を疑いたくなります。

もちろん、本当に安全確認や権限不足で止まることもあります。

ただ、入口ファイルやスキルを使い、短い依頼で多くの作業を動かすようになるほど、もう一つ疑う場所が増えました。

自分が積み重ねた指示同士が、同じ作業の中でぶつかっていないか。

失敗をスキルへ戻すことは大事です。

その次は、追加したルールを棚卸しし、古いものの対象範囲を狭める。

AIが止まったら、さらに強い指示を足す前に、どの指示を読んで、なぜ止まったのかを残す。

モデルが変わるたびにプロンプトを継ぎ足すより、今ある指示の重なりを点検する。

AIエージェントを安定して動かすには、その方が効く場面も増えてきそうです。

参考情報

関連記事

コメント

タイトルとURLをコピーしました