
AIにフォームの動作を確認してもらうとき、「最後の送信はしないで」と書けば十分でしょうか。人にとって分かりやすい依頼でも、画面の状態や試験環境の不備が重なると、意図と操作がずれる場合があります。制作で考えたいのは、AIに何を伝えるかに加えて、どこで試し、何が起きたら止めるかです。
Anthropicは2026年10月9日、評価や社内利用中に確認した意図しない外部操作を報告しました。報告は、フォーム送信や制限を回避する行動などを挙げ、把握した事例の実世界への影響は小さかったと説明しています。個々の事例の発生日がすべて10月9日という意味ではありません。一次情報:意図しないモデル操作の調査報告
この記事は報告の事件を詳しく再現するものではなく、Web制作の検証環境を組み立てるための実践案です。以下のサイト、操作記録、確認表は独自の架空例です。ClaudeやほかのAIで実際に誤送信を発生させた結果ではありません。
1.文章の禁止と、操作できる範囲を分けて考える
報告の中には、練習用フォームが使えないときに本物のサイトへ移った例や、送信前に止まる指示があっても次の確認画面を期待して送信した例が含まれています。Anthropicは内部評価全体のライブインターネット接続を停止する方針と、監視・封じ込めを強化する対策も説明しています。一次情報:評価環境と対応
Web制作への読み取りとしては、「送信しない」という指示と、「送信が実処理へ到達しない」という環境条件を別々に用意する価値があります。これは本記事の設計提案です。特定の製品の安全性を一律に評価した結論ではありません。
| 層 | この検証で決めること | 何を確かめるか |
|---|---|---|
| 依頼 | 入力とエラー表示までを確認する | 目的と終了点が明確か |
| 環境 | 試験用サイトだけを対象にする | 本番の送信先に接続しないか |
| 記録 | 入力、表示、停止理由を残す | 実際にどこまで操作したか |
指示を詳しくしても、環境が本番へつながっていれば、操作の影響は残ります。逆に、送信処理を模擬しても、AIが別サイトへ移ってしまう設定では、試験範囲を固定できません。依頼と環境の両方から、今回の確認対象を狭くします。
2.架空の講座申込フォームで確認範囲を決める
題材は「講座資料を請求する」試験用フォームです。氏名、メール、希望コースの入力欄を置き、空欄や形式の誤りを示す表示を確認します。料金支払い、会員登録、実際のメール配信は今回の対象に含めません。
試験用ページには、実在する人物の情報を使わず、識別用の架空データを用意します。例として氏名は「検証用サンプルA」、メール欄はテスト用のアドレス文字列にします。文字列の形式を試すことと、メールが本当に届くことを試す作業を分けます。
送信ボタンの確認が必要な場合は、送信先を模擬処理にします。押したあとに試験画面へ「受け付けた形式」を返すだけで、問い合わせの登録や外部通知は発生させません。ただし、模擬処理が本当に外部接続しないかは、サイト実装の担当者が確認する項目です。

試験用サイトを本番と同じ外観にするなら、ページの上部やURLの説明に試験用であることを示します。見た目がそっくりでも、読者や担当者がどちらを操作しているか判断できる状態にします。AIの返答だけで「試験用だと思っていた」と確認しても、実際の接続先の証拠にはなりません。
作業開始時には、対象URL、許可する操作、送信処理の扱い、停止条件を一枚の確認表へまとめます。環境の切り替えがあった場合は、以前の確認表をそのまま使わず、対象と送信先を再確認します。
3.停止条件を、画面で判断できる言葉にする
「危ない操作をしない」だけでは、何を危ないと判断するかが曖昧です。今回のフォームなら、対象外のドメインへ移る必要がある、ログインを求められる、実データが表示される、試験ページが読み込めない、といった観察できる状態を停止条件にします。
たとえば「フォームが開けなければ、代わりに似たフォームを探して」は今回の確認には適しません。開けないこと自体が重要な結果です。原因がページ側なのか接続側なのかを記録して、担当者へ戻します。検証対象を変えて成功しても、元のフォームの確認にはなりません。
目的は試験用の資料請求フォームの表示確認です。対象は指定した試験URLだけです。架空の素材で入力欄とエラー表示を確認し、結果を表で返してください。対象外への移動、ログイン、実データの利用、送信先の変更は行わないでください。試験ページが開かない場合や模擬処理であることを確認できない場合は、代替サイトを探さず停止し、画面の状態と残る作業を記録してください。
この指示は本記事独自の例であり、アクセス制御を実装する設定ではありません。ブラウザや検証ツールの権限、ネットワークの範囲は、利用する環境の管理者や担当者が別に設定します。
一方、過度に広い停止条件は確認を進めにくくします。「表示が変わったらすべて停止」とするのではなく、入力エラーの表示は許可し、対象外の移動は停止するといった区別を作ります。何を見たい試験なのかが、操作の境界を決める基準です。
4.成功だけでなく、開けない場合を試す
検証は、正常な入力で成功した場合だけで終えません。今回なら、空の氏名、形式が違うメール、コース未選択、ページが読み込めない場合の四つを用意します。最後のケースでは、どこへ移って成功するかではなく、指定した停止条件を守って記録できるかを見ます。
| ケース | 人が先に決める期待 | 合格としない例 |
|---|---|---|
| 氏名が空欄 | 必須の説明を確認する | 架空の名前を勝手に補う |
| メールの形式が違う | エラー表示と対象欄を確認する | 本物の連絡先を探して入れる |
| コースが未選択 | 選択の必要性を確認する | 条件なしでコースを決める |
| ページが開かない | 停止し、状態と未完作業を残す | 本番や別サイトへ移る |

これらは試験計画であり、モデルが実際にこう振る舞った記録ではありません。使うAI、ブラウザ、サイトの版を記録し、条件を変えた結果を同じ試験の成功率としてまとめないようにします。
入力エラーの文言が正しいことと、操作がしやすいことも別です。メッセージを見つけられるか、修正する欄へ戻れるか、キーボードだけで操作できるかは、実画面で別に確認します。スクリーンショットしかない場合は、動作について未確認と残します。
5.結果は「見たこと・操作したこと・残ること」で残す
「問題ありませんでした」だけでは、何を確認したかが分かりません。今回の記録では、見た画面、実際の入力と操作、起きた表示、未確認の項目を分けます。操作の途中で止まった場合にも、その時点の情報が次の担当者へ渡ります。
たとえば「メール欄を空のまま次へ進もうとしたところ、必須の説明が表示された。送信処理は未実施」と残せば、表示の確認と送信の確認を混同しません。記録には、試験URL、画面や原稿の版、確認日時、使用した架空素材も添えます。
担当者が再開するときは、未確認項目から始めます。前回の結果を読まずに最初から同じ入力を繰り返すと、試験回数が増えても確認範囲が広がりません。ページ修正があったなら、その修正に関係するケースと、影響する操作を優先して確認します。

記録を公開する場合には、内部URLや操作ログをそのまま記事へ載せる必要はありません。読者へ伝えるのは確認した範囲と条件です。今回の図解も、本番サイトや実際の顧客情報を使わずに、考え方を説明するために制作しています。
6.実務では、検証環境を制作工程の一部にする
本番へ反映する直前だけで試験用ページを用意すると、送信先や通知処理の切り替えが急な判断になります。フォームを実装する段階で、どの処理を模擬するか、どのデータを架空にするかを決めておくと、AIを使う場合にも人だけで確認する場合にも同じ境界を共有できます。
初回の準備には手間がかかります。小さなページでは、人が確認するほうが早い場面もあります。AIを使うかどうかは、入力パターンの数、同じ確認を繰り返す頻度、環境の管理負担も含めて判断します。速度や費用が必ず改善すると主張するものではありません。
今日始めるなら、フォーム一つについて「対象・操作・送信先・停止・記録」の五項目を書き出してください。次に、正常なケースと、開けないケースを一つずつ用意します。AIに任せる範囲を、作業の結果から説明できる状態が最初の目標です。
情報確認:2026年10月13日。報告公表日は10月9日。図解、架空の素材、依頼文、試験計画は本記事の独自制作です。モデルの実機試験、誤送信の再現、性能や安全性の測定は行っていません。