AIの下書きをそのまま送ってしまった、という事故は珍しくありません。防ぐには、禁止事項を増やすより、止まる場所を先に決めておくほうが効果的です。本記事では、Zapier が整理した人の承認パターンと、Learn Prompting が挙げるモデルの限界をもとに、ガードレールの敷き方を5つのステップに整理します。
ガードレールは3か所に引く
線を引く場所は、入力、出力、操作の3か所です。入力では入れてはいけない情報を制限し、出力では事実と表現を確認し、操作では取り消せない実行の前に人を挟みます。この3か所を決めずに「AIは危ない」と一律で止めると、現場が回避策を探し始めます。
手順1：対象の業務を1つに絞る
問い合わせ返信、社内文書の検索、データの更新など、AIを使っている業務を1つ選びます。複数を同時に設計すると、線が曖昧になります。
手順2：入れてはいけない情報を列挙する
顧客の連絡先、契約情報、未公開の計画など、貼り付けてはいけない情報を書き出します。判断に迷うものは「入れない」側に倒してください。ツールごとに使ってよい範囲が違うため、一覧はツール名とセットで残します。
手順3：出力の確認項目を5つに絞る
事実、数値と単位、表現、引用の有無、個人情報の5観点で、何を見るかを一行ずつ書きます。項目を増やすと確認そのものが飛ばされます。確認した証拠を1行残す運用にすると、抜けが減ります。
手順4：取り消せない操作の前に承認を置く
Zapier の解説では、人の承認を入れる形として、承認待ちで止める、確信度が低いものだけ人に回す、範囲外のものを担当部署へ渡す、修正のフィードバックを集める、記録だけ残す、という5つのパターンが紹介されています。すべてを導入する必要はありません。まずは取り消せない操作の前に承認を1つ置いてください。
| パターン | 向く場面 |
|---|---|
| 承認待ちで止める | 送信・公開など、戻せない操作の前 |
| 確信度で振り分ける | 分類や仕分けのように、迷いが数値で出る作業 |
| 範囲外を回す | 金額や条件に上限がある手続き |
| 修正を集める | 文章の下書きなど、直し方に傾向がある作業 |
| 記録だけ残す | 参照系の作業で、止める必要がない場合 |
手順5：1週間記録して線を引き直す
止まった件数と理由を毎日1行残し、週末に見直します。止まりすぎている箇所は条件を緩め、すり抜けている箇所は締めます。この調整を続けることで、現場が納得する線になります。
よくあるつまずき
禁止語のリストだけを作って安心してしまう例が多く見られます。リストは出力側の一部にすぎず、入力の制限や操作の承認が抜けていると事故は防げません。また、Learn Prompting が挙げるように、もっともらしい誤りやバイアスはモデル側の性質として残ります。設定で消えるものではないという前提で設計してください。用語はガードレールとHuman-in-the-Loopの項目にまとめています。
よくある質問（FAQ）
Q. 少人数のチームでも運用できますか？
A. できます。対象を1業務に絞り、取り消せない操作の前だけ承認を置けば始められます。承認の手段はチャットのメンションでも構いません。
Q. どこまで自動化してよいですか？
A. 自分たちの範囲で戻せるかどうかで分けてください。下書きや要約は自動で流し、送信・削除・公開は人を挟むのが基本です。
Q. 承認が多くて業務が止まります
A. 承認を置く操作を、取り消せないものだけに絞ってください。記録が溜まったら、条件を満たすものは自動で通す形に変えていきます。
設計の前提になる指示の書き方は、チュートリアル「はじめての LLM 活用」で練習できます。確認の工程を最初から組み込むのがコツです。
あわせて使いたいツール
本記事の手順を実際に回すときに、候補になるツールを挙げます。いずれも無料から試せる範囲があり、料金や機能は各サービスの公式情報で確認してください。
編集部の見解
ガードレールは、AIを止めるための仕組みではなく、安心して任せる範囲を広げるための仕組みです。当編集部では、止まった記録を週次で見直す時間を先に予定に入れています。見直す場が決まっていないと、線は片側に寄ったままになります。
my-best.ai 編集部
出典：Zapier「Human-in-the-loop in AI workflows」／Learn Prompting「LLM Limitations」（いずれも要約して紹介しています）
最新のAI情報をメールで受け取る
新着のAIツール比較・ランキング・ニュースを、まとめてお届けします。
ご登録後、確認メールをお送りします。配信停止はいつでも可能です。