ガードレール

ガードレールとは、AIが意図しない発言をしたり、危険な操作を行ったりしないよう、あらかじめ設けておく制約・安全対策のことです。道路の脱輪防止用ガードレールと同じ発想で、AIの挙動が想定の範囲から外れそうになったときに、それを防いだり気づけるようにしたりする仕組み全般を指します。

具体的なガードレールの例としては、特定の話題については回答しないようにする制約、出力内容を送信前にチェックするフィルター、AIエージェントが実行できる操作の範囲を限定する権限設定などが挙げられます。特にAIエージェントやAIコーディングエージェントのように、AI自身が能動的に操作を行う仕組みでは、「何を勝手にやってよいか」の線引きが安全性に直結します。

個人開発でAIを組み込んだサービスを作る場合も、ユーザーからの入力を悪用してAIに不適切な出力をさせようとする試み（プロンプトインジェクションなどと呼ばれます）に備え、最低限のガードレールを設けておくことが望まれます。ガードレールは「AIを信用しないための仕組み」ではなく、「AIを安心して活用し続けるための仕組み」と捉えると導入の意義がつかみやすくなります。

AIコーディングエージェントに、ファイルの削除や外部への送信など影響の大きい操作を行う前に必ず確認を求める設定を入れておく、といった運用がガードレールの実践例です。

• AIエージェント
• 評価（Evals）
• レッドチーミング
• AIリテラシー

• 生成AIリテラシー：安全に使うための基礎知識

Q1. 「ガードレール」とは何ですか？
AIが意図しない出力や危険な操作をしないよう、あらかじめ設けておく制約や安全策のことです。

Q2. 「ガードレール」はどんな場面で使われますか？
AIコーディングエージェントに、ファイルの削除や外部への送信など影響の大きい操作を行う前に必ず確認を求める設定を入れておく、といった運用がガードレールの実践例です。

Q3. 「ガードレール」と関連する用語は何ですか？
関連する用語として「AIエージェント」・「評価（Evals）」があります。あわせて確認すると理解が深まります。