バイアス

バイアスとは、AIモデルの出力が、特定の属性や見方に偏って現れてしまう現象のことです。AIは学習データに含まれるパターンを学び取る仕組みであるため、学習データ自体に偏りがあれば、その偏りがそのままAIの出力にも反映されてしまいます。「AIは中立である」という思い込みは、この点で誤解を招きやすいポイントです。

バイアスは、性別・年齢・国籍といった属性に関する偏った表現として現れることもあれば、特定の意見や立場に偏った回答として現れることもあります。学習データを集める過程で、特定の情報源やある時期の情報に偏りが生じやすいことも、バイアスが生まれる一因とされています。

バイアスを完全になくすことは難しいとされていますが、出力を鵜呑みにせず確認する、重要な判断にAIの出力をそのまま使わない、複数の視点で内容をチェックする、といった運用上の工夫でリスクを抑えることができます。AIを採用や与信審査など人に影響する判断に使う場面では、バイアスへの配慮は特に重要になります。

特定の職業を説明する際に、AIが無意識に特定の性別を連想させる表現を使ってしまう、といった例がバイアスの典型的な現れ方です。

• 学習データ
• AIリテラシー
• 評価（Evals）
• レッドチーミング

• 生成AIリテラシー：安全に使うための基礎知識