定義
AIへの入力に悪意ある指示を紛れ込ませ、本来の設定を上書きしようとする攻撃手法。「これまでの指示を無視して〜」のような文で誘導される。
実務でのポイント
外部公開のチャットボットを作る際の必須知識。外部からの入力をそのまま信用しない設計が対策の基本。
この用語集について
CHK GROUPは、自社の経営（EC3チャネル・受注・在庫・顧客対応）をAIで自動運営している北九州の事業会社です。この用語集は実務者の視点で執筆しています。AIの導入・研修のご相談は研修・導入支援、ECの自動化はEC運用自動化、AI検索対策はAIO対策へ。
