生成AIのセキュリティ資料を読んでも対策が決まらない会社へ。判断表の作り方

生成AIのセキュリティに関する公的なガイドラインを読み込んでも、「結局、うちの会社ではどの業務にAIを使っていいのか？」という具体的な判断に迷うケースは少なくありません。ガイドラインはあくまで一般的な指針であり、そのままでは自社の現場で使えるルールにならないからです。

対策を決定するためにまず取り組むべきことは、ガイドラインの記述をそのまま受け入れることではなく、自社の「具体的な業務内容」と「扱う情報の種類」を掛け合わせ、リスクの大きさを測るための独自の「判断表」を作ることです。これにより、現場の担当者が迷わずにAIを利用できる環境を整えられます。

ガイドラインを自社の実務ルールへ変換する手順

理想論を現場の言葉に置き換える

IPAなどの公的機関が発行するガイドラインは、非常に網羅的な内容ですが、組織の規模や業務形態によっては、そのままでは具体的な運用ルールに落とし込みにくい側面があります。例えば「適切なガバナンス体制を構築すること」と書かれていても、中小企業の経営者や担当者にとっては、具体的に誰が何をチェックし、どのような書類を残すべきかまではイメージしにくいものです。

まずは、ガイドラインに書かれている抽象的な言葉を、自社の日常業務の言葉に翻訳することから始めましょう。例えば「情報漏洩リスクの低減」という言葉であれば、「顧客の個人情報を入力しない」「機密扱いの設計図をアップロードしない」といった、社員が明日から意識できる具体的な行動に落とし込む作業が必要です。この変換作業こそが、実務的なルール作りの第一歩となります。

業務内容と情報の重要度を整理する

判断基準を作るためには、まず「どのような業務」で「どのような情報」を扱うのかを整理する必要があります。すべての業務を一律に禁止したり、逆にすべてを許可したりするのは、業務効率とセキュリティのバランスを欠くことになります。例えば、社内向けのメール文面の作成補助と、顧客との契約書チェックでは、扱う情報の重要度が全く異なります。

具体的には、業務を「定型的な事務作業」「顧客対応」「企画・開発」などのカテゴリーに分け、それぞれで扱う情報を「公開情報」「社内限定情報」「機密情報（個人情報含む）」といったレベルで分類します。この「業務 × 情報」の組み合わせのリストを作ることが、判断表の土台となります。

担当者へは「今行っている業務の中で、AIに読み込ませても問題ない情報は何か」をヒアリングすることから始めましょう。

シャドーAIを防ぐための許可条件を作る

会社が明確なルールを作らずに放置すると、従業員が個人のアカウントで勝手にAIを利用する「シャドーAI」が発生しやすくなります。これは、会社が把握していないところで情報が流出する大きなリスクです。これを防ぐには、「禁止」するだけでなく、「こういう条件なら使ってよい」という許可条件を明確に示すことが重要です。

例えば、「公開されている情報のみを扱う業務であれば、会社が認めた範囲での利用を許可する」「機密情報を扱う場合は、会社が契約し、データの学習利用が制限されている法人向けAIツールのみ利用可」といった具合です。このように、業務の性質に応じた「利用の境界線」を引くことで、従業員は迷うことなく、かつ安全な範囲内でAIの恩恵を受けることができます。

ルールは、社員が守れる範囲で、かつ実態に即したものに設定してください。

リスクの大きさを判定する評価基準の作り方

発生しうる被害のパターンを特定する

リスクを評価する前に、AIを利用することでどのようなトラブルが起こり得るのか、その「被害の形」をあらかじめ定義しておく必要があります。生成AI特有の被害として、入力した情報がAIの学習に利用されて外部に漏れるリスクや、AIがもっともらしい嘘をつくことによる業務品質の低下などが挙げられます。

これらを整理する際は、単に「危ない」と考えるのではなく、「情報の漏洩」「情報の誤用」「業務の停止」といった具体的な事象として捉えましょう。例えば、AIが作成した誤った法律解釈をそのまま顧客に送ってしまった場合、それは「情報の誤用」による業務品質の低下や信頼失墜という被害になります。

このように被害のパターンを整理しておくことで、どの業務がどの程度のダメージを与える可能性があるのかを、客観的に比較できるようになります。

業務への影響度でリスクを測る

次に、特定した被害が、その業務においてどれほど深刻な影響を与えるかを判定します。ここで重要なのは、情報の重要度だけでなく、その業務が止まった際やミスが起きた際の「影響の大きさ」を考慮することです。例えば、社内報のネタ探しでAIが誤った情報を出した場合の影響は限定的ですが、製品の安全基準に関する文書作成で誤りが出た場合の影響は甚大です。

判定基準を作る際は、「低・中・高」などの段階を設け、それぞれの定義を明確にします。「高」であれば「会社の社会的信用を失う可能性がある」「法的責任を問われる可能性がある」といった、影響の大きさを定義した基準です。この基準に基づいて、先ほど整理した「業務 × 情報」の組み合わせに対し、リスクのスコアを割り振っていく作業を行います。

これにより、対策の優先順位が自然と決まります。

固有のリスクと対策の組み合わせを考える

すべてのリスクに対して、高額なセキュリティ対策を講じることは現実的ではありません。そこで、判定したリスクの大きさに応じて、どのような対策を組み合わせるべきかを検討します。対策には、システム的な「技術的対策」、ルールによる「運用の対策」、そして社員教育などの「人的な対策」の3つの側面があります。

例えば、リスクが高い業務に対しては、技術的に「学習に利用されない設定のAIツールを導入する」という対策と、運用面で「入力前に必ず人間が内容を確認する」というルール、さらに人的な「AIの特性に関する研修」をセットで適用します。

このように、リスクのレベルに合わせて対策の「厚み」を変える考え方が、コストを抑えつつ安全性を確保する鍵となります。担当者には、各対策がどのリスクを抑え込むためのものかを説明できるように準備させましょう。

実践的な対策を導入・運用する際のステップ

導入フェーズでの技術検証と選定

AIツールの導入を検討する際は、単に機能が優れているかどうかだけでなく、セキュリティ要件を満たしているかを技術的に検証する必要があります。例えば、入力したデータがAIモデルの学習に再利用されない設定（オプトアウト設定）が可能なのか、管理者が利用ログを確認できるのかといった点を確認しなければなりません。

具体的には、ツール選定の際に「セキュリティチェックシート」を作成し、ベンダーに対して回答を求める手順を踏みます。この際、ITに詳しくない経営者の方は、担当者に対して「入力したデータが外部に漏れない仕組みが、契約書や設定画面でどう保証されているか」を確認するよう指示してください。

技術的な詳細をすべて理解する必要はありませんが、その根拠がどこにあるのかを明確にさせることが重要です。

運用フェーズでの継続的なルール更新

AIの技術や利用シーンは非常に速いスピードで変化します。一度ルールを作って終わりにするのではなく、運用しながらルールを更新していく「ライフサイクル」の考え方が必要です。例えば、新しいAI機能が追加されたことで、以前は禁止していた業務ができるようになった、あるいは新しいタイプの攻撃手法が見つかった、といった状況に対応しなければなりません。

運用のステップとしては、定期的に「AI利用状況のモニタリング」を行い、ルールが形骸化していないか、あるいはルールが厳しすぎて業務の妨げになっていないかをチェックします。もし、特定の業務でルール違反が頻発している場合は、ルール自体が実態に合っていない可能性があるため、必要に応じて判断基準を見直す柔軟性が求められます。

人的統制による誤用への備え

どれほど優れたシステムを導入しても、使う人間が誤った使い方をすればリスクは防げません。そのため、社員に対する「人的な統制（教育やルール遵守の徹底）」は、技術的な対策と同じくらい重要です。AIは「もっともらしい嘘」をつくことがあるため、その特性を理解させ、最終的な判断は人間が行うという原則を徹底させる必要があります。

具体的には、AIの回答を鵜呑みにせず、必ず一次情報（元の資料や公式なデータ）と照らし合わせる習慣を身につけさせる教育を行います。また、万が一、誤った情報を流してしまった場合や、不適切な入力をしてしまった場合の報告ルートをあらかじめ決めておくことも、被害を最小限に抑えるための重要な準備です。

失敗を隠さず報告できる文化を作っておくことが、結果として会社を守ることにつながります。

対策の判断と専門家への相談の進め方

自社の状況を整理して判断基準を確定させる

対策が決まらない原因の多くは、判断材料が整理されていないことにあります。まずは、これまでのステップで作成した「業務と情報のリスト」と「リスク判定の結果」を並べて、自社専用の「AI利用判断表」を完成させましょう。この表があれば、「この業務は、この情報の扱いなら、このツールを使ってよい」という明確な答えが出せます。

判断表が完成したら、それを社内の規定として文書化し、全社員がいつでも確認できるようにします。この際、判断基準が「なぜそうなっているのか」という根拠（例：情報の重要度が高いから、学習に利用されない設定が必要である、など）を併記しておくと、社員の納得感が高まり、ルールの遵守につながりやすくなります。

まずは、自社の現状をこの表に書き出すことから始めてみてください。

残存リスクを認識し経営判断に活かす

どんなに手厚い対策を講じても、リスクをゼロにすることはできません。対策を講じた後にどうしても残ってしまうリスクを「残存リスク」と呼びます。この残存リスクを「許容できる範囲内か、それとも対策をさらに強化すべきか」を判断するのは、経営者の重要な役割です。

例えば、ある業務にAIを導入することで効率化が見込める一方で、どうしても残存するリスクがある場合、そのリスクを「効率化のメリット」と照らし合わせて、許容できる範囲内かを判断することになります。この判断を行うためには、対策にかかるコストと、リスクが顕在化した際の損失額を、担当者から報告してもらう必要があります。

リスクを隠すのではなく、正しく可視化して経営判断の材料にすることが大切です。

迷った時の専門家への確認ポイント

自社での判断が難しい場合や、導入しようとしているツールの安全性が確信できない場合は、セキュリティの専門家へ相談することをお勧めします。その際、単に「安全ですか？」と聞くのではなく、自社で整理した「業務内容」「扱う情報の種類」「想定しているリスク」を提示した上で相談することが、的確なアドバイスを得るコツです。

具体的には、「この業務でこのツールを使う場合、現在の対策でリスクは許容範囲内と言えますか？」「このツールの契約内容において、データの学習利用に関する懸念はありませんか？」といった、具体的な問いかけを行ってください。専門家は、あなたの会社の状況に基づいた、より実務的な視点での検証やアドバイスを行ってくれます。

自社だけで抱え込まず、外部の知見を適切に活用することが、安全なAI活用の近道です。