AI利用のサイバーリスクが10大脅威に。社内AIの予算に含めたい対策

2026年1月に発表されたIPA（情報処理推進機構）の「情報セキュリティ10大脅威 2026」において、「AIの利用をめぐるサイバーリスク」が組織向けの脅威として初めて選出されました。AIの導入が急速に進む一方で、管理体制が追いついていない現状が浮き彫りになっています。

経営者がまず取り組むべきことは、現場の「勝手な利用」を把握し、会社としての利用ルール（ガイドライン）を定めることです。AIは便利な道具ですが、使い方を誤ると機密情報の流出や業務品質の低下を招きます。これらを「想定外のトラブル」で済ませず、あらかじめ対策費用を予算に組み込んでおくことが、持続可能なAI活用への第一歩となります。

AI利用で想定すべき具体的なリスクとは

従業員による無許可のAI利用を防ぐ

業務を効率化したいという思いから、会社が許可していないAIツールを個人の判断で業務に使う「シャドーAI」という現象が起きています。例えば、顧客情報を入力して要約させたり、機密性の高いプログラムコードを解析させたりするケースです。こうした利用は、入力したデータがAIの学習に利用される設定になっている場合、外部へ情報が漏えいする原因となります。

現場の担当者には「どのAIを、どのような目的で使ってよいか」を明確に伝える必要があります。まずは、現在どのようなツールが業務で使われているかを棚卸しし、会社として認めるツールと禁止するツールの境界線を引くことから始めましょう。扱った情報や利用条件が把握できなければ、事故の疑いがあるときに影響範囲を確認しにくくなります。

AIの出力内容による業務品質の低下

生成AIは、もっともらしい嘘をつくことがあります。入力された資料や指示があっても、内容を取り違えたり、根拠のない説明を補ったりする場合があるためです。例えば、AIが作成した報告書や契約書の草案を、人間が内容を確認せずにそのまま使用してしまうと、誤った情報に基づいた意思決定や、法的なトラブルを招く恐れがあります。

AIの回答を鵜呑みにせず、必ず人間が内容を検証するプロセスを業務フローに組み込むことが重要です。AIはあくまで「下書きを作る助手」として位置づけ、作成・確認・社外送信の承認を誰が行うかを組織で共有してください。確認者だけに法律上の責任が自動的に移るという意味ではありません。

この「確認作業」にかかる工数や、誤りを見抜くための教育コストも、AI導入の運用コストとして考慮しておくべきです。

AIを悪用した高度なサイバー攻撃への備え

AIは守る側だけでなく、攻撃する側にとっても強力な武器になります。AIを使うことで、より巧妙で自然なビジネスメール詐欺（BEC）の文面を作成したり、システムの弱点を探り当てる作業を自動化したりすることが可能になります。これまでの攻撃よりも、見分けがつきにくく、かつ大量に送りつけられる攻撃が増えることが予想されます。

従来のセキュリティ対策だけでは、AIによって高度化された攻撃を防ぎきれない可能性があります。AIの特性を理解した上で、防御側もAIを活用して不審な動きを検知するなど、技術的な対策のアップデートが必要です。セキュリティ担当者に対し、AI時代の新しい脅威に対応するための調査や検証を行うための予算と権限を与えておくことが、経営者の役割といえます。

会社として整備すべきAIガバナンスの仕組み

利用ガイドラインの策定と周知

AIを安全に使うためには、抽象的な理想論ではなく、現場が迷わないための「実践的な指針」が必要です。ガイドラインには、入力してよい情報の種類（公開情報のみ、社内限定情報など）や、出力結果の確認方法、万が一トラブルが起きた際の報告ルートを具体的に記載します。例えば、「顧客の個人名は入力しない」といった具体的なルールが有効です。

ルールを作って終わりにするのではなく、全従業員がその内容を理解している状態を作らなければ意味がありません。定期的な研修を実施したり、社内ポータルで見やすくまとめたりする工夫が求められます。ガイドラインは一度作ったら完成ではなく、技術の進化や業務の変化に合わせて、定期的に見直していく運用体制をセットで検討してください。

AI導入における意思決定のプロセス

新しいAIツールを導入する際、現場の要望だけで決めてしまうのは危険です。導入の判断基準として、「そのツールで扱う情報の重要度」と「想定されるリスク」をセットで評価する仕組みを構築しましょう。例えば、機密情報を扱う部署が導入する場合は、より厳格なセキュリティ要件を満たしているかを技術的に検証する必要があります。

意思決定には、IT部門だけでなく、法務やリスク管理部門、そして現場の責任者が関与する体制が望ましいです。導入検討時には、「どのようなデータを使うのか」「万が一漏えいした際の影響はどの程度か」という問いを立て、根拠を持って判断できるようにします。この評価プロセスを標準化しておくことで、迅速かつ安全なAI活用が可能になります。

シャドーAIへの対応方針の決定

すでに現場で無許可のAI利用が始まっている場合、単に「禁止」とだけ伝えるのは逆効果です。禁止すればするほど、利用は隠れて行われるようになり、管理不能なリスクが増大します。まずは、現状でどのようなツールがどのように使われているかを、現場へのヒアリングなどを通じて把握することから始めてください。

把握した上で、「会社が認める安全な環境」をいかに早く提供できるかが鍵となります。会社が公式に認めたツールであれば、セキュリティ設定を管理でき、ログ（利用記録）も残せます。シャドーAIを「取り締まる対象」としてだけでなく、「公式な環境へ移行させるための課題」として捉え、管理可能な範囲に収めるための施策を講じましょう。

AIシステム導入時に検討すべき技術と運用のステップ

企画から調達までのセキュリティ検討

AIシステムの導入は、単なるソフトウェアの購入とは異なります。企画段階から、そのAIがどのような仕組みで動くのか、データの扱いはどうなっているのかを精査する必要があります。例えば、クラウド型のAIサービスを利用する場合、データがどこに保存され、AIの学習に再利用されない設定（オプトアウト設定など）が可能かどうかを確認しなければなりません。

ベンダー（提供元）との契約交渉においても、セキュリティに関する要件を明確に盛り込むことが重要です。技術的な検証（PoC）を行う際は、実際の業務データに近いものを使って、期待通りの精度が出るか、また意図しない挙動をしないかをテストします。この検証フェーズにかかる時間と人員を、プロジェクトの工程としてあらかじめ計画に入れておきましょう。

運用フェーズにおける継続的な監視

AIは導入して終わりではなく、使い続ける中でリスクが変化します。AIの回答精度が変化したり、新しい攻撃手法が登場したりするため、運用中の継続的な監視が重要です。具体的には、AIの利用ログを定期的に確認し、不適切なプロンプト（AIへの指示文）が入力されていないか、大量のデータが外部へ送られていないかなどをチェックします。

また、AIの挙動が変化していないかを確認する「モデルの監視」も重要です。運用ルールが形骸化していないかを確認するために、定期的に現場へのアンケートやヒアリングを行い、実態に即したルールへの修正を行うサイクルを作りましょう。監視体制を維持するためのコストも、継続的な運用予算として確保しておくべき項目です。

システムの廃棄とデータの取り扱い

AIシステムの利用を終了したり、契約を更新しなかったりする場合の「出口戦略」も重要です。AIサービスにアップロードしたデータや、そのシステムを通じて蓄積された学習データ、利用履歴などがどのように削除されるのかを事前に確認しておかなければなりません。

例えば、サービスを解約した後に、自社のデータがベンダー側のサーバーに残り続け、他のユーザーの学習に利用されるようなことがあってはなりません。廃棄のプロセスにおいても、データの消去証明を求められるか、あるいは確実に削除される仕組みがあるかを確認し、契約書に明記しておくことが、将来的な情報漏えいリスクを抑えることにつながります。

適切な対策を判断するための基準と相談先

自社のリスクレベルを評価する

すべての企業が、最高レベルのセキュリティ対策を導入する必要があるわけではありません。自社が扱う情報の重要度と、AIを活用する業務の影響度に基づいて、対策の強弱を決めることが現実的です。例えば、公開されている情報の要約に使うAIと、顧客の購買履歴を分析するAIでは、求められる対策のレベルは全く異なります。

まずは、自社の業務を「情報の機密性」と「AI利用による失敗の影響度」の2軸で整理してみましょう。リスクが高い業務には、より厳格な技術的制限や、人間による二重チェックを義務付けるといった、重めの対策を割り当てます。このように、リスクに応じた「メリハリのある対策」を検討することが、コストを抑えつつ安全性を確保するコツです。

専門家へ相談すべきタイミングと内容

自社だけで判断が難しい場合は、早めに外部の専門家に相談することをお勧めします。特に、新しいAI技術の導入時や、社内でセキュリティ事故の兆候が見られたときは、専門的な知見が必要です。相談する際は、「どのようなデータを、どのような業務で使いたいのか」という具体的な利用シーンを整理して伝えると、より的確なアドバイスが得られます。

相談先としては、ITコンサルティング会社や、セキュリティ対策を専門とするベンダーなどが挙げられます。また、IPAなどの公的機関が提供しているガイドラインや手引書を読み込み、自社の状況と照らし合わせることも有効な手段です。「これで大丈夫だ」と断定するのではなく、「この対策で、想定されるリスクをどこまで抑えられるか」を専門家と共に確認する姿勢が大切です。

対策の費用対効果をどう考えるか

AIのセキュリティ対策は、単なる「コスト（出費）」ではなく、事業を継続するための「投資」と捉えるべきです。万が一、情報漏えいが発生した場合の損害賠償、社会的信用の失墜、業務停止による損失などのリスクを考慮し、事前の対策費用とのバランスを検討することが重要です。対策を講じないことによるリスクを、経営的な視点で評価してください。

具体的には、対策にかかる費用と、それによって回避できるリスクの大きさを比較検討します。ただし、過剰な対策はAIの利便性を損ない、業務効率化という本来の目的を阻害してしまいます。技術的な対策（ツール導入）、運用対策（ルール作り）、人的統制（教育）の3つのバランスを考え、自社の規模と予算に見合った最適な組み合わせを見つけ出すことが重要です。