職場でAIを使用する際に会社データを漏らさない方法

現在、ほとんどの企業の従業員が、内部ドキュメント、コード、顧客データをChatGPT、Claude、またはCopilotに貼り付けており、多くの場合、誰の承認もなく行われています。問題はAI自体ではありません。これらのツールに対して人々が持つデフォルトの習慣が、プライベートなメモ帳のように扱っているのに対し、実際にはほとんど誰も読まない利用規約を持つサードパーティサーバーにデータを送信しているという点です。

入力データに実際に何が起こるかを理解する

何かを前提とする前に、使用しているツールのデータ使用条項を読んでください。ChatGPTの個人向けプラン（無料およびPlus）は、設定でオプトアウトしない限り、会話を将来のモデルの訓練に使用する可能性があります。ChatGPT EnterpriseおよびTeamプラン、ならびにAPIは一般的にデフォルトではデータで訓練されず、より強力な契約上の保証を提供しています。Claude（個人向けとClaude for Work/API）およびGeminiでも同じ分け方が適用されます。「無料個人アカウント」と「データ処理契約を備えたビジネスアカウント」間のギャップは、実際のリスクにおける最大の要因であり、ほとんどの人がチェックをスキップしている要因です。

会社がいかなるAIツールについてもエンタープライズプランを購入していない場合、無料プランのチャットボットに入力するすべてのプロンプトが、人間のトレーナーにレビューされるか、将来のモデルに組み込まれる可能性があると想定してください。これは偏執的な考えではなく、ほとんどの個人向けサービス利用規約の明白な解釈です。

プロンプトに貼り付ける前にデータを削除する

プロンプトに何かを貼り付ける前に、このテキストが明日のデータ漏洩のニュース見出しに表示されたら何が起こるかを問いかけてください。答えが悪い場合は、まず編集してください。具体的には次のようにします：

• 実際の顧客名、メールアドレス、アカウントIDをプレースホルダー（CUSTOMER_A、user@example.com）に置き換えてから、レスポンスドラフト作成の支援を依頼してください。
• APIキー、トークン、内部ホスト名をコードスニペットから削除してください。貼り付けようとしているファイルに対する簡単なgrep -riE "(api[_-]?key|secret|token|password)"で、ほとんどの明らかな漏洩をキャッチできます。
• 独自ファイル全体を貼り付ける代わりに、問題の形状を要約してください。「スライディングウィンドウを使用してユーザーあたりのリクエストをレート制限する関数があり、バースト的なトラフィック下で正当なリクエストをドロップしている」と説明することで、実際のアルゴリズムを渡さずに有用なヘルプが得られます。
• 契約、財務、またはNDAの対象となるものについては、法務チームがそのツールをそのデータクラスで明示的に承認していない限り、汎用チャットツールをまったく使用しないでください。

チームが実際に従うガードレールを設定する

誰も読まないポリシーは無視されます。既存のワークフローに適合するポリシーは従われます。実際に機能する手段をいくつか以下に示します：

• ITに企業向けプランのAIアカウント（ChatGPT Team、Claude for Work、M365テナント対応のMicrosoft Copilot）をプロビジョニングさせて、従業員にとってのデフォルトオプションが、無料の公開プランではなく、より安全なものになるようにしてください。
• ブラウザ拡張機能またはDLP（データ損失防止）ツール（Microsoft PurviewやNightfallなど）を使用して、誰かが機密またはPIIのように見えるものをAIサイトへのウェブフォームに貼り付けようとしているときにフラグを立ててください。多くの企業は既にメールのDLPを持っており、同じルールをブラウザ入力からAIサイトへ拡張することは自然な次のステップです。
• 平易な言語で、どのツールがどのデータクラスで承認されているかを説明する1ページのポリシーを作成してください。「公開ドキュメントおよびオープンソースコード：任意のツール。顧客PII、財務、独自システムのソースコード：企業向けプランのツールのみ、または使用しない」と明確で短い方が、長く曖昧なものより良いです。
• コードについて具体的には、最も機密性の高いリポジトリに対してGitHub Copilotまたはセルフホストされた代替案（ローカルCode LlamaまたはStarCoderのデプロイメントなど）のどちらが合理的かを判断してください。Copilot Businessを使用すると、特定のリポジトリを候補から除外でき、ライセンスされたスニペットの再生成の可能性を低減するためのコードマッチングフィルタを備えています。

見落としやすい漏洩経路を監視する

直接的なコピー＆ペーストが唯一のリスクではありません。ページを要約するブラウザ拡張機能は、内部ダッシュボードを含むスクリーンの内容をリモートAPIに静かに送信する可能性があります。ビデオ通話に参加するAI搭載のメモ取りボット（Otter.aiやFirefliesなど）は、すべての会話を記録および転写します。これに含まれるのは、偶然に言及された機密情報も含まれます。これらのいずれかを会議に追加する前に、部屋の全員がサードパーティサービスがその会話の転写を保有することに満足しているかどうか、およびベンダーの保持ポリシーが会社のデータ処理ルールと一致しているかどうかを確認してください。

AIチャットクライアントで有効になっているプラグインまたはコネクタも確認してください。中には、モデルがウェブを閲覧したり、Google Driveなどの接続されたアプリにアクセスしたりするものがあり、これは共有しようとしていた以上のコンテキストを取得する可能性があります。

ポリシーではなく、習慣を構築する

目標はAIの使用をゼロにすることではなく、すべてのユーザーが入力ボックスをベンダーへの外部メールのように扱うAI使用です。これが実際には何であるかだからです。このメンタルモデルが確立されれば、ほとんどのリスクのある振る舞いは自然に止まります。

これについての詳細は、Korra Studioのデータセキュリティ基礎とエンジニアリングチーム向けの実践的なAIツーリングのセグメントをご確認ください。