生成AIで見落とされるセキュリティ設定

生産性向上のためにDX化を推進していきましょう…と、政府はデジタル技術の導入を施策(補助金)などでバックアップしてきました。

 

その施策(補助金)の対象が、生成AIの活用まで拡大してきています。

 

様々な業務においてChatGPTやGeminiの恩恵を受けている方が増えました。

 

本当に便利なツールだと感じる事が多くなってきています。

 

しかし、生成AI利用時にセキュリティまで視野に入れて活用する事業者が少ない事にはかなり驚いています。


例えば、こんなケースがあったそうです。

 

取引先に向けた提案の中で、若手社員が自身満々に「生成AI活用をして御社の〇〇を分析してみました」と、言ったそうです。

 

プレゼンを受けている方はとても渋い顔をしています。

「生成AI活用時のルールはどうなってますか?」

と言われて、ようやく自分自身が情報漏洩を指摘されている事に気づいたのです。

 

このように、生成AIの活用時における具体的なルールを設けていない事業者が多いことについて危惧しています。

まずは「学習オフ」の設定を徹底

多くの人が使っているChatGPTですが、初期設定(デフォルト)のまま使ってしまうと、入力した未公開の機密情報などが、そのままAIの知識の一部となり、「他人の回答」として出力されてしまうリスクがあります。

 

具体的な社名や、固有名称は入力していなくても、データとして学習されるので情報漏洩となってしまう訳です。

 

これを防ぐには、どう設定するのか以外と知らない方が多いです。

具体的には、「学習オフ」の設定を徹底してください。

 

ChatGPTのやり方は、(例としてPCの場合)

 

1.ログイン後の画面の下にある

  ユーザー名をクリックして

  メニューを出す

 

2.メニューの中にある「設定」を

  クリックする

 

3.データコントロールをクリックして

 「すべての人のためにモデルを改善する」

 を、オフにする

 

※動画サイトで、設定のやり方を検索する方が分かりやすいです。

 

利用者の中には、「履歴の削除」まで徹底している人もいますが、セキュリティ対策として、必要に応じて履歴(チャット)を削除することも有効な対策となります。

 

一方、GoogleのGeminiのやり方は、(例としてPCの場合)

 

1.ログイン後に、画面の下にある

  「設定とヘルプ」をクリック。

 

2.表示されたメニューの中にある

 「アクティビティ」をクリックする

 

3.画面が切り替わり

 Gemini アプリ アクティビティの

 アクティビティの保存を「オフ」にに設定します

 

 もしくは、

 「オフにしてアクティビティを削除」に

 設定を切り替えます。

 

 

「オフ」に設定を変更すると、過去に作成した履歴(チャット)が表示されなくなりますので、必要に応じて、作成した履歴(チャット)の内容を出力するか別のデータ形式で保存するようにしましょう。

利便性と安全性のバランスを保つ

たいていの方は、生成AI活用をする際には、個人情報や顧客名、財務情報、技術ノウハウを入力しないように心がけている事だと思います。

しかし、会社としての活用方針を曖昧にしているケースが多いのではないでしょうか?

 

具体的には、会社が正式に導入を認めていないにもかかわらず、社員が個人のスマホやアカウントで業務情報を入力してしまうケースが出てきています。

 

「使わせないこと」で業務効率を悪化させるのではなく「安全に使わせること」で業務とリスクのバランスを保つように活用方針を定めて欲しいです。是非、会社の中でどのように活用されているのか、現状把握をしてみてください。

 

実際の現状把握の際に、以下のようなケースもありました。

 

それは

 

業務の引継ぎ書を生成AIで作成していたケースです。

 

引継ぎ書を作成する際に生成AIに読み込ませたPDFデータの中に、取引先の担当者の名前や連絡先が入っていました。それだけでなく、何をどう対処するのか会社としてのノウハウまで生成AIに提供してしまっていたのです。

 

生産性をあげるために、複数のデータを一つにまとめようとしたのですが、生成AIにデータ提供をしているまでは考えが及ばなかった訳です。

 

「安全に使う」ために活用方針を定める理由は、こういうケースがあるからです。

 

また、出力されたデータをどう検証するかも、未設定である事業所も多いことだと思います。

流石に、出力されたデータをそのまま取引先に提出することはないと思いますが、出力されたデータ(資料)がどう生成されたかまで確認している事業者はいないはずです。

 

生成AI活用の管理者が不在の場合には、情報漏洩だけでなく誤った情報を外部に提供していまうリスクがあるので、これを防ぐために、

 

〇「何を入力してはいけないか」基準を、わかりやすく周知する

〇生成AIは学習オフの設定ができているのか確認する

〇出力結果を無検証で提供しない(誰かのチェックを入れる)

 

以上のような体制は実施しておきたいものです。

 

生成AIのセキュリティ設定は、「一度設定したら終わり」ではありません。

新機能や規約変更が度々あるので「安全な使い方を提示すること」ことが重要です。

 

リスクを恐れるのではなく、正しい知識と設定で、安全なAI活用を推進していきましょう。

 

笑顔創造研究所は、みなさまの笑顔と地域経済を応援しています。