share

公開日 

更新日 

  • ChatGPT

GPTsを学習させない方法3選!ChatGPTからの情報漏えいリスクをゼロに

GPTsを自社で導入しようと考えつつ、入力した情報が学習されることに不安を感じていませんか?

実際、GPTsは入力した情報を学習するため、機密情報を入力してしまうと第3者に流出してしまう可能性があります。

GPTsのセキュリティに関して知識をもっていなければ、企業秘密や個人情報が抽出し、深刻な結果を招く可能性があります。

本記事では、GPTsを学習させないための具体的な方法を3つ紹介します。また、GPTsに代わる高度なチャットボットサービスも紹介しているため、ぜひ参考にしてみてください。

この記事を読むことで、情報漏えいの不安から解放され、安心してGPTsを利用できるようになるでしょう。

監修者

SHIFT AI代表 木内翔大

(株)SHIFT AI 代表取締役 / GMO他複数社AI顧問 / 生成AI活用普及協会理事 / Microsoft Copilot+ PCのCMに出演 / 国内最大級AI活用コミュニティ(会員5,000人超)を運営。
『日本をAI先進国に』実現の為に活動中。Xアカウントのフォロワー数は9万人超え(2024年9月現在)

弊社SHIFT AIでは、情報漏えいを防いで正しくChatGPTを利用できるような人材を育てるためのアプローチ方法を無料で配布しています。

生成AIで自社の業務を効率化したいと考えている方は、以下のリンクから詳細を確認してみてください。

GPTsにデータを学習させないようにする3つの方法

自社で作成したGPTsに入力した内容を学習させないようにするためには、本章で紹介する3つの方法が推奨されます。

  • Teamプラン・Enterpriseプランに加入する
  • オプトアウトする
  • APIを活用する

それぞれの方法について、詳しくみてみましょう。

Teamプラン・Enterpriseプランに加入する

GPTsにデータを学習させないようにする最も確実な方法の一つは、OpenAIが提供するChatGPTのTeamプランまたはEnterpriseプランに加入することです。

これらのプランは、企業や組織向けに設計されており、高度なセキュリティ機能を備えているため、GPTsへの入力が学習されることはありません。それぞれのプランの違いは、以下のとおりです。

比較項目ChatGPT Team PlanChatGPT Enterprise
料金体系月額25ドル/ユーザー(年払い)
月額30ドル/ユーザー(月払い)
企業規模に応じて変動
言語モデルGPT-4・GPT-4o・GPT-4o miniGPT-4・GPT-4o・GPT-4o mini
メッセージ数100メッセージ/3時間無制限
生成速度個人プランと同じGPT-4の速度が通常の2倍
入力トークン数個人プランと同じ最大32,000トークン(日本語で約2万〜3万文字)まで入力可能
入力データの学習されないされない
セキュリティ高い非常に高い
管理機能ありあり

これらのプランに加入することのメリットは、単にデータの学習を防ぐだけではありません。

たとえば、Teamプランでは共同のワークスペースが設置され、チーム専用のGPTsを作成・共有できるため、業務効率の向上が期待できます。Enterpriseプランではさらに高度なセキュリティ機能や専任のサポートが提供されるため、大規模組織での導入に適しています

したがって、GPTsにデータを学習させないようにするだけでなく、ビジネスでの活用を最大化したい場合にも、TeamプランまたはEnterpriseプランへの加入を検討することをおすすめします。

オプトアウトする

atGPTに入力した情報を学習されないようにする「オプトアウト」を設定することで、情報漏えいリスクを抑えられます。

オプトアウトの方法は、以下の2つがあります。

  • ChatGPTから設定を行う
  • OpenAIの公式サイトから申請する

オプトアウト設定を行うことで、GPTsに入力した個人情報や機密情報が学習に使用されなくなります。ただし。30日間OpenAIのサーバー上に保管されたのちにデータが削除される仕組みであるため注意しましょう。

ChatGPTのオプトアウトについては、以下の記事を参考にして設定してみてください。
関連記事:ChatGPTのオプトアウトで情報漏えい対策!概要や設定方法を解説

APIを活用する

ChatGPT APIは、デフォルトで入力データが学習に使用されない設定であるため、情報漏えいのリスクを最小限に抑えられます。

OpenAI will not use data submitted by customers via our API to train or improve our models, unless you explicitly decide to share your data with us for this purpose. You can opt-in to share data.

引用元:Terms of use(OpenAI)

APIを活用する主なメリットは、データの流れを完全に制御できることです。自社のシステムやアプリケーション内でAI機能を実装することで、機密情報の取り扱いをより厳密に管理できます。

ただし、APIの利用には技術的な知識が必要であり、導入にはコストがかかる可能性があります。また、APIの利用料金は従量課金制であるため、使用量に応じて費用が発生します。

高度なセキュリティ要件がある場合や、ChatGPTの機能を自社システムに統合したい場合は、APIの活用を検討することをおすすめします。

GPTsへの外部攻撃(プロンプトインジェクション)対策も必要

入力したデータを学習されないようにする以外にも、外部からGPTsを攻撃し、組み込まれているプロンプトや資料を抜き取るプロンプトインジェクションへの対策も必要です。

プロンプトインジェクションを受けてしまうと、プロンプトに入力している個人・機密情報や、提供している資料を抜き取られてしまいます。

GPTsがプロンプトインジェクションを受けて抜き取られる場所を示した画面

プロンプトインジェクションを受けないためには、GPTsの公開設定を「私だけ」もしくは「リンクを受け取った人」に設定し、悪意ある第3者にGPTsが渡らないようにすべきです。

また、GPTsへプロンプトインジェクション対策のプロンプトを仕込むことでも対策できます。

プロンプトインジェクションに関しては、以下の記事を参考にしてみてください。

ChatGPTのGPTsで行いたいセキュリティ対策や注意点
GPTsのセキュリティ対策は何をすればいい?社内利用時の注意点を徹底解説

GPTsのセキュリティ対策は何をすればいい?社内利用時の注意点を徹底解説

GPTsは操作ミスや外部からの攻撃による情報漏えいリスクがあります。セキュリティリスクを知らずにGPTsを導入すれば、重要な企業情報が流出したり、悪意ある攻撃を受けたりする可能性があります。本記事では、GPTsを社内で安全に活用するためのセキュリティ対策について詳しく解説します。

Assistant APIを活用してもデータを学習されない

OpenAIのAssistants APIを通じて送信されたデータは、モデルの追加学習や改善に使用しないため、情報漏えいを気にしている企業にとってGPTsに代わる有効な手段です。Assistants APIとは、GPTsよりも複雑なAIチャットボットを構築できるサービスです。

Assistants APIの特徴は以下のとおりです。

項目内容
データの機密性保持企業や個人の機密情報を含むデータを安全に扱える
コンプライアンス対応データ保護に関する法規制への準拠が容易になる
競争優位性の維持独自のビジネスノウハウや専門知識が外部に漏れる心配がない
カスタマイズの自由特定の用途や業界に特化したアシスタントを、データの流出を懸念せずに開発できる

ただし、Assistants APIの使用には料金がかかるため、コスト管理が重要です。Assistants APIを活用することで、データのプライバシーを維持しつつ、高度にカスタマイズされたAIアシスタントを構築できるようになるため、さまざまな業界や用途での応用が期待されています

GPTsのセキュリティについてよくある質問

GPTsのセキュリティについて、2つの質問を用意しました。

回答を確認して、GPTs利用時の参考にしてみてください。

GPTsに与えた資料は学習に使用されますか?

GPTsに提供した資料(Knowledge)が学習されることは、OpenAIの利用規約には書かれていません。しかし、一般的にGPTsに提供したプロンプトは学習されることから、提供した資料も同様に学習に使用される可能性があります。

そのため、機密情報や個人情報が記載された資料を提供しない、もしくは、オプトアウト設定をすることが必要でしょう。

GPTsに設定したプロンプトが流出する可能性はありますか?

GPTsに設定したプロンプトは、プロンプトインジェクションによって流出する可能性があります。

プロンプトインジェクションを受けると、GPTsに事前に与えているプロンプトや、提供している資料などを閲覧される危険があります。

GPTsを学習させない工夫で情報流出を防ごう

GPTsは入力し情報をデフォルトで学習するように設計されています。そのため、企業でGPTsを活用する際は、TeamプランやEnterpriseプランを使ったり、オプトアウト設定をしたりすることが有効です。

また、OpenAIではAssistant APIと呼ばれる、GPTsよりもさらに高度なチャットボットを作成できるサービスを提供しており、こちらも入力データは学習されません。自社の環境に合わせて、適切なセキュリティ対策を行いましょう。

会社単位でのせキュリティ対策だけでなく、実際にツールを使う社員一人ひとりのリテラシー向上も必要です。使用者の知識・スキルが乏しければ、思わぬ事故を起こしてしまうかもしれません。

生成AIに関するノウハウを効率的に安全に導入したい企業様向けに、弊社SHIFT AIでは実践的な導入のためのロードマップを無料でご提供しております。詳細は以下のリンクよりご確認ください。