この記事はこんな人におすすめ
- ChatGPTがよく分からなくて怖い
- ChatGPTを使いはじめたけどよく分からない
- ChatGPTを医療者が安全に使う方法を知りたい
多くの企業で「ChatGPT（チャットGPT）」などのAI活用が進み、ChatGPTが当たり前の時代が来ています。
ChatGPTの注意点は知っておかないと、いざ、ChatGPTを使わなければいけない時に乗り遅れてしまう可能性があります。
この記事ではChatGPTを医療分野で活用する時の注意点についてわかりやすく解説しています。
結論！ChatGPTを使う際の注意点は
- 「ファクトチェック」
- 「個人情報の管理」
- 「著作権侵害の可能性」
近い将来、医療業界でもChatGPTが当たり前になる時にChatGPTの注意点を知っておくことはあなたにとって強みになります。
「ChatGPT」は医師の多くのメリットをもたらす一方で正しい知識と注意点を知って使うことが必要です。
医師が「ChatGPT」を使う時の注意点 ３つ
「ChatGPT」はとても便利なツールの一方で注意点もあるのが事実です。
「ファクトチェック」
「個人情報の管理」
「著作権侵害の可能性」
情報の真偽が不明な場合がある（ファクトチェック）
・回答が”間違っている”可能性
・回答が”最新ではない”可能性
「ChatGPT」からの回答が間違っている可能性
ChatGPTの情報がすべて正しいとは限らない点に注意が必要です。
①ハルシネーション（幻覚）と言われる、嘘の情報を本当のように生成
②ChatGPTが学習した情報源が間違っている
これらの可能性があるためChatGPTを使うときには「ファクトチェック」（情報の正確性を確認すること）が必要です。
「ChatGPT「からの回答が最新ではない可能性
医学の世界は日々、新しい情報が出ています。
「ChatGPT」の情報源はアップデートにより更新されることが多く、アップデートのタイミングによっては最新の情報が得られない可能性があります。
2023年10月にGPT-4がアップデートされ、GPT-4の学習データが2023年4月までの情報にアップデートされています。(2023年9月まではGPT-4の学習データが2022年1月まででした。)
個人情報の管理
「ChatGPT」を含むAIはディープラーニング(深層学習)と呼ばれる、機械学習の手法を用いています。入力した情報がディープラーニングに利用される可能性があります。
個人情報や機密情報（病院や会社の情報）は第3者に間接的に伝わってしまう可能性も否定できません。
そのため個人を特定できる情報を安易に「ChatGPT」へ入力することはやめるべきです。
特に、医療は患者さんの重要な個人情報に触れる機会が多いため、「ChatGPT」において「個人情報保護」には気を付けてください。
著作権を侵害の可能性
「ChatGPT」で作成した画像や文章は学習したもの（著作権あり）と類似してしまう可能性があります。
まだ「ChatGPT」をはじめとする生成AIが作成したものに対する著作権の考え方がはっきりしていないところもあります。
運営元のOpenAIの利用規約では問題なし
ユーザーがChatGPTを利用して文章を作成しても、ChatGPTを運営するOpenAI社に著作権は発生しません。OpenAIの利用規約には、ユーザーの入力によってChatGPTが生成した文章やコンテンツの全ての権利をユーザーに譲渡することが明記されています。
2023年11月時点 引用：弁護士法人 モノリス法律事務所ホームページ
学習データに他者の著作物が含まれている可能性も
ChatGPTは、膨大な情報をインターネット上などから収集して、学習に利用しています。学習に利用されたデータに誰かの著作物があった場合には、その情報によって出力したコンテンツが、著作権者の権利を侵害する可能性があることも否定できません。
例えば、2023年2月には、アメリカのウォールストリートジャーナルやCNNを始めとする主要メディアやクリエイターなどが、記事や作品が無断利用され、知的財産権が侵害されていることに対し、OpenAIに対して抗議しています。
ただし、ChatGPTの学習用データに著作物が含まれていた場合に著作権の問題が発生するかどうかは、専門家でも解釈が分かれています。
2023年11月時点 引用：弁護士法人 モノリス法律事務所ホームページ
投稿時の法令・制度に基づいているため投稿後に法改正等がなされている可能性があります。法改正等があった際は必ずご自身の責任において最新情報をご確認下さい。
「ChatGPT」で生成された情報の情報源が分からないため生成画像などを使う場合は少なくとも「ChatGPT」で生成したことを書いた方が良いです。
例：
専門家でも意見が分かれていることから今後の情報にも注意が必要です。
（最新の情報を適宜、更新していく予定です。）
医師が「ChatGPT」を使う時にやること：ファクトチェックなど
最新情報の確認やファクトチェック
「ChatGPT」の回答は間違っていたり、最新でない可能性があります。
そこで大切なのが「ファクトチェック」。得られた情報が正しいか間違っているかを確認することです。
現在の「ChatGPT」は情報元までは提示してくれません。特に医療分野では間違った情報は命にかかわる可能性もあるため、他の分野よりも入念なファクトチェックが必要です。
個人情報・機密情報を入力しない
個人情報・機密情報を「ChatGPT」へ入力することはやめましょう。
特に、医師は患者さんの重要な個人情報に触れる機会が多いため、ChatGPT使用時の「個人情報保護」には気を付ける必要があります。
回答をコピペして使わない（アイディアとして活用する）
得られた回答を完全なコピーを使用すると、情報元の文章と一致してしまう可能性があり、
著作権に抵触する可能性が否定できません。得た情報を自分の中で解釈し、良きアイディアとしてとらえ、最終的には自分の言葉で文章を書くことをおすすめします。
「ChatGPT」の利用規約、アップデート内容は定期的にチェック
定期的にOpenAIの利用規約もチェック
英語が苦手な場合はページは以下の手順でかんたんに日本語で読めます。
①「ChatGPT」のプラグインに「WebPilot」を入れる
②URLを貼り付ける
③「（URL）このサイトで最近更新された内容を日本語でまとめて」
④日本語の要約が出力
病院、医局など組織で利用する時はルールを決める
世の中で「ChatGPT」の活用が進むにつれてルール作り（ガイドラインの作成など）進んではいます。しかしながら、日々進化する生成AI（ChatGPTなど）にルール作りが追いついていないのが現状です。
特に医療の世界では重要な個人情報や命にかかわる内容を含むため、現状では組織として医療に「ChatGPT」を活用する場合は議論を重ねたルール作りが必要です。
医療における「ChatGPT」活用のルールなどの最新情報があれば適宜、情報を追加予定です。
文部科学省、大学、企業などの対応（ガイドラインなど）
「ChatGPT 注意点」で検索すると、多くの企業がChatGPT使用時の注意点をしっかりと認識したうえで利用しているが分かります。
各施設での取り組みについて紹介します。
文部科学省
2023年7月に「初等中等教育段階における生成 AI の利用に関する暫定的なガイドライン」の作成について（通知）
を文部科学省が公表しています。
個人情報やプライバシーに関する情報の保護の観点
・教育現場では生成AIを利用する際には、個人情報保護の観点を十分に踏まえることが必要
教育情報セキュリティの観点
・各学校及び設置者において、教育情報セキュリティーガイドラインを踏まえた対応が必要
著作権保護の観点
・各学校において著作物の利用に関する正しい理解に基づいた対応が必要
引用：文部科学省 「初等中等教育段階における生成 AI の利用に関する暫定的なガイドライン」の作成について（通知）
個人情報やセキュリティー、著作権に関して言及されており、注意して「ChatGPT」を使用するように求めています。
大学
医療系の大学で「ChatGPT」の使用をどのようにとらえているのか。
横浜市立大学
横浜市立大学の土師らは「ChatGPT」 に医学に関する質問をする際の注意点を科学的に検証し、論文化しています。
Influence on the accuracy in ChatGPT: Differences in the amount of information per medical field
彼らは日本の医師国家試験 3年分を「ChatGPT（GPT-3.5とGPT-4)」に出題し、その正答率と回答の一貫性を集計しています。
その結果、GPT-4はGPT-3.5に比較して著しい正答率の向上を認めたと報告。
研究の中で彼らは新薬や新興感染症など情報量が乏しい分野に関する質問にはをする際には、回答が正しいかどうか注意が必要であり、「ChatGPT」の回答内容は必ずしも常に正しいとは限らず、一見してその回答の正誤について判断ができないケースも多くあると述べています。
引用：Tatsuya H etc. Influence on the accuracy in ChatGPT: Differences in the amount of information per medical field. International Journal of Medical Informatics DOI： 10.1016/j.ijmedinf.2023.105283
東京医科歯科大学
生成系 AI（ChatGPT 等）利用ガイドラインを作っています。
1 生成系 AI について
・生成系 AI の概要及び ChatGPT が優れている点
・ChatGPT について
２ 生成系 AI の利用にあたって
・法規制、各種ガイドライン等の遵守
・利用に伴う責任
・効果的な利活用例
３ 各場面における特記事項
・教育に関する特記事項
・研究に関する特記事項
・診療に関する特記事項
・特許に関する特記事項
引用：国立大学法人 東京医科歯科大学 生成系 AI（ChatGPT 等）利用ガイドライン
このような項目にわけて指針を示しています。
利用に伴う責任
生成系 AI の利用にあたっては、利用者はその利用内容に対して最終的な責任を負うことを自覚し、必ず生成されたデータや回答等の生成物の真正性を確認して下さい。
引用：国立大学法人 東京医科歯科大学 生成系 AI（ChatGPT 等）利用ガイドライン
「利用に伴う責任」という項目を設けて、生成されたデータや回答等の生成物のファクトチェックを明示しており、
特に医療での「ファクトチェック」の重要性が示されています。
新潟大学
新潟大学では
【学生の皆さんへ】生成系AI（ChatGPT等）利用に関する注意事項について
として情報を発信しています。
注意事項
1.授業担当教員の判断により生成系AIの利用を認めない場合、教員の指示に従わず生成系AIを用いてレポート等課題を作成した場合は剽窃とみなされる場合があるので注意すること。
2.授業に関する情報収集等で利用する場合は、生成系AIの出力には誤りがある可能性に留意し、生成系AIの出力が正しいか、誤りなのか、学生自身でその真贋を確認すること。
3.未発表の研究成果や個人情報・プライバシー情報等の機密情報を生成系AIに入力してしまうことにより、それら機密情報が意図せず流出・漏えいし、社会的な責任が問われる可能性がある点に注意すること。
4.画像・動画・音楽等を生成するAIは、インターネット上のコンテンツをAIが学習して画像を生成しているため、利用者が知らないうちに著作権を侵害してしまう可能性があることに注意すること。
引用：新潟大学ホームページ 【学生の皆さんへ】生成系AI（ChatGPT等）利用に関する注意事項について
剽窃（ひょうせつ）：他人の著作から全部または部分的に文章、図表、語句、話の筋、思想などを盗み、自作の中に自分のものとして用いること。
参考：近畿大学ホームページ
新潟大学でも「ファクトチェック」や「個人情報」、「生成物の著作権侵害の可能性」などに言及しています。
学生の勉強や課題は「ChatGPT」で楽になってしまうこともあり、レポートや課題への利用については注意喚起をしています。
企業
現在、医療界よりも一般企業において「ChatGPT」の導入が進んでいます。
PASONA
PASONAではコラムで 話題の生成AI「ChatGPT」でできることと仕事に使う際の注意点
として記事が書かれています。
ChatGPTを仕事に使う際の3つの注意点
・回答内容が正しいとは限らない
・個人情報を開示してしまう恐れがある
・データの権利が問題視される場合がある
引用：PASONAホームページ 話題の生成AI「ChatGPT」でできることと仕事に使う際の注意点
ファクトチェックの重要性や個人情報の保護、著作権について触れられており、大学などでの使用で注意喚起されている内容と同様の注意点をあげています。
各施設で共通するのは
「ファクトチェック」
「個人情報・機密情報の管理」
「生成物の著作権侵害の可能性」
があげられておりこの3つはどの分野でも重要であることが確認できます。
医療の分野で重要な個人情報を扱っていたり、情報が命にかかわることも多いため、特に「ファクトチェック」と「個人情報」には注意が必要です。
「ChatGPT（チャットGPT）」とは
「ChatGPT」とは
OpenAIが開発した先進的なAIチャットボットで、自然言語処理技術を利用して、人間のような対話が可能です。
「ChatGPT」の使い方
パソコンやスマホから「ChatGPT（チャットGPT）」のサイトにアクセスし、登録します。
ChatGPTは、基本的には無料で利用できますが、「ChatGPT Plus」（有料）の登録で使える機能が増えます。有料の「ChatGPT plus」は20＄/月です。（現在は約3000円程度です。）
「ChatGPT」を医師が活用できる可能性
医師がChatGPTを活用すると今までの業務が効率化され、時間の短縮につながります。
具体的には
・論文執筆：英文校正や論文検索
・学会発表：発表の原稿づくりやスライド作成
・教育：講義の資料作成
・診療：IC（インフォームドコンセント）
医療でChatGPTを活用できる場面は増えています。
▼「ChatGPT」の登録～使い方の詳細はこちら▼
「ChatGPT（チャットGPT）」の使い方と業務効率化を徹底解説【医師・医療者必見！】
医師がChatGPTを活用できる場面は多い、一方で医療者ならではの注意点もあります。
Q&A
Q1 患者とのコミュニケーションに使う時の注意点は？
A1 個人情報の扱いです。患者さんの情報を「ChatGPT」に入力するのは個人情報の観点から止めるべきです。そのため、「一般的にはどうなのか？」など考えて自分の欲しい答えを得られるように質問を考えます。
Q2 論文執筆使う時の注意点は？
A2 「ChatGPT」の生成した文章が引用論文の完全コピーになっている可能性が否定できないため、チェックが必要です。
Q3 情報の正確さを簡単に確認する方法は？
A3 プラグインを入れることで「ファクトチェック」の効率化ができます。全部の回答の情報元は提示されませんが、作業が効率的になるのは確実です。
気になる点などあれば「お問い合わせ」から質問してください。実際使用した感想など、答えられるものは直接またはQ＆Aコーナーにて回答させていただきます。
まとめ
医師として「ChatGPT」を安全かつ効果的に活用するための重要なポイントをご紹介しました。
医療は重要な個人情報を扱い、情報が命にかかわる分野でもあるため、患者の個人情報の保護や情報の正確性は何よりも注意すべきです。
医師が「ChatGPT」を活用するメリットはとても多く、今後は生成AI（ChatGPTなど）を使った仕事が当たり前になります。「ChatGPT」の注意点を知って正しく活用できることが、あなたの強みになること間違いなし！
以上、最後までお読みいただきありがとうございました。
▼次の記事はこちら▼
