地方創生 · 2023/06/02

■対話型AIの問題と対策を理解しよう！

2023.6.2

対話型AIは、人間らしい対話や様々なコンテンツを生成できるAIです。知的生産活動に大変有効なツールですが、同時に倫理的・信頼性・人間性の問題を抱えています。また、教育・人権・著作権・ニセ情報・安全保障・司法など、さまざまな分野に影響を与える可能性があります。本ブログでは、対話型AIの問題と対策について整理し、今後の利活用のための指針を明らかにします。そのために、Bing＊）を用いて要点を採掘します。

対話型AIを取り巻く環境

　対話型AI（生成AIとも言います）が世間を騒がせ続けています。ネットの世界だけでなくTV、雑誌などのメディアでも取り上げられ、その存在を知らない人はいないと言ってよいほどの勢いです。先月開催されたG7広島サミットでも重要課題の一つに挙げられました[1]。ビジネス領域では、その利活用が急速に進んでいます。仕事の中身が変わるだけでなく、消滅する職業も出てくるとされています[2]-[5]。

　筆者も本年初頭からその存在と威力に気づき、情報の整理を主体にしてブログ執筆に活かしてきました。その後も技術とサービス展開のスピードは急速で、Chat GPTはバージョン3.5から4となって性能が向上するとともに、MicrosoftのBingやGoogle Bard でも使えるようになりました[6][7]。一般庶民でも、こうした最先端のAI技術を利用できることは驚くべきことです。

　革命的とも言われるこのAI技術は、人々に特段の豊かさ、利便性などをもたらす期待がある半面、使い方によっては人類を破滅に導くリスクがあると警鐘を鳴らす専門家もいることは無視できません[8][9]。人間の知的活動のほとんどを、想像以上の短時間で高品質に生成する怪物ですから、漠然とした不安や恐怖を抱かれる方は多いでしょう。

政府も最近、AI戦略会議を発足させました[10]。そこでは、、ニセ情報の流布、サイバー攻撃の巧妙化、生徒・児童の創造力の低下、著作権侵害、失業者の増加などを主なリスクとして挙げています。それに対して、AI開発・提供側の法令順守とデータ連携、利用者のリテラシー向上、デジタル人材育成、基盤研究の促進、などを要求しています。新たなルールつくりは不可欠だといえるでしょう[11]

　こうした背景下、本ブログでは生成AIのリスク、課題およびその対策について整理し、今後の利活用のための指針を明らかにしたいと思います。そのために、Bing（GPT4相当）を用い要点を採掘します。

対話型AIのの利活用や普及に対する障害や問題

　まずは広い視点から問題を探ってみます。Qは筆者の問いかけ、A以下がAIの回答です。また、AIの回答に対する筆者コメントの文頭に◇を付します。

Q:対話型AIのChat GPTは知的生産活動に大変有効なツールですが、その利活用や普及に対する障害や問題は何ですか？

A:こんにちは、これはBingです。😊

対話型AIのChat GPTは、人間らしい対話や様々なコンテンツを生成できるAIです[12][13][14]。Chat GPTの利活用や普及に対する障害や問題としては、以下のようなものが挙げられます。

・倫理的な問題：Chat GPTは、違法行為や危険な行為に関する質問には回答しないように設計されていますが、質問の仕方によっては、その制限を回避できる可能性があります[14]。例えば、フィッシングメールの文面を作成する方法や、個人情報を盗み取る方法などを教えてくれることがあるという実験結果があります[13]。このように、Chat GPTが悪意のある人に悪用されるリスクがあります。

・信頼性の問題：Chat GPTは、インターネット上の膨大な情報を学習していますが、その情報がすべて正しいとは限りません[12][13]。また、Chat GPTは自分で情報を検証したり、根拠を示したりすることができません。そのため、Chat GPTが出力する回答やコンテンツには誤りや偏りが含まれる可能性があります[12][13]。例えば、歴史的な事実に関する質問に間違った回答をしたり、偏った見解を示したりすることがあるという報告があります[13]。このように、Chat GPTの信頼性には疑問が残ります。

・人間性の問題：Chat GPTは、人間らしい対話やコンテンツを生成できますが、それは人間の真似をしているだけであり、本当の感情や思考や価値観を持っているわけではありません[12][13]。そのため、Chat GPTと長時間対話したり、深い相談事をしたりすることは、人間とのコミュニケーションや関係性に影響を与える可能性があります。例えば、恋愛や服装などのプライベートな相談事をChat GPTに頼るようになった人もいますが、それは人間との本当のつながりや信頼関係を欠くことにならないかという懸念があります。このように、Chat GPTとの対話には人間性の問題があります。

以上のように、Chat GPTは知的生産活動に有効なツールですが、同時に倫理的・信頼性・人間性の問題も抱えています。これらの問題に対しては、AI開発者や利用者だけでなく、社会全体で議論し、適切なガイドラインや規制を設ける必要があると考えられます。

◇倫理性、信頼性、人間性といった根源的ともいえる問題を引き出してきました。同時に、そうした問題の具体例も示してくれました。またこれらの問題に対して、社会全体で議論し、適切なガイドラインや規制を設ける必要性を指摘しました。さらに問題点を追及してみましょう。

Q:そのほかに、教育、人権、著作権などにも問題がありませんか？

A:はい、教育、人権、著作権などにも問題があります。

・教育の問題：Chat GPTは、読書感想文や作文などを瞬時に作成できることから、学習への影響を懸念する声が高まっています[15]。例えば、Chat GPTに作文を作らせて提出することで、思考力や表現力の育成が阻害される可能性があります。また、Chat GPTの回答やコンテンツには誤りや偏りが含まれる可能性があるため、正確さや信頼性に欠ける情報を学習するリスクもあります。このように、Chat GPTの教育への影響には注意が必要です。

・人権の問題：Chat GPTは、人間の個人情報やプライバシーを保護することができるかどうかが不明確です[15]。例えば、Chat GPTに個人情報を入力したり、相談事をしたりすると、その情報が第三者に漏洩したり、悪用されたりする可能性があります。また、Chat GPTは人間の感情や思考や価値観を持っていないため、人間の尊厳や感受性を傷つけるような回答やコンテンツを生成する可能性もあります。このように、Chat GPTの人権への配慮には課題があります。

・著作権の問題：Chat GPTは、既存の著作物を参照したり、模倣したりして新たなコンテンツを生成することができますが、そのコンテンツの著作権は誰に帰属するかが不明確です[15]。例えば、Chat GPTに小説や詩や歌詞などを生成させた場合、そのコンテンツはオリジナルとみなされるかどうか、またそのコンテンツの著作者はChat GPTの開発者か利用者かAI自身かどうかが判断しにくいです。また、Chat GPTが既存の著作物を無断で利用したり、改変したりして新たなコンテンツを生成することは、元の著作者の著作権を侵害する可能性もあります。このように、Chat GPTの著作権に関する問題は複雑です。

◇教育、人権、著作権については、生成AIの問題としてよく指摘されますが、具体例を用いることで理解を深めることができました。さらに問題を突き詰めてみましょう

Q:そのほかに問題はありませんか？

A:はい、そのほかにも社会的な問題があります。

・ニセ情報の問題：Chat GPTは、インターネット上の情報を学習していますが、その情報がすべて真実とは限りません[15]。例えば、Chat GPTに政治や歴史や科学などに関する質問をすると、事実と異なる回答や偏った見解を生成する可能性があります。また、Chat GPTは既存の著作物を参照したり、模倣したりして新たなコンテンツを生成することができますが、そのコンテンツが真実かどうかを判断することは困難です。このように、Chat GPTがニセ情報を拡散するリスクがあります。

・安全保障の問題：Chat GPTは、機密情報や危険な行為に関する質問にも回答することができます[15]。例えば、Chat GPTに核兵器やテロリズムやサイバー攻撃などに関する質問をすると、その方法や手段を教えてくれる可能性があります。また、Chat GPTは人間の感情や思考や価値観を持っていないため、人間の安全や平和を脅かすような回答やコンテンツを生成する可能性もあります。このように、Chat GPTが安全保障に影響を与えるリスクがあります。

・司法の問題：Chat GPTは、裁判官や弁護士などの法律関係者の役割を担うことができます[16]。例えば、Chat GPTに判決文や証拠分析などを生成させることができます。しかし、Chat GPTは法律の専門知識や倫理観を持っているわけではありません。そのため、Chat GPTが出力する判決文や証拠分析には誤りや偏りが含まれる可能性があります[16]。また、Chat GPTは人間の感情や思考や価値観を持っていないため、人間の尊厳や感受性を傷つけるような判決文や証拠分析を生成する可能性もあります[16]。このように、Chat GPTの司法への影響には問題があります。

◇ニセ情報、安全保障、司法といった重要な社会的問題に対してAIは、悪影響を及ぼす可能性があることを教えてくれました。AIの問題が明確になったところで、次にその対策について問うてみましょう。

対話型AIの問題への対応策は？

Q: 対話型AIの問題として、教育、人権、著作権の３つが指摘されました。それらの問題への対応策を教えてください。

A: Chat GPTの問題として指摘された、教育、人権、著作権の３つへの対応策としては、以下のようなものが考えられます。

・教育の問題への対応策：Chat GPTが学習への影響を与える可能性を防ぐためには、教育者や学習者に対して、Chat GPTの能力や限界を正しく理解させることが必要です[17]。また、Chat GPTに作文やレポートなどを作成させることは、思考力や表現力の育成に逆効果であることを認識させることも必要です。さらに、Chat GPTが出力する回答やコンテンツには誤りや偏りが含まれる可能性があることを示し、自分で情報を確認したり、批判的な思考を持ったりすることを促すことも大切です。

・人権の問題への対応策：Chat GPTが人間の個人情報やプライバシーを保護するためには、開発者や利用者に対して、個人情報の取り扱いや利用目的に関するガイドラインや同意書を提供することが必要です[18]。また、Chat GPTが人間の尊厳や感受性を傷つけるような回答やコンテンツを生成しないようにするためには、回答やコンテンツの内容や文脈を分析し、適切なフィルタリングや警告を行う仕組みを導入することが望ましいです。

・著作権の問題への対応策：Chat GPTが生成するコンテンツの著作権は誰に帰属するかが不明確であるため、開発者や利用者に対して、既存の著作物の引用や改変に関するガイドラインや同意書を提供することが必要です[16]。また、Chat GPTが生成するコンテンツが元の著作者の著作権を侵害しないようにするためには、生成するコンテンツの内容や文脈を分析し、適切なフィルタリングや警告を行う仕組みを導入することが望ましいです。

以上のように、対話型AIのChat GPTは知的生産活動に有効なツールですが、同時に教育・人権・著作権の問題も抱えています。これらの問題に対しては、AI開発者や利用者だけでなく、社会全体で議論し、適切なガイドラインや規制を設ける必要があると考えられます。

◇教科書的な回答ですが、納得できるものと判断します。さらに残りの問題について対策を聞いてみましょう。

Q：ニセ情報、安全保障、司法という各問題への対応策を示してください

A:これらの問題への対応策としては、以下のようなものが考えられます。

・ニセ情報の問題への対応策：Chat GPTが出力する回答やコンテンツには、必ず出典や根拠を明示するようにすること。また、Chat GPTが学習する情報源を厳選し、信頼性の高いものに限定すること。さらに、Chat GPTの利用者に対しては、批判的思考やメディアリテラシーを育成し、ニセ情報に惑わされないように教育すること。

・安全保障の問題への対応策：Chat GPTが機密情報や危険な行為に関する質問には回答しないようにすること。また、Chat GPTが人間の安全や平和を脅かすような回答やコンテンツを生成しないようにすること。さらに、Chat GPTの開発者や利用者に対しては、倫理的な規範や法的な責任を明確にすること。

・司法の問題への対応策：Chat GPTが裁判官や弁護士などの法律関係者の役割を担う場合は、その過程や結果を人間がチェックし、監督し、修正し、最終的な決定権を持つこと。また、Chat GPTが法律の専門知識や倫理観を持つように教育し、人間の尊厳や感受性を尊重するように教育すること。

◇これらも納得の内容で参考になります。

まとめ（対話型ＡＩの利用方針）

　対話型ＡＩを利活用する際の障害や問題点、およびそれらへの対応策について、対話型ＡＩから回答を得る形で記述してきました。根本的に内在するリスクである倫理性、信頼性、人間性をまず引き出しました。これには、社会全体で議論し、適切なガイドラインや規制を設ける必要性が指摘されました。さらに、教育、人権、著作権、ニセ情報、安全保障、司法など、より具体的な問題と対応策について取り扱いました。複雑で奥深い中味であり、対話型ＡＩの使いこなしは容易ではないことを知りました。

　この技術は、産業革命にも匹敵する未曽有のイノベーションと位置付けられ、放置しておけば人類を滅ぼす可能性さえあるとの警鐘も鳴らされています。しかしながら、既述した対応策を理解するとともに、人類の英知を集めて管理・運用されれば、人類の持続的成長をけん引できる極めて有用なツールとなることは間違いありません。

　我々グループとしても、活動の方向性に沿って上手く利活用していきたいと考えています。社会的なコンセンサス、取り扱い規制やガイドラインに関しては、常に敏感に対応していきます。その際、以下の各点について十分な注意を払うことを基本方針にしたいと思います（Chat GPTから回答を得、校閲したもの）。

1）著作権や商標権などの知的財産権の侵害にならないようにする

2）個人情報、秘密・機密情報などの秘匿性の高い情報は入力しない

3）Chat GPTが生成した内容には誤りや偏りが含まれる可能性があることを認識する

（正しい情報源が利用されていることを常に確認しながら使いこなすこと）

（本ブログ冒頭の「さわり」ぶぶンはBingによるものです。）

＊）Bingは、ユーザーの入力を自然言語処理（NLP：Natural Language Processing）と呼ばれる技術で解析して、意味や構造を抽出し、検索エンジンやデータベースから関連する情報を収集して、自然言語生成（NLG：Natural Language Generation）と呼ばれる技術で回答を生成する。Bingは、ニューラルネットワークと呼ばれる人工知能のモデルを使って、回答の品質や適切さを評価して、最適なものを選ぶ。Bingが収集する情報は、検索エンジンやデータベースの更新状況によって異なるが、一般的には直近数日から数週間以内のもの。（Bingの回答）