ハルシネーション
【いまさら聞けない！？デジタルキーワード｜マネジメント倶楽部デジタル4月号】

2025年4月16日

○●———————
このコラムでは、今話題のデジタル関連のキーワードを取り上げます。言葉は聞いたことあるけれど、それって何？　という疑問が解決し、業務への今後の影響も理解できるように解説しています。
※本記事は「マネジメント倶楽部デジタル」に掲載されたものです
———————●○

ハルシネーション

3月号に続いて、AIに関するワードを取り上げます。AIにはたくさんの用途がありますが、今回は生成AIで作られた情報の正確性について考えてみます。すでにChatGPTやCopilotのようなチャット形式の生成AIを使っている人にとっては、“ハルシネーション”はイメージしやすいかもしれません。まだ使ったことがないという人は、今回を機に、“ハルシネーション”を体験してみてはどうでしょうか。

^{ハルシネーションとは}

ハルシネーション（Hallucination）とは、“幻覚”“幻影”と訳されます。生成AIを使っていると、このハルシネーションに遭遇します。

生成AIは、あらかじめ膨大な量の情報を学習し、また利用者の好みや嗜好を読み取りながら、それらをかけあわせて利用者の質問に答えてくれたり、文章を作成してくれたりします。このとき、生成AIが、間違った情報や事実ではない情報を作り上げてしまい、いかにも事実のような虚偽（もっともらしい嘘）の情報を回答することがあります。この現象が、生成AIが幻覚を見ているような状態であることから、ハルシネーションと呼ばれます。

^{ハルシネーションが起こる原因}

生成AIは、インターネット上にある膨大な情報を読み取り、それを基に学習しています。情報源となるインターネット上の情報が誤っていたとしても、誤った情報のまま、生成AIは理解してしまいます。または、一部に偏った意見や考えの記述があっても、情報が古く、新しい情報に更新されていない情報であっても、正しい情報として取り込んでしまうこともあります。十分に学習できていない分野についても、少ない情報量のまま、あたかも多くの情報をまとめたかのように回答することがあります。生成AIでは、わかりやすい文章を生成することが優先されてしまうため、結果的に“事実のような虚偽”が生まれてしまうのです。

^{ハルシネーションへの対応}

今後生成AIはさらに進化し、ハルシネーションは減っていくことが予想できます。しかしながら、その過程では、情報を扱う人間が、生成AIの生み出した情報を慎重に扱わなければなりません。例えば、ファクトチェックを入念に行い、情報の根拠を調べることは必須です。

また、文章を読むときにも注意が必要です。インターネットや様々な資料に掲載されている文章は、人が作成したものかAIが作成したものか簡単に判別できません。内容を鵜呑みにしない意識が大切です。自分が生成AIを使用するケースだけでなく、日々の業務や生活で接する情報の一つひとつもその正しさや正確性に注意しながら情報を受け止める必要があります。

※本コラムでは、さまざまな経営者にとって役立つ記事が集まるデジタル情報誌『マネジメント倶楽部デジタル』に掲載されている記事の一部を公開しています。

＼会計事務所の皆さまへ／
マネジメント倶楽部デジタルで、
このような連載コラムを顧問先にお届けすることができます！

マネジメント倶楽部デジタルの‟ココがおすすめ！”

無料でお届けすることができます（有料プランもございます）。
顧問先への継続的なコミュニケーションツールとしてもぴったり！
中小企業の経営情報などが掲載されており、顧問先との話題作りとしても。

マジメント倶楽部デジタルの‟ココが安心！”

マネジメント倶楽部デジタルの掲載記事は、税務研究会が監修しています。
マネジメント倶楽部は紙版で刊行された1997年10月以来、多くの経営者様にご愛読いただいています。
顧問先の数やご予算などに応じて、最適なプランをお選びいただけます。

＿＿今月末までのお申込みで、次月よりご利用スタート！
＼まずは気軽に始められる「無料プラン」を是非お試しください！／