【3月21日 AFP】米新興企業オープンAIは、同社が開発した生成AI（人工知能）「ChatGPT」が虚偽情報を提供して「恐怖の物語」を作り上げ、ユーザーの名誉を毀損（きそん）したとする批判を受けている。

オーストリア・ウィーンに拠点を置く個人情報保護活動団体「ナン・オブ・ユア・ビジネス（Noyb）」の20日の発表によると、ノルウェー人男性のChatGPTユーザー、アルベ・ヤルマル・ホルメンさんが「自分について、ChatGPTが自身に関する情報を持っているかどうか調べたところ、虚偽のホラースト－リー」に直面した。

ホルメンさんに関するChatGPTの回答は、実子2人を殺害し、3人目の息子の殺人未遂で有罪判決を受けた犯罪者という説明だった。しかも、この虚偽の情報には、ホルメンさんの実際の私生活に関する情報も含まれていた。

ホルメンさんは「『火のないところに煙は立たない』と考える人々もいる。この回答を読んで、それが真実だと信じる人がいるかもしれないという事実に最も恐怖を感じた」と述べた。

Noybは「オープンAIの非常に人気の高いチャットボット、ChatGPTは、人々に関する虚偽情報を頻繁に提供しており、しかもそれを訂正する手段を一切提供していない」と批判した。さらに、ChatGPTが「汚職、児童虐待、さらには殺人といった罪を誤って実在する人物に着せ、糾弾したこともある」と警告し、ホルメンさんの場合がその一例だと述べた。

Noybはノルウェーのデータ保護機関「Datatilsynet」に提出した訴えの中で、オープンAIに対し、「名誉を毀損する回答の削除および不正確な結果を排除するよう、モデルを微調整する」よう命じること、また罰金を課すことを求めた。

Noybの代理人を務めるヨアキム・セーデルベリ弁護士は、欧州連合（EU）の一般データ保護規則による規定では、「個人データが正確でない場合、ユーザーには真実を反映するようデータを修正させる権利がある」と指摘した。また、ChatGPTの場合、ユーザー向けに「ごく目立たない」免責事項を表示するだけでは「明らかに不十分だ」と述べた。

Noybによると、ホルメンさんに関するChatGPTの情報は現在更新され、殺人犯として表示されることはなくなっている。だが、ホルメンさんに関する誤情報は依然、システム内に残っているとNoybは指摘した。

オープンAIはこれまでのところ、AFPの取材要請に応じていない。(c)AFP