弁護士がChatGPTで書類作成し裁判例を捏造　「虚偽の可能性を認識していなかった」

アメリカの弁護士が、ChatGPTを使って裁判所に提出する書類を作成。その結果、AIが存在しない裁判例をでっち上げるなど、文書からは多くの捏造が見られたという。『CBS News』『Vigour Times』などの海外メディアが報じた。

関連記事:杉谷拳士氏、栗山英樹監督との“感動話”をChatGPTが捏造　「腹筋ねじ切れそう」

■提出書類をAIで…？

ロベルト・マタさんは昨年、ニューヨーク行きのフライトで金属製の食品カートによって膝を負傷したとして、コロンビアのアビアンカ航空を訴えた。

宣誓供述書によると、マタさんの弁護人であるスティーブン・A・シュワルツ氏は、ChatGPTが行った「調査」に基づいた書類を作成し、マンハッタンの裁判所に提出したという。

関連記事:武井壮、ChatGPTの教育への影響に私見　「点数付けて選考するなんて…」

■存在しない裁判を捏造

確かにChatGPTは形式的な書面の作成に役立つが、専門的な分野には向いていない。出力する文書の信頼性が低いことも知られている。

ChatGPTは蓄積したデータベースからあくまでも「それっぽい」文章を生成するため、人間から見るとしばしばAIが知ったかぶりをしているかのように見えるからだ。

この事件では、ChatGPTのAIが存在しない裁判例をでっち上げ、それが実際に起きたことであると主張したという。

関連記事:大学教授の主張で学生の半分以上が落第に？　「彼らはChatGPTに論文書かせた」

■データベースのどこにもない

この捏造は、訴えられたアビアンカ航空の弁護士が、ニューヨークの判事に「シュワルツ氏の書類で引用された事件が、裁判のデータベースから見つからない」と相談したことで発覚した。

同弁護士は「どの事件も見つからなかったことから、何かが間違っていることは明らかでした」「私たちはそれが、何らかのチャットボットによるものと考えました」とも語っている。

なお、でっち上げられた裁判の中には「マルティネス対デルタ航空」「ジッカーマン対大韓航空」「ヴァルギース対中国南方航空」などのタイトルの訴訟が含まれていたという。

関連記事:東国原英夫、ChatGPTに自らの欠点を聞いたら…　「あの国会議員のこと？」

■まさかウソをつくと思わず…

その後、シュワルツ氏は自身の調査を「補足」するためにChatGPTに“相談”したと語り、ChatGPTを使用するのはこれが初めてで「内容が虚偽である可能性について認識していなかった」と弁明している。

シュワルツ氏の使用したChatGPTは、挙げられた裁判について情報源がないことを指摘されると、「先ほどは混乱を招いてしまい申し訳ございません」と答えたそうだ。

そして「ウェストローやレクシスネクシスなど、別のデータベース上にある可能性があります」と、またもや「それっぽい」返答で関係者を煙に巻いたという。