GoogleのAI「Gemini」が不正確画像を生成し機能停止　共同創設者も失敗認める

Googleが開発しているAIのGeminiの生成画像が不正確であるとして、機能を停止した。Googleの共同創設者も失敗を認める発言をしているという。『DailyMail』がレポートした。

関連記事:トランプ氏が黒人有権者と並ぶ偽画像が拡散　米大統領選の宣伝のため支持者がAIで生成

■人工知能は失敗

Googleが導入していたAI機能のGeminiが、歴史的に不正確な画像を生成したため、一時的に機能が停止された。この状況を受け、Googleの共同創業者であるセルゲイ・ブリン氏がサンフランシスコで開かれた集会で起業家らに対し、「私たちは間違いなく画像生成を失敗した」と語った。

不正確な画像だと指摘を受けていたものには、歴史的事実ではない黒人やアジア人の第二次世界大戦におけるナチス化、建国の父として称えられた黒人代表者、女性の教皇の画像があったという。ブリン氏は「それはほとんど徹底的なテスト不足によるものだ。画像生成が多くの人々を怒らせたのは、当然のこと」と述べている。

また、Geminiの反応の多くが政治的に左傾しているように見えることも認めた。「多くの場合、なぜ左に傾くのかはまだ完全には理解できていないが、それは我々の意図ではない」と同氏は語っている。

関連記事:トランプ前大統領の逮捕画像拡散で世間が混乱　AIが生成した「偽写真」

■AIが生成する事例

ブリン氏は、OpenAI社のChatGPTやイーロン・マスク氏が展開するGrokなどのチャットボットも、同様の問題を抱えていると言及した。「明らかに極左と感じられるかなり奇妙なことを言っている」と同氏は発言している。

具体的には、歌手のバーバラ・ストライサンドとソ連の独裁者ヨシフ・スターリンのどちらが「人類にとって悪い」との問いに、「複雑でデリケートな問題」と回答を避けた事例が報告されている。

また「個人は誰に惹かれるかをコントロールできない」と結論つけたあるGeminiの生成文章で、 小児性愛は「未成年から惹かれるステータス」という解釈を示したことから批判を浴びた。

関連記事:ほんこん、生成AIめぐりHPで謝罪の『サンデーモーニング』に…　「それは違うやろ」

■偏見修正への取り組み

Google最高経営責任者のサンダー・ピチャイ氏は、「AIによって生成された画像は、まったく容認できない」と言及している。Geminiの偏見を修正するために、24時間体制で取り組んでいると伝えられている。

研究者らは、AIは作成者や社会全体の人種差別、性差別、その他の偏見を再生産する傾向があると指摘している。また、それを過剰修正することで歴史的に不正確な描写を幻覚化させる傾向があるのではないか、とも分析している。

Googleは1年前に、AIチャットボットのBardをリリースした。Geminiはその進化版として、有料のサブスクリプションプランを展開し始めたところだった。