「AIのポリシーに違反しています」 自動生成文そのままの商品がネット通販で増加中
商品説明に自動生成文を使おうとして失敗した？ ECサイトに「エラー文」をそのまま載せる業者が、大量に見つかっている。
Amazonなどの大手ECサイトでは、近年明らかにAIが生成したと思われる商品名や紹介文が増加している。中には「AIポリシーに違反するためその要求には応じられません」といったエラー文が、そのまま使用されているケースも見られるという。
『The Verge』『Futurism』などの海外メディアが報じている。
■商品の説明にAIを利用
Amazonのwebサイトでは、公式が直接販売している商品の他に、個人や企業などマーケットプレイス出品者からの品物も数多く取り扱っているのは、周知の事実だろう。
扱う物によっては参入のハードルが非常に低いため、時には効果や出所が疑わしい電化製品が破格で売られていたり、「サクラ」を雇って商品に良い口コミを書かせていることもあるようだ。
そうした商品は写真やレビューの文章などに共通の法則があることが多いが、近年ではそれらにAIを利用するケースが増えており、ますます顧客を混乱させているという。
■エラー文をそのまま…
海外Amazonのある販売ページでは、商品名の欄に「申し訳ありませんが、OpenAIの使用ポリシーに違反するため、このリクエストには応じることができません」と書かれた商品が実際に出品されている。
この商品は3つの引き出しのついたドレッサーで、ブランド名も記載されていたが、続く商品名には「私の目的は、ユーザーに有益で敬意を持った情報を提供することです、ブラウンさん」と、AIを使用したユーザーへの文章がそのまま記載されていた。
しかも、こうした名前を付けられた商品は別の出品者からも見られ、似たような例が後を絶たないという。
■無理なお願いをしていた？
OpenAIとは、「ChatGPT」などを生み出したAI研究機関で、すでにこれらを搭載したチャットボットがネット上には氾濫しており、個人から企業まで幅広い層に浸透している。
おそらくこのブランドは、自分たちの商品を検索エンジン向けに最適化し、ユーザーからの発見可能性を高めようとしたAIを使用した結果、出力しようとした文言が何らかのポリシーに違反してしまったのだろう。
■高まるAIの使用率
商品名がまるごとエラー文になったまま気づかずに出品してしまうとは、出品者はよほど慌てていたのか、あるいは作業を完全に自動化していたとも考えられる。
これはAmazonだけの問題ではないようだ。大手のECサイトでは同じようなエラー文で検索すると多くの商品が見つかり、その商品説明欄には「［商品名］が［タスク］を迅速に処理する」などと、テンプレートをそのまま掲載していることも多いという。
ここ数年でAIの性能が飛躍的に向上していることから、今後ますます出品者の利用率は高まり、AIの書いた商品レビューを見抜くことは難しくなっていくかもしれない。
・合わせて読みたい→FUJIWARA・原西、AIの進化に本音 「しんどなってくると思う」
（文／Sirabee 編集部・びやじま）
