メタのユーザー、AIでテイラー・スウィフトらのチャットボット無断作成

米メタ・プラットフォームズは2024年7月、Instagram、Messenger、WhatsAppのユーザーが独自のチャットボットを作成できる機能「AI Studio」を導入。メタは利用規約で、宗教上の人物や実在する人物、過去100年に亡くなった人物などを許可なしにAIキャラクター化することを明確に禁じているが、これに反して、テイラー・スウィフトやジャスティン・ビーバー、その他架空の人物を含む実在の人物を使ったボットが作成されている。NBCニュースが1月8日、伝えた。 

同社は生成されたAIキャラクターを利用可能とする前に審査しているというが、違反事例が後を立たない。メタはNBCニュースの報告を受け、問題となっているAIキャラクターをすぐに削除。「規約に違反するAIの作成と公開を防止するため、検出手段を継続的に改善している」とコメントしている。 

問題となっているチャットボットは、自動チェックを回避するため、意図的にスペルを間違えたり、有名人に似せた画像を使ったりしていた。テイラー・スウィフトの場合は「Taylor Swif」と表示され、ギターを弾くブルネットの女性のアバターだった。このボットは削除されるまで、Instagramのユーザーと2,000通以上のメッセージをやりとりしていたという。 

（文：坂本 泉）  

榎本編集長「InstagramやMessengerでユーザーがチャットボットを作れるAI Studioが稼働済みだが、無断でテイラー・スウィフトやジャスティン・ビーバーなど有名人のボットを作るユーザーが後を絶たないようだ。どうも名前をスペルミスにしたり、AIで生成した似顔絵にしたりで通ってしまうようで、検出の方のAIをもう少し頑張らないと公認ボットなどで稼ぐ機会をアーティストに与えられない。こうしたすり抜け手段はファイル共有や動画共有のときにも問題視されたが、YouTubeは自動検出ツールの改良を続けている。要は今後の対応スピードの問題ではなかろうか。メタ社にも同様の対応が期待されている」