有名アーティストや音楽レーベルが最近、SNSで注目を集めている無断でアーティストの音声を使用したAI音声カバーに懸念を示す中、このテクノロジーを悪用した詐欺行為が行われていたことがわかった。

Frank Oceanの"非常に高品質なボーカルの断片"を使ったAI詐欺行為

Viceによると、今年4月にAIが生成したFrank Oceanの音声を使用した偽曲集が、Discord内のグラミー賞受賞アーティストに関するリーク情報専門とする音楽情報フォーラム（Discord内のサーバー）で、1万3000カナダドル（約130万円）で販売されていたという。

詐欺行為を働いたmourningassasinというハンドルネームのユーザーは、AIによって生成されたFrank Oceanの"非常に高品質なボーカルの断片"を使って、約9曲の偽Frank Ocean曲を作るために人を雇ったと語っている。このユーザーは、偽曲のひとつのクリップを先述のフォーラムに投稿し、その曲が本物であることをすぐにユーザーに納得させたと主張。「すぐに誰もがそれが本物であると信じ始めたことに気づいた」と述べている。

1曲あたり3000ドルから4000ドルの値がついた

またmourningassasinは、複数人がプライベートメッセージで興味を示し、偽曲を手に入れるために大金を払うと申し出てきたと述べている。実際に4月中旬から下旬にかけて、1曲あたり3000ドルから4000ドルの値がついたと報告されている。

しかし、このユーザーはその後、投稿していた楽曲が本物でなかったことが発覚したことを受けて、フォーラムから追放されたという。このような事態が起きたことについてフォーラムのオーナーは「私たちのサーバーの信頼性に大きな打撃を与えてしまいました。結果的にこれらのコミュニティにおける新規かつ未確認の販売者からの信頼を失うことにつながるでしょう」と述べている。

なお、engadgetは、この偽曲が本物であると考えられた可能性として、Frank Oceanが2016年以来新作アルバムをリリースしておらず、先月コーチェラのステージ上で本人が最新アルバムのリリースを示唆したことが偽曲を本物だと信じたい気持ちに拍車をかけたと指摘している。