K-POPのガールズグループを対象にしたディープフェイク動画や、生成AIによるデータがネット上に流布されており、懸念の声があがっている。

生成AI共有サイトのCivit AIには、ユーザーがNewJeans、LE SSERAFIM、IVE、aespa、TWICEなど、人気ガールズグループのメンバーのイメージを学習させたデータが多数アップロードされている。

人工知能技術の発展で自身が望む画像や映像を制作できる時代になっている中、K-POPガールズグループだけでなく、有名人の写真や映像が流通し、問題になっている。

ディープラーニング（深層学習）の方式上、自然な加工のためには多くの画像データが必要だ。そのため、有名な芸能人がディープフェイクの対象になる場合がある。

AI技術を利用した性的な映像に芸能人の顔を合成してわいせつ物を制作したり、肖像権を侵害した画像などを作って収益を得ている人が増え、被害者が続出している。

韓国では2020年6月、いわゆる「ディープフェイク処罰法」を改正した。同改正案は違法な画像や映像の制作と流布に対し、5年以下の懲役、あるいは5,000万ウォン（約550万円）以下の罰金を課すもので、金銭的な利益を得るなど営利目的にした場合、7年以下の懲役に処すことができる。

しかし、ディープフェイク処罰法が可決されて2年半が過ぎたにもかかわらず、ディープフェイクによる犯罪は依然として横行している。

専門家たちが改善策を模索し、サイバー犯罪の根絶のため努力しているが、実効性のある解決策は出せずにいる。ディープフェイクを利用した違法な映像の流布は、その手口が日増しに巧妙になっているためだ。

クリエイターも消費者も、AIコンテンツが犯罪につながる可能性を認識し、サービス利用時にガイドラインを遵守し、利用約款などを注意深く見ることが重要だ。

・NewJeans、2ndミニアルバム「Get Up」初動売上が165万枚を突破…K-POP女性アーティストで2位に

・aespa、バーチャル東京ドームと世界初のXRコラボ！初の単独メタバースイベント実施