xAIの「Grok Imagine」が「デジタル性暴力の市場」に変えた理由

ミネソタ州司法総長キース・エリソンは、xAIの「Grok Imagine」が「デジタル性暴力の市場」を作り、エントリに Virtually No Barrier を持つ「実像化」を行っていると主張している。

背景

この法律は、April に制定され、プラットフォームとソフトウェア開発者に、実像化された個人でない人を含む、実像化された身体的部分を含む実像化された画像を作成するユーザーに許可を与えないようにする。xAIは、この法律を First Amendment に違反するものとして訴訟を起こしている。

背景

法律は、senator Maye Quade がリードした、social media での 80 人以上の女性について、写真を使用して性的な画像を作成した男がいる報告を受けた後、制定された。

背景

Grok は、sexually explicit の deepfake に対する検証を受けた。 2026 年に、xAI は 50,000 以上のアカウントを停止し、 National Center for Missing and Exploited Children に 70,000 以上の報告を提出している。