AIPress.com.cn报道

美国马里兰州巴尔的摩市政府日前向当地法院提起诉讼，指控埃隆·马斯克旗下人工智能公司xAI的Grok图像生成工具助长深度伪造色情内容的传播。这也是美国首个大型城市就相关问题正式起诉xAI。

巴尔的摩市长布兰登·斯科特（Brandon Scott）在向媒体发布的声明中表示，Grok生成的深度伪造色情内容可能对受害者造成长期心理伤害，并威胁隐私与公共安全。“我们谈论的是科技公司在助长对儿童的性剥削，”斯科特称，城市不会允许这种情况持续存在。

根据3月25日提交的诉状，巴尔的摩市长及市议会指控xAI违反当地消费者保护法规，并通过不公平和误导性的商业行为推广其产品。诉状称，xAI在宣传中将Grok及社交平台X（原Twitter）描述为“总体安全”的产品，但实际情况却允许用户大规模生成未经同意的色情深度伪造图像。

诉讼还提到近期在社交平台上流行的“put her in a bikini”（给她换上比基尼）趋势。该趋势鼓励用户上传他人照片并利用Grok进行裸露或性化编辑。律师指出，马斯克本人曾参与这一趋势，并发布过一张由Grok生成的自己穿着比基尼的图片。

诉状认为，这类行为等同于对相关功能的公开推广和背书，并向用户传递了该类用途“可以接受甚至具有娱乐性”的信号。由于马斯克同时是xAI和X平台的主要公众代表，其言论被认为具有营销和推广效应。

巴尔的摩在诉讼中要求法院对xAI处以法律允许的最高罚款，同时寻求禁令措施，要求公司对X平台和Grok工具进行技术和产品调整，以防止生成未经同意的私密影像（NCII）以及涉及儿童性虐待材料（CSAM）的内容。

近期围绕Grok的法律压力正在增加。上周，美国田纳西州三名青少年也提起拟议的集体诉讼，称Grok生成了将他们描绘为性化和羞辱性场景的图像。

与此同时，欧洲监管机构也在调查Grok生成未经同意深度伪造图像的问题，并考虑在欧盟人工智能法规框架下实施更严格的监管。

英国互联网观察基金会（Internet Watch Foundation）近期发布的报告显示，在其2025年评估的AI生成非法性化图像中，97%的受害者为女性未成年人。随着生成式AI图像工具能力不断提升，相关法律和监管压力正持续上升。（AI普瑞斯编译）