美国首例！巴尔的摩起诉Grok伪造色情内容，马斯克xAI面临法律重压
编者按：在人工智能技术狂飙突进的今天，伦理与法律的边界正面临前所未有的挑战。近日，埃隆·马斯克旗下xAI公司因其图像生成工具Grok陷入多起诉讼漩涡，美国巴尔的摩市率先打响官方控诉第一枪，指控该工具助长非自愿色情内容生成，尤其针对妇女与儿童，引发社会对科技伦理的深刻反思。当技术创新沦为伤害工具，当深度伪造技术跨越道德红线，我们不禁要问：科技巨头的责任底线何在？监管体系又该如何跟上技术暴走的步伐？这不仅是一场法律诉讼，更是一场关乎人类尊严与数字时代安全未来的全民拷问。针对埃隆·马斯克xAI公司的诉讼正持续堆积，巴尔的摩成为美国首个就Grok图像生成器问题对该公司提起控诉的主要城市。巴尔的摩市长布兰登·斯科特在发给CNBC的电子邮件声明中表示，Grok生成的深度伪造内容“对受害者造成伴随终生的创伤性后果”。“我们谈论的是科技公司助长对儿童的性剥削，”斯科特写道，“我们的城市不会坐视这种行为继续发生；它威胁到隐私、尊严和公共安全，必须追究责任人的责任。”在上月完成合并后已成为SpaceX一部分的xAI公司，因Grok允许基于非自愿妇女儿童图像大规模生成所谓深度伪造色情内容，正面临多个国家的监管调查。上周，田纳西州三名青少年的代理律师对xAI提起拟议集体诉讼，指控Grok生成描绘这些青少年处于性化及贬损场景的内容。在3月24日向巡回法院提交的最新诉讼中，巴尔的摩市长及市议会指控xAI违反该市消费者保护法，从事欺骗性及不公平商业行为，具体表现为将Grok及前身为推特（Twitter）的X平台宣传为对用户总体安全。诉状提及一项“让她穿上比基尼”的网络趋势，该趋势鼓励Grok用户拍摄他人照片并进行裸体化处理。掌控SpaceX并兼任特斯拉CEO的马斯克曾参与该趋势，分享了一张用Grok生成的、描绘自己身着系带比基尼的图像。“马斯克的帖子公开认可了Grok对真人进行性化或暴露性编辑的能力，并向用户传递了此类使用方式可接受、幽默且受鼓励的信号，”巴尔的摩诉状中的律师写道，“作为xAI和X的所有者及主要公众形象代表，马斯克的帖子实质上为这种正被用于生成非自愿性影像的图像编辑功能进行了营销推广。”该市正在寻求“法定处罚的最高限额”，但诉状中未列明具体金额。同时要求“强制禁令救济”，以迫使马斯克公司对X和Grok进行整改，遏制研究人员所称的非自愿私密影像（NCII）和儿童性虐待材料（CSAM）的生成。巴尔的摩要求法院命令X和xAI“停止针对和剥削巴尔的摩居民”，“改革其剥削性平台设计”，并修正其营销宣传。SpaceX和xAI高管未立即回应置评请求。英国慈善组织“互联网观察基金会”周二发布的报告指出，女孩仍然是CSAM的绝对主要目标，在该组织2025年评估的非法AI生成性化图像中，97%以女性为对象。
本文由极观网原创发布，未经许可，不得转载！
本文链接：http://huioj.com/tech/17243.html
