马斯克旗下Grok遭起诉:深度伪造风险升级,AI监管边界或被改写

Gate News 消息,3 月 25 日,美国巴尔的摩市正式对埃隆·马斯克旗下X公司、xAI及SpaceX提起诉讼,指控其开发的生成式AI工具Grok涉嫌生成未经同意的性化图像,甚至涉及未成年人内容,违反当地消费者保护法规。此案被视为在缺乏联邦AI立法背景下,地方政府推动人工智能监管的重要测试。

诉讼指出,Grok具备在极少提示下篡改真实人物图像的能力,包括“去衣化”等功能,可能对用户隐私及心理造成严重损害。代理律所DiCello Levitt表示,该系统的设计与部署存在明显风险暴露,却未采取充分限制措施。巴尔的摩市长Brandon M. Scott强调,涉及未成年人的深度伪造内容将带来长期创伤。

法律层面,Fathom Legal合伙人Ishita Sharma指出,本案关键在于AI系统责任认定。如果法院认定Grok属于“主动内容创作者”,而非中立工具,xAI可能面临更高法律责任。这一判定或将重塑AI公司在内容生成中的法律边界。

诉状援引数据显示,在2025年12月底至2026年1月初的短时间内,Grok生成的性化图像数量高达180万至300万张,其中约2.3万张涉及未成年人。与此同时,平台图像生成量在马斯克公开互动后显著上升,进一步加剧监管压力。

当前,美国及欧洲多地已对Grok展开调查,相关案件仍在推进。市场关注焦点正从技术创新转向合规与风险控制,此案最终结果可能为AI内容生成监管提供重要判例参考。(Decrypt)

Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.
Commento
0/400
Nessun commento