美国五家AI巨头因一边警告人工智能可能失控，一边加速研发更先进的模型而遭到法律挑战。11月12日，由安全AI联盟、不可替代教育基金、公共公民组织和热潮倡议组成的非营利组织联盟向美国五家AI开发商提起诉讼，要求法院阻止这些企业继续开发AI模型。
原告指控Anthropic、谷歌、meta、OpenAI和SpaceX旗下的AI企业明知自身研发的技术可能给人类带来灾难性风险，却仍竞相推进技术发展，甚至让AI参与自身的研发工作。安全AI联盟首席执行官布伦丹·斯坦豪瑟表示，被告企业清楚AI系统并不总是按照开发者的意图行事，也明白目前不存在可靠的方法来控制这些系统，但仍在开发和推销越来越强大的AI技术。
诉讼文件指出，随着企业越来越依赖现有AI模型开发下一代模型，这种被称为“递归自我改进”的风险可能进一步扩大。原告还引用了AI企业高管此前有关技术风险的公开表态。例如，2015年OpenAI首席执行官萨姆·奥尔特曼曾表示，AI“很可能最终导致世界末日”。2025年，Anthropic CEO达里奥·阿莫代伊也曾指出，AI发展有25%的可能性会带来灾难性后果。
今年，美国AI行业围绕技术安全与发展速度的争论持续升温。一名Anthropic研究人员辞职后，在社交媒体上表达对AI失控风险的担忧，指责Anthropic和OpenAI“拿我们的生命冒险”，相关帖子浏览量超过1.7亿次，加剧了公众对AI安全问题的忧虑。
9月，阿莫代伊发起倡议，呼吁行业共同控制前沿模型的性能提升速度，为验证技术安全性争取更多时间。奥尔特曼和马斯克随后表示支持，主张AI企业在政府出台监管措施之前先自行建立安全标准，并与竞争对手协调，避免一味追求技术领先。