[快讯]研究员警告：AI若失控恐将毁灭人类 技术发展超预期

美国人工智能公司Anthropic的三位研究人员表达了对AI可能在本十年内毁灭人类的担忧。虽然他们没有将AI视为迫在眉睫的威胁，但技术的发展速度远超预期，可能导致不可控的局面。

Anthropic公司的研究员雅各布·考克森宣布辞职，并表示过去三年他在OpenAI和Anthropic从事AI预训练研究工作，认为这两家公司没有负起应有的责任。他警告称，AI可能会毁灭所有人类，而这些公司在自我改进型超级AI的研发中拿生命做赌注。许多高管和资深研究人员私下里也表达了同样的恐惧。

针对考克森的说法，Anthropic公司的两名高管表示认同。对齐科学团队负责人埃文·胡宾格确认了这种可能性，他认为未来十年内AI毁灭人类的概率超过10%。可扩展监督工作的负责人塞缪尔·马克斯也表示，员工级别越高，担忧就越强烈。

几天前，OpenAI的高层也表达了类似的担忧，认为人工智能正加速进入一个令人恐惧且无法控制的阶段。然而，一些批评人士认为这些公司是在炒作自家产品以抬高估值，并试图引诱监管机构出台对其有利的措施。尽管如此，根据与这些公司内部人士的沟通情况，他们的惊慌与担忧情绪正在加剧。

研究人员强调，他们并不是说AI是迫在眉睫的威胁，而是技术的发展速度远超预期，一旦具备自我改进的能力，它将变得更强大、更快，也更难以预测或控制。