【资料图】

近日，美国亿万富翁埃隆·马斯克和人工智能领域顶尖专家、图灵奖得主约书亚·本吉奥等人联名签署了一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6个月，称其“对社会和人类构成潜在风险”。尽管有人怀疑马斯克的动机，但对迅猛突进的人工智能技术进行规范和约束却是刻不容缓。

在人类历史上，多次出现颠覆性的革命技术，如蒸汽机、内燃机、电灯、电报、电视、卫星技术等，这些技术，极大地释放人类生产力，但却完全能为人类所驾驭和利用。

真正第一次对社会和人类构成潜在风险的，是核武器的出现。当时，各国对核武器的热情，也让全球陷入核恐怖之中，有识之士认识到不限制核武器，可能让人类亲手毁掉自己。在国际社会的共同努力之下，1968年，联合国大会通过了《不扩散核武器条约》。

在人工智能飞速发展之前，还有一项冲击人类伦理底限的技术，那就是克隆技术。克隆技术是“无性繁殖”的科学技术，技术上尚不完善，其使用干扰了自然进化过程，也违背了很多伦理问题。 因此，2005年，联合国通过《联合国关于人类克隆宣言》，要求所有成员国禁止任何形式的人类克隆。这也是前沿技术发展过程中得到规范和约束的范例。

回到人工智能，马斯克曾说人工智能比核武器更危险。危险在哪里？在于人工智能可能最终发展出在数量上、智能上超越人类，甚至能淘汰并取代人类的非人类思维。这意味着失去对人类文明控制的风险。

不同于人类以往技术创新成果漫长的转化过程，人工智能技术突破能借助互联网一夜之间遍布全球。而随着人工智能的不断进步，其无所不能的边界不断扩大。人类真想好了么？让人工智能把所有的工作自动化，或者将所有信息和渠道交由人工智能产生和控制？那人做什么呢？信息真假如何辨别呢？让人工智能控制人类么？

著名物理学家霍金也曾说过，“成功创造了人工智能，很可能是人类文明史上最伟大的事件。但如果我们不能学会如何避免风险，那么我们会把自己置于绝境”。

马斯克等呼吁的暂停并不意味着停止人工智能的开发，而是希望通过约束和规范来解决其发展可能带来的社会和伦理问题。没有规矩难成方圆，不能放纵人工智能“野蛮生长”，最后“反噬”人类社会。

上游新闻陈力

（文章来源：上游新闻）