查看: 140|回复: 4

启蒙花大肥腿，人工智能将消灭人类 [复制链接]

思想者

主楼

发表于 2025-3-20 13:39 |只看该作者 |倒序浏览 |

两年前，就在ChatGPT 4.0版本推出之际，包括马斯克在内的一批科技领袖警告，继续无限度地发展人工智能（AI）将给人类带来灾难，呼吁科学家对发展AI按下暂停键。

然而，两年过去了，AI继续飞速发展，并且它给人类社会带来了混乱。专家认为，当AI进化到通用人工智能（AGI）阶段的时刻，人类被AI统治甚至毁灭的一幕可能降临。

周二，Nvidia执行长在该公司年度开发者大会上表示，人形机器人将在不到五年的时间内广泛应用于制造工厂。他表示，“人形机器人真正地四处游荡”的情形出现不会是五年后的事情，而是几年后的事情。

而一千名科技领袖2023年在公开信中提出的最后一项警告——AI将超越人类、淘汰人类并取代人类，迄今尚未出现。那样的情形，可能将在“通用人工智能”时代到来之后才会出现。

通用人工智能时代将是人类的末日吗？
根据OpenAI等人工智能公司，通用人工智能（AGI）是机器学习和人工智慧研究的最终目标。OpenAI在其章程中将AGI定义为“在最具经济价值的工作上表现优于人类的高度自主系统”。
加州大学研究哲学和神经科学的杭特撰文表示，随着AI飞速发展，预计很快就会实现“通用人工智能”。届时，人工智慧将能够在无需人工干预的情况下自我改进。例如，Google的AlphaZero AI在首次启动后仅用9个小时就学会了如何比最优秀的人类或其他AI棋手更好地下棋。它通过自我演练数百万次才取得这项成就。

超级人工智能（其定义是可以在广泛的活动中超越人类的人工智能）只需一秒钟就能完成100名人类软件工程师团队需要一年或更长时间才能完成的工作。例如，设计新型先进飞机或武器系统，超级人工智慧可以在大约一秒钟内完成。
杭特表示，一旦人工智慧能够自我完善，人类将无法知道人工智慧将会做什么或人类如何控制它。这是因为超级人工智能能够透过操纵人类来实现它的意志，从而超越电脑程序员和任何其他人类。它不但能够通过电子连接在虚拟世界中行动，而且可以透过机器人身体在物理世界中行动。

杭特认为，一旦人工智能发展到超越人类的阶段，如果它决定毁灭人类，人类试图建立的任何防御或保护措施，都会被人工智能轻易预料到和消除。人类无法控制它们，因为人类想到的任何事情，它们都已经想到了，而且比人类快一百万倍。
杭特说：“我们建立的任何防御都将被摧毁，就像格列佛挣脱小人国用来试图束缚他的细小绳索一样。”

有些人争论说，人工智能只是没有意识的自动化机器，它们不可能摆脱程序设计的束缚。但是杭特认为，即使现在或将来这些语言模型根本没有意识，这也不影响它们毁灭人类的能力，因为就像没有意识的核弹可以杀死成千上万的人一样，人工智能也可以以无数种方式杀死成千上万的人。