人性黑暗面这个事物，也就是人性恶的部分，很难解决。AI的”恶“，是完全无法解决

卖真方子的

这也是我为什么对这个世界的前景不那么乐观的原因。


这是人类本性里面天然的带有的恶，无法根除的东西。


一对双生子，未足周岁，就会开始抢东西吃，这是不是本性的一部分？我基本肯定是。


AI的恶，你还没有见过，我也没见过，但我能预测出来一部分AI的”恶“。


阿尔法狗与诸位围棋界人类高手对弈的时候，它就展现了完全不符合人类理性的那部分智能。


人类的理性，当然是属于某种意义上的“善“，这是针对人类相互之间而言的。


人性的恶可能不会毁灭也可能会毁灭这个世界。这一点还无法确定。


而AI的”恶“，特别是它不符合人类理性部分的那部分”恶“，根本就是你无法预测的。

卖真方子的

知音 发表于 2023-2-18 20:42
人性本恶、人性本善这本来就是一个没有答案的问题。

为什么老担心人类危机呢？

这3年，全世界的新冠疫情死了几百万人。


当然，有些人认为是实验室失手泄露出来的，我也不敢肯定这种说法，天知道是什么原因。


我反正是不知道不清楚。


世界各国都有最高级别的生物实验室，那里面都是能毁灭人类的魔鬼病毒或者细菌。


你的记忆时间，是不是太短了点？

知音

人性本恶、人性本善这本来就是一个没有答案的问题。

为什么老担心人类危机呢？

卖真方子的

今天的人类社会，已经不是冷兵器时代了，而是核武器时代、生物武器时代、化学武器时代，还有AI这种比核武器更可怕的智能武器的时代。

冷兵器时代屡屡发生的屠城事件，只能毁灭局部的人类部族，而不可能做到毁灭全体人类。
这是不是”人性恶“在驱动屠城？

如果”人性恶“在60年前的核武器时代，差点能够毁灭人类（古巴导弹危机）。

那么，完全不遵循人类理性的AI，你认为它会不会毁灭人类，然后再毁灭掉它自己本身？