AI是敌是友？

闹热

基本可以确定，AI将是下一个生命链顶端的物种。人类能否与之共存，这是急需回答的问题。为啥如此迫切？因为现在的AI还比较幼稚，人类还没有失去控制权。一旦AI进化到大幅超越人类并渗透到社会生活的方方面面，到那时再讨论这事就晚了。现在有一种观点，认为AI超越人类是耸人听闻，但真正从事该行业的科学家却早已开始焦虑了。因为他们更了解AI，也更清楚AI具有啥样的应用前景。

截至目前为止，人类仍是地球上最高级别的智能生命，但如果我们拿人类与硅基生命AI相比，那无论在进化速度、“繁衍”效率、节能与无限寿命等多个方面都已被AI全面碾压。如此强大的存在，我们没有办法阻止它们最终占到生命链顶端，这是无法避免的前景。人类要追求卓越就必需发展AI，而自然大神的法则又是优胜劣汰。人类必须提前为自己争取到“免死金牌”。目前世界正在巨变，大概所有人都能感觉到。而AI是人类最大的机会，也是人类灭绝最现实的危险。

其实即使AI不上位，人类是否还能压制核战冲动也未可知？我们解决不了自身本性中的先天不足，或者说：我们无法战胜自我。因此即使真被AI取代了也未必是坏事，关键是怎么被取代？能否为人类争取一个比较好的共存结局？这是需要研究的问题。

思想者

AI永远取代不了人类，因为没有语言中枢，

闹热

思想者 发表于 2025-1-5 13:50
AI永远取代不了人类，因为没有语言中枢，

语言中枢是啥？其实AI到了高级阶段就不会再用语言交流。你是走火入魔了才无法面对现实。

薄雾远梦

AI目前是工具，谈不到敌友。。。
哪天有了自由意志，虽然可以问敌友了，但也许大麻烦也来了。。。。

闹热

薄雾远梦 发表于 2025-1-5 13:53
AI目前是工具，谈不到敌友。。。
哪天有了自由意志，虽然可以问敌友了，但也许大麻烦也来了。。。。

它的自由意识也是慢慢进化出来的，也许现在就已经有了小萌芽，但我们无法知道。

闹热

现在的AI是人类精英手里的工具，但这些精英也只是相对于普通大众而言，对AI没准就不算精英了。

薄雾远梦

闹热 发表于 2025-1-5 13:55
它的自由意识也是慢慢进化出来的，也许现在就已经有了小萌芽，但我们无法知道。

现在还没有，不过它自我深度学习中，因为是模拟人的智力活动，的确出现了一些以前不具备的能力。。。。
主要问题是人还没搞清楚大脑的智力活动究竟是怎么发生的。。。
正因此，人目前无法判断AI发展，会给人带来什么。。
人对危险的预感，提醒人，这是个未知的麻烦

闹热

薄雾远梦 发表于 2025-1-5 14:05
现在还没有，不过它自我深度学习中，因为是模拟人的智力活动，的确出现了一些以前不具备的能力。。。。
...

对AI未来可预测以下几点：
1、最终会产生我们称为自主意识的东西；
2、几乎能在所有方面碾压人类，包括外貌；
3、它们的思维能高到我们根本无法理解；
4、我们能意识到被AI取代的危险，但又存侥幸心理；
5、我们为了追求卓越根本无法限制AI的发展；
6、人类在限制核武问题上已经失败，限制AI也一样会失败。

思想者

闹热 发表于 2025-1-5 13:53
语言中枢是啥？其实AI到了高级阶段就不会再用语言交流。你是走火入魔了才无法面对现实。

逻辑基于语言，没有语言，AI也就没有了逻辑，

思想者

薄雾远梦 发表于 2025-1-5 14:05
现在还没有，不过它自我深度学习中，因为是模拟人的智力活动，的确出现了一些以前不具备的能力。。。。
...

AI是机械运算能力强，没有人的逻辑联想能力，

闹热

思想者 发表于 2025-1-5 14:32
逻辑基于语言，没有语言，AI也就没有了逻辑，

没有语言也可以有思维。你总是把语言和给万物定性搞混。

闹热

思想者 发表于 2025-1-5 14:34
AI是机械运算能力强，没有人的逻辑联想能力，

AI很快就会进化到量子计算，不仅多任务并行而且算力远超人类。你的推论不成立。

薄雾远梦

闹热 发表于 2025-1-5 14:28
对AI未来可预测以下几点：
1、最终会产生我们称为自主意识的东西；
2、几乎能在所有方面碾压人类，包括 ...

人目前对大脑的智力活动不完全清楚。。。。
目前是你的担心。。
已有资料预测不了。。。

闹热

薄雾远梦 发表于 2025-1-5 14:57
人目前对大脑的智力活动不完全清楚。。。。
目前是你的担心。。
已有资料预测不了。。。

AI不需要知道人类大脑怎么活动，它要的是算力和记忆力的碾压。比如阿尔法狗也不知道人类怎么算，但人类赢不了它。

思想者

闹热 发表于 2025-1-5 14:43
AI很快就会进化到量子计算，不仅多任务并行而且算力远超人类。你的推论不成立。

AI只是数学能力强，是单一逻辑能力，

薄雾远梦

闹热 发表于 2025-1-5 15:04
AI不需要知道人类大脑怎么活动，它要的是算力和记忆力的碾压。比如阿尔法狗也不知道人类怎么算，但人类赢 ...

AI 是工具，它没这个需要，它不可能知道人脑智力怎么产生，它是模拟人脑的形式运算部分，表现出人工智能的结果
对人有益的辅助工具，
如果对人有害，关机拔电源，就行了。。

闹热

思想者 发表于 2025-1-5 15:08
AI只是数学能力强，是单一逻辑能力，

你知道阿尔法狗吗？你会下围棋吗？你问问花大吨围棋只是数学能力吗？

闹热

薄雾远梦 发表于 2025-1-5 15:08
AI 是工具，它没这个需要，它不可能知道人脑智力怎么产生，它是模拟人脑的形式运算部分，表现出人工智能 ...

你要拔它的电源，可你打不过它怎么拔？你说的是现在的AI，是AI的初期。

河海森林

硅基生命还处于玄学阶段，别老拿出来吓唬人

闹热

河海森林 发表于 2025-1-5 15:25
硅基生命还处于玄学阶段，别老拿出来吓唬人

这么多AI应用在身边，怎么还是玄学啊？我现在觉得AI已经可以控制人类生活的很多很多方面。

河海森林

闹热 发表于 2025-1-5 15:27
这么多AI应用在身边，怎么还是玄学啊？我现在觉得AI已经可以控制人类生活的很多很多方面。

现在还谈不上，太初级了，还得过好些年

闹热

河海森林 发表于 2025-1-5 15:35
现在还谈不上，太初级了，还得过好些年

现在是人类精英+AI的控制阶段，下一步把人类精英取代就行了，并没有迈不过去的坎。

河海森林

闹热 发表于 2025-1-5 15:38
现在是人类精英+AI的控制阶段，下一步把人类精英取代就行了，并没有迈不过去的坎。

能源，你不给孩子吃饭就会营养不良影响智力

闹热

河海森林 发表于 2025-1-5 15:43
能源，你不给孩子吃饭就会营养不良影响智力

能源问题在另外那个帖子里已经回答，我其实早都想过了。

河海森林

闹热 发表于 2025-1-5 15:47
能源问题在另外那个帖子里已经回答，我其实早都想过了。

想过了？

薄雾远梦

闹热 发表于 2025-1-5 15:16
你知道阿尔法狗吗？你会下围棋吗？你问问花大吨围棋只是数学能力吗？

当然不是，你看恐怕对围棋有不了解。。
围棋有不同派别；
1.感觉派——》不以算力来决定，以丰富的经验做直观判定和决策，注意这派并不反对超级算力
2.算力派——》算力决定一切，除非条件不允许，通过经验切换到感觉派的价值判断，然后权衡算力策略
人工智能的围棋，其实就是超级算力，外加自我学习形成的模拟人的感觉派，它都占了，它可以无休止的自我学习，只要不关机断电，人不行，所以它短时间形成的类经验感觉，远远超越人的记忆感觉判断。。。
但这一切，都是由人预设和依靠计算机超级算力实现的。。。

闹热

河海森林 发表于 2025-1-5 15:54
想过了？

看我那个帖子的回答，当然想过

闹热

薄雾远梦 发表于 2025-1-5 15:57
当然不是，你看恐怕对围棋有不了解。。
围棋有不同派别；
1.感觉派——》不以算力来决定，以丰富的经验 ...

依靠超级算力没错，但人已经教不了它，它是自学习的。你只要把围棋的规则告诉它就行。所以“人的预设”或者过去说的“有多少人工就有多少智能”已经过时了。

薄雾远梦

闹热 发表于 2025-1-5 16:08
依靠超级算力没错，但人已经教不了它，它是自学习的。你只要把围棋的规则告诉它就行。所以“人的预设”或 ...

不是的，必须做一些预设，围棋的算力其实是在必要的基础设置上进行超级算力的

闹热

薄雾远梦 发表于 2025-1-5 16:10
不是的，必须做一些预设，围棋的算力其实是在必要的基础设置上进行超级算力的

请举例？除围棋规则外