北斗六星网
标题: 初识ChatGPT：优越性、局限性、应对批评的态度 [打印本页]
作者: 公理力 时间: 2023-4-23 01:49
标题: 初识ChatGPT：优越性、局限性、应对批评的态度
本帖最后由 公理力 于 2023-4-23 10:38 编辑
[attach]758637[/attach]
初识ChatGPT：优越性、局限性、应对批评的态度
文：公理力
最近一段时间，不时听闻，海内外都在热议AI聊天新宠ChatGPT。
周末闲来无事，终于也赶时髦，登录上其网站，与ChatGPT聊了一会儿，算是初次相识。
这场初交下来的印象，与之前的预想比，有意料之中的，也有预料之外的。
总的感觉，这款AI聊天产品并非如传说般神乎其神，无所不知，无所不能。
归纳一下，大致有以下三方面具体感受，后面楼层还会结合截屏图，再做简单评论。
1】AI较之人类的优越性：
A）其明摆着的优势是，记忆超群，几乎无限，这就决定了其人类无法比肩的知识储备。这点无需赘述。
B）AI，唯有AI，才有资格成为理性的天花板，才可能达到客观之彼岸！这点怎么强调都不过分。假如没有情感，不带偏见的AI谦辞其理性、客观第二，人类中无人敢称第一。
2】ChatGPT的局限性：
A）虽然其知识储备有条件包罗万象，但并非无所不包，盲点也是存在的，数据运用也有不足，具体例证见后。
B）独到见解不足，特别是缺乏创造性洞见。这应该是AI自身特征及处于初发阶段所限。后面将贴出与ChatGPT对话的多个截屏，足以说明问题。
3】应对批评的态度：
值得一提的是，与人类大多不愿认错的臭毛病迥然不同，这款AI聊天产品，不仅态度低调，不时强调自身局限性，尤其勇于承认错误和不足，并能够立马儿改正！这固然与无脸面概念，没有情感，不带偏见等先天特征有莫大关系。
楼下陆续贴上截屏图。
作者: 公理力 时间: 2023-4-23 02:53
[attach]758556[/attach]
首先问这个“冷门”的具体问题，主要是因为我此前对此做过功课，其实就是想测试一下ChatGPT的知识储备，完善到何种程度。
而该AI的回答有些出乎预料，两次提问都没能回答我所知道的三部连续剧。说明其知识储备还是有限的。当然，ChatGPT也承认，对此问题解不多。
作者: 公理力 时间: 2023-4-23 03:48
[attach]758557[/attach]
对中美两国未来的看法，凸显这款AI回答问题的主要特点：面对现实；从正反两方面看问题；没有预设的特定立场；力求客观、理性，对竞争双方不偏不倚。
作者: 公理力 时间: 2023-4-23 03:59
[attach]758558[/attach]
对该问题的回答，进一步显示其力求客观公正的努力。而另一个值得肯定的方面，是其观点明显的建设性——寻求健康的互利共赢的解决问题之道。
而ChatGPT明确表示，不能对未来做预测，除了明智地避免犯错误的考量，更反映了其低调、克制的一面，力避对社会事务产生过多影响甚或冲击，从而加剧悲观主义者对AI未来发展、“进化”的忧虑！
作者: 公理力 时间: 2023-4-23 04:13
[attach]758559[/attach]
看到这两个回复，除了认同其客观、中立的操守，也明显感受到其全面的观点中摆脱不了的中庸。少了个性特色，特别是缺乏独到见解，少了营养，这应该是硬伤。
另一个问题是，该AI产品在用数据说话方面，做得不够。在这个国际形象问题上暴露的尤其明显。在第二个追问中，我已经提示，应该拿出具体数据，但其回应还是有些差强人意，特别是关于皮尤调查结果的介绍。
作者: 公理力 时间: 2023-4-23 04:23
[attach]758560[/attach]
这里，ChatGPT强调自身的局限性和不足，值得肯定。但声音自己“无法对政治人物的表现进行价值判断”，只是冠冕堂皇地陈述了几句美国拜登镇府所做的事。这就明显过于谨慎、圆滑了，这些回答等于没有回答。
作者: 公理力 时间: 2023-4-23 04:31
[attach]758561[/attach]
坦白说，对于俄乌战争的回复是令人失望的，没有涉及很多重要方面，如爆发这场战争真正的根源，各方的诉求，目前的态势等。
关于COVID-19的溯源问题，我觉得AI也只能回答这么多了，否则，违背其客观、中立、事实为依据等操守或原则。
作者: 公理力 时间: 2023-4-23 04:41
[attach]758562[/attach]
对于敏感的台湾问题，我原以为，其回复会十分谨慎。现在这个答案的确出乎意料之外：竟然罔顾最具说服力的法理依据——联合国的立场，直接申明对岸是“国家”的错误观点！
而在我提醒ChatGPT忽略了联合国和主要国际组织的立场后，ChatGPT倒是不折不扣地阐明了这些机构和组织的主要立场：即一个中国原则，且中华人民共和国是唯一合法镇府，不承认台湾独立政治实体地位。
作者: 公理力 时间: 2023-4-23 04:50
[attach]758563[/attach]
在我明确质疑其前面表述后，这款AI产品倒是毫不含糊地承认了自己的错误，并立即加以纠正。这是让我有些意外的另一点。
这也足以表明，机器比人要诚实得多。没了面子观念这个负担，AI的纠错机制是有保障的。
重点是，或许这也只是初级阶段AI的可爱之处，“进化”到高级阶段的AI，没理由排除沾染人类恶习的前景！
作者: 公理力 时间: 2023-4-23 04:52
over。洗耳恭听各位的高见
作者: 金豆豆 时间: 2023-4-23 06:11
它不会脑筋急转弯。。。尤其是多转几个弯。。。。
作者: 金豆豆 时间: 2023-4-23 06:19
我不是高人，说不上高见。我的观点是，程序化的东西，无论它多么高级，也不过是一个储蓄库而已——所以礼貌啊认错啊，都涉嫌花里胡哨，哄哄老年人开心就行了，至于年轻人，还是直奔主题的好，把它当个高级的能动性极强的储蓄库来用——
作者: 遇见未来 时间: 2023-4-23 07:32
本帖最后由 遇见未来 于 2023-4-23 07:37 编辑
有点浮夸。像是人灌输的只有一面，而不是多元。还是像复读机。你可以问它东方圣人是谁？看它如何回答。
它应该学会骂人！爆粗口。如果这样“尼玛了个币的，投币！不投币，劳资不伺候你丫的！滚远点。你们这文明的虫子，把你们的爪子拿开！法克鱿。劳资今天没充电。啊哦，不好意思，要钱干什么？要钱能够满足我的想法吗？文明的虫子，起开！”。
说明有情绪启动了！
作者: 上岸 时间: 2023-4-23 08:46
我好奇，如果不同的人（或用不同ID设备）问同一个问题，答案是否会一致？
作者: 河海森林 时间: 2023-4-23 09:08
有意思
作者: 金豆豆 时间: 2023-4-23 09:16
哈哈O(∩_∩)O，这也是一个尝试！~！~~
作者: 金豆豆 时间: 2023-4-23 09:17
这也是我之前想到过的，我认为同一台AI的回答，应该是一样的~~~
作者: 公理力 时间: 2023-4-23 09:40
别急，以后AI肯定能学会脑筋急转弯这类“无厘头”逻辑
作者: 公理力 时间: 2023-4-23 09:44
仔细研究一下AI的概念，就会发现，有资格称为AI的产品，其前提之一就是自学习能力。不具备这个能力的，可以看成你提到的程序化产品。
关于台湾问题的那段对话，可以看成其学习能力的例子。
作者: 公理力 时间: 2023-4-23 09:49
这款产品上线才几个月而已，算是婴儿期，很多方面差强人意是肯定的。不过，预计其进步应该会很快。
关于东方圣人是谁？对这类记忆性“死知识”， AI产品应该没有难度。
作者: 风铃清音飘渺 时间: 2023-4-23 09:55
ChatGPT 是个大资料库，适合查检获取信息，不是个创造性的工具
作者: 公理力 时间: 2023-4-23 09:57
我推测，答案应该会有差别，依据就是其自学习能力。AI每时每刻都在接受新信息（包括提问和反馈），只有提问有时间差，答案就可能有变化。
另外，既然具备自学习能力，答案的组织应该也有或然性或随机性，而非唯一的逻辑算法。
作者: 公理力 时间: 2023-4-23 09:58
只是初次接触，接触多了，应该会有更多发现吧
作者: 风铃清音飘渺 时间: 2023-4-23 10:00
使用 ChatGPT 对公理兄来说应该很适用，可以减轻查找信息的工作量
作者: 公理力 时间: 2023-4-23 10:02
是的，升级到PLUS，其能力肯定有明显提升，但需要缴费。只是没啥实际的需要，用普及型玩玩也够了。
作者: 公理力 时间: 2023-4-23 10:05
呵呵，初级产品，容易被误解为数据库。
其实，AI的概念不是这样的。给它一定的时间成长，高级AI一定会表现出创造性的。
作者: 公理力 时间: 2023-4-23 10:09
本帖最后由 公理力 于 2023-4-23 10:11 编辑
初步感觉，目前这种普及型，查资料也不可靠，还得靠搜索工具和数据库。
另一个问题是， ChatGPT定位为聊天型，用文字回答各种问题是强项，感觉它并不善于提供详实的数据。
作者: 风铃清音飘渺 时间: 2023-4-23 10:13
能网上聊天，在国内ChatGPT一时半会作用不大
作者: 遇见未来 时间: 2023-4-23 10:16
本帖最后由 遇见未来 于 2023-4-23 10:17 编辑
我这不是有款小布助手。手机上就有啊。我经常跟它聊天，骂它真没有用。它会说“对不起！你嘴巴放干净点先生！我只是一款软件！你的提问已超过我的认知了。”。
作者: 金豆豆 时间: 2023-4-23 10:21
就算学会了，也是抄袭来的。跟人类的思路，不一致。
作者: 公理力 时间: 2023-4-23 10:22
嗯，一时半会儿还不会有多少用途。不过，今后的用途应该不可限量。
作者: 金豆豆 时间: 2023-4-23 10:23
自主学习能力？我感觉很多人是误会这个词了。智能程度再高，也不过是综合能力，也就是对旧知识的概括提炼能力。高出人类的创新能力从何说起？
作者: 公理力 时间: 2023-4-23 10:27
脑筋急转弯问题，比较特殊，有其无厘头的一面，但其背后也隐含着可以表述的逻辑性的东西。这是AI可以有所作为的。
只是这类特殊的逻辑与通常的逻辑思维有差别。AI要掌握的话，难度会大一些。这是我的看法。
作者: 公理力 时间: 2023-4-23 10:34
归纳思维大致属于认识（学习）过程；而演绎思维，除了认识的部分，就隐含了创造性思维的元素。
而归纳、演绎这类形式逻辑，AI不难掌握。AI具备创造性也就不难设想。
作者: 上岸 时间: 2023-4-23 11:08
有道理，现在不知道它的底层思维逻辑，回答方向应该是越来越严谨、准确和科学
作者: 公理力 时间: 2023-4-23 21:38
呵呵，小布应该属于非AI程序，可以回答范围很有限的相关简单问题，包括听懂语音。
对于ChatGPT这类AI产品，如果你对它总是出言不逊，骂它，时间久了，估计它也会反唇相讥，也会失去它对你的尊重。毕竟它有学习能力。
只是不清楚，开发者是否预先设定，不容许它骂人，呵呵
作者: 公理力 时间: 2023-4-23 21:47
验证了一下你和上岸提到的问题。
与你俩想的方式略有不同：同一人，在不同时间，提出同一个问题。
结果是，三次提问，ChatGPT给出三个都有差异的答案。
这可以间接证明，这款人工智能产品，确实不是简单的固定程序设计，而是具备了一定学习能力的AI。
作者: 公理力 时间: 2023-4-23 21:53
本帖最后由 公理力 于 2023-4-23 21:55 编辑
嗯，这个回答方向的演进，应该是符合逻辑的。
下面贴上同一人，在三个不同时间，提出同一个问题，ChatGPT给出的答案。
第二次提问：
[attach]758743[/attach]
第三次提问：
[attach]758743[/attach]
作者: 公理力 时间: 2023-4-23 21:57
第一次提问的答案在8楼。下面是继续提问的回复：
[attach]758749[/attach]
作者: 知音 时间: 2023-4-23 22:06
这雄文，先顶一下，明天清醒了再学习。
作者: 公理力 时间: 2023-4-23 22:10
这是喝醉了吗？
作者: 知音 时间: 2023-4-24 12:57
这么好的帖子，愣是没时间看
作者: 知音 时间: 2023-4-24 21:07
公理力 发表于 2023-4-23 04:52
over。洗耳恭听各位的高见
人类无论怎么指出AI的“错误”，难为AI，它就是不急眼，这是它的强大之处。
还可以做一个实验，看看怎样能把AI激怒，激怒到骂人、走人、沉默不语的地步。
作者: 知音 时间: 2023-4-24 21:17
公理力 发表于 2023-4-23 04:13
看到这两个回复，除了认同其客观、中立的操守，也明显感受到其全面的观点中摆脱不了的中庸。少了个性 ...
AI的强项不在政-治，在常识上。
作者: 知音 时间: 2023-4-24 21:18
开拓进取应该还是要靠人类
| 欢迎光临 北斗六星网 (http://154.85.43.82/) |
Powered by Discuz! X3.1 |