数据投毒

刘庄主

这个概念是我一早开车听广播听到的。
现在不是时尚什么智能什么AI吗，有坏人就把错误的东西塞进去。
什么智能什么AI，就是在你提问的时候，把它肚子里相关的东西吐出来给你，它只管吐，不管对错。
这就麻烦了，起草个合同，写个东西，你要是引用，你得去辨别真伪，你要没这个能耐，责任是你的。

刘庄主

就是提示器，你自己选你明白的，千万别照抄。

知音

前一阵我用豆包查规范的修订日期，好几个不同的规范最后修订日期都是25年，很明显是不对了，要是只查一个可能都发现不了错误。

知音

但是，坏东西怎么能人为插进去，也有难度

刘庄主

知音 发表于 2025-8-19 19:36
但是，坏东西怎么能人为插进去，也有难度

术业有专攻，利益驱动，估计是同行，毁别人发买卖。

杀手

知音 发表于 2025-8-19 19:36
但是，坏东西怎么能人为插进去，也有难度

猜测，大量喂数据包吧？

刘庄主

知音 发表于 2025-8-19 19:36
前一阵我用豆包查规范的修订日期，好几个不同的规范最后修订日期都是25年，很明显是不对了，要是只查一个 ...

广播里的人说，要用几个不同的AI对着找出错儿来，我心说，能对出不同点，矛盾之处，可是，哪个权威呀？

金豆豆

刘庄主 发表于 2025-8-19 18:06
就是提示器，你自己选你明白的，千万别照抄。

我早就发现这个了啊~~~所以更加考验甄别能力~~~

刘庄主

金豆豆 发表于 2025-8-19 22:42
我早就发现这个了啊~~~所以更加考验甄别能力~~~

冰雪聪明