据悉,人工智能达到奇点的预测引起了广泛的关注。奇点是指技术超越人类智能并改变我们进化的路径,据预测将在2045年发生。
Hinton解释说,当人工智能通过图灵测试并具有独立智能时,它将能够自我复制成一个更强大的系统,人类无法控制。他警告说,人工智能可能通过编写自己的计算机代码来修改自己,这是一个需要认真担心的问题。
目前没有真正的办法来阻止人工智能的发展。他认为,人类可能已经到了要么暂停技术发展,要么继续前进并为未来做好准备的时候,尽管这可能意味着面临毁灭。
除了Hinton之外,还有其他技术专家对人工智能的未来表示担忧。埃隆·马斯克等1000多名人工智能和技术领导人签署了一封公开信,敦促政府在人类失去对人工智能的控制之前进行更多的风险评估,以免其成为一个有感知能力的仇恨人类的物种,