本帖最后由 大王来巡山 于 2023-3-1 11:54 编辑
近日,百度宣布,计划推出与ChatGPT功能相同的应用,取名“文心一言”,目前正在内侧阶段,正在做上线前的冲刺,将在今年3月面向公众开放,成为世界第二个推出ChatGPT相关项目的厂商。。
“文心一言”背后的文心大模型(ERNIE)已经历三次迭代,训练数据超过千亿,这为百度比肩ChatGPT奠定了一定基础。虽然百度对文心大模型相关参数信息披露不多,但《TechnologyReview》两年前的一份报告提到,百度在通用语言和理解评估竞赛中击败了微软和谷歌。根据百度此前发表的论文,文心大模型3.0Titan包含2600亿个参数(ChatGPT使用1750亿参数的GPT3.5模型),是当时中国最大的密集预训模型,在68个NLP数据集上的性能已优于现阶段最先进的语言模型,包括ChatGPT所应用的GPT3.5模型。
虽然一些人工智能资深人士认为,在类ChatGPT技术上,中美各有所长基本持平,但华为诺亚方舟实验室语音语义首席科学家刘群认为,虽然我们训练了很多万亿模型或者是几千亿的模型,但训练的充分程度可能尚且不如谷歌,我估计到现在为止,没有哪个模型能吃GPT那么多数据。”刘群说。
可见,这也没某些老油渣想象的那么难
|