最近几个月,由人工智能实验室OpenAI发布的对话式大型语言模型ChatGPT在国内外各大平台掀起了一阵AI狂潮。短短几天时间,其用户量就突破了百万大关,注册用户之多一度导致服务器爆满。
继AI画图之后,ChatGPT成为了新的顶流,也引发了网友们的一系列讨论。ChatGPT的功能之强大,连马斯克都感到不可思议,直呼“我们离危险的强AI不远了”。
ChatGPT(全名:Chat Generative Pre-trained Transformer),是一种专注于对话生成的语言模型。它是人工智能技术驱动的自然语言处理工具,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,这个回答可以是简短的词语,也可以是长篇大论。
ChatGPT的主要特点:
ChatGPT 是基于GPT-3.5架构开发的对话AI模型,使用了Transformer神经网络架构,也是GPT-3.5架构,这是一种用于处理序列数据的模型,拥有语言理解和文本生成能力。ChatGPT很可能是OpenAI 在GPT-4 正式推出之前的演练,或用于收集大量对话数据。
OpenAI使用RLHF技术,对ChatGPT进行了大量训练,并投入了更多的人力进行微调,除此之外,ChatGPT还具有以下特征:
- 可以主动承认错误。若用户对其答案指出错误,模型会听取用户意见并优化相关答案。
- ChatGPT甚至可以质疑不正确的问题。例如被询问“蔡徐坤是哪支球队的球星?”,机器人会说明蔡徐坤是一位中国明星,擅长唱,跳,rap,篮球。
- ChatGPT会承认自己的无知,承认对专业技术的不了解。
- 支持连续多轮对话。
小文智能可以接入ChatGPT改进的地方:
小文智能从2018年发布上线至今,已经经历了三次功能迭代,在传统AI产品中属于佼佼者,然而即便如此,小文智能也依然存在不少缺陷及改进空间,其中最主要的几点如下:
- 需要人工纠正错误并加以干涉。用户无法直接对答案进行修正,需要对样本进行训练,并修正AI的意图走向。
- 无法对用户提问进行纠错。
- 不支持连续多轮对话。
- 对话被限制在固定场景和框架中。
- 对NLP的应用仅局限于【自然语言理解—NLU】,并没有更好的使用【自然语言生成—NLG】。
由此可见,小文智能发展至今,在智能度的提升方面已经存在明显瓶颈,而现存的几个缺陷都可以被ChatGPT很好的弥补,因此,引进ChatGPT并向其技术进行学习势必成为未来趋势。
未来走向:
虽然ChatGPT强大无比,但其模型大小和使用成本也让很多人望而却步。因此,现阶段小文智能对其应用的发展方向主要有以下几种方案:
- 降低单个权重的数值表示的精度。
- 删除网络元素。
- 稀疏化。即剪枝ChatGPT模型的稀疏性。
随着算法和算力的不断提升,ChatGPT也会不断迭代为更加先进更加强大的版本,在包括小文智能在内的越来越多的领域内进行应用,为人类的进步做出一定贡献。