成式AI到底在说什么
- 什么是生成式人工智能
- 生成式人工智能、机器学习、深度学习的关系
- chat-gpt 到底是如何实现对话的?
今天主要来看到底生成式AI是什么,语言模型是如何实现生成这个功能的?
什么是生成式人工智能
现在人工智能能做的事情很多,比如我们可以图像识别,可以图像分类,可以情感分析等等,这些都是生成了内容的,那到底什么是生成式的人工智能呢?通常来说,产生复杂结构的才成为生成式人工智能。那么问题来了这个复杂听起来很模糊,怎么才可以定义为复杂呢,通常来讲是很难穷举,比如我们要生成一段对话,那这段对话的每个字都有词库大小的可能,那这段话整体的可能性是一个无法穷举的可能。
而反过来说,只是简单的分类,比如我们给一个段话,进行情感分析,那这个有限的选择就不是生成式AI。
生成式人工智能、机器学习、深度学习的关系
机器学习,顾名思义,就是让机器自动的从一堆资料理面学习到一个方法,这个方法的功能就是要生成对话,判别类型等等
举个例子:输入一个图片,输出 类别
人力可以计算的函数是下面这样的:
但如果要实现上面类型判定显然是不够的,需要一个包括成千上亿个参数的方程式。那么这么多参数是又什么算出来的呢? 这个过程就是训练,后面的文章会有介绍如何训练这样要给方法。
目前这个函数的表示方法,通常情况是用类神经网络:
用类神经网络来表示这个函数的方法就是深度学习。今天最出名的神经网络就是transformer了,而最火的chat-gpt也正是用了这种神经网络
chat-gpt 到底是如何实现对话的?
今天最出名生成式人工智能就是chat-gpt了,那么它是怎么实现的呢?
它的做法,它会寻找要给函数:
输入:中国最高的山是,输出:喜
输入:中国最高的山是喜,输出:马…
一直到最后
输入:中国最高的山是喜马拉雅山,输出:结束符
这样就把一个无限可能的问题转化成了,每次只需要推测下一个字是什么,这个可能是有限的。
这个要实现的函数 就是所谓的语言模型。