然后我们继续来看这里的小批量梯度下降,小批量梯度下降,其实就是
用少量的样本数据,进行梯度下降,上面是公式
然后我们来看代码
import numpy as np 导入数学计算包
#X,y创建数据集X=np.random.rand(100,1) x是100行1列
w,b=np.random.randint(1,10,size=2) 然后获取w和截距,因为是一元一次方程,所以w1,和w0就取从1到10中取两个数.
y=w*X+b+np.random.randn(100,1) 然后对应的y也是100行一列的,这里添加了一个干扰项,就是100行一列的,一个符合正态分布的数据
#2、使用偏置项:X_0=1,更新X
X = np. c_ [X, np.ones( (100, 1) )] 然后我们再去使用np.c_[X,np.ones((100,1))]
这个写法是,给X,后面添加一列全部是1的一列,其实就是使得x0=1对吧
#3、定义一个函数来调整学习率
t0,t1=5,500 然后为了调整步幅,我们定义用
def learning rate schedule(t):
return t0/(t+t1) 这里就是5/500+梯度下降次数对吧
#4、创建超参数轮次、样本数量、小批量数量
epo