[PyTorch][chapter 44][时间序列表示方法3]

news2024/10/5 21:24:31

简介:

      word2vec 是 Google 于 2013 年开源推出的一个用于获取 word vector 的工具包，它简单、高效，因此引起了很多人的关注。由于 word2vec 的作者 Tomas Mikolov

其主要知识点

word2vec 基本思想
Skip-gram
cbow
Hierarchical softmax
Negative sampling
Subsampling of Frequent words

一 word2vec 基本思想

1.1 语言模型基本思想：

句子中下一个词出现和前面的词是有关系的，所以可以使用前面的词预测下一个词

1.2 word2vec 基本思想：
句子中相近的词是有联系的，如下：

今天	早上
	中午
	晚上

Word2Vec 基本思想: 使用词来预测词

Skip-gram 基本思想: 使用中心词预测周围词

cbow 基本思想: 使用周围词预测中心词

二 Skip-gram

2.1 简介

使用中心词预测周围词

$w_{i-2}$	$w_{i-1}$	$w_i$	$w_{i+1}$	$w_{i+2}$	向量
我	今天	下午	打	羽毛球	词

我们分别预测了

$P(W_{i-2}|w_i)$

$P(W_{i-1}|W_i)$

$P(W_{i+1}|W_i)$

$P(W_{i+2}|W_i)$

2.2 模型结构

输入层： $x_{v,1}$

使用 one-hot 编码的词向量

中心词矩阵 $W_{v,d}$ ：最终通过训练得到的矩阵

$a_{d,1}=W^Tx$ (中心词向量）

矩阵的shape 【input size, output size】

下面softmax 公式中 $V_{w_i}=a$

隐藏层

$z=U^Ta \in[v,1]$

其中权重系数矩阵

$U \in [v,d]$

输出层

$\hat{y}=softmax(z)$

其中

   $U \in [v,d]$

周围词向量

   $U_{W_{i-1}}\in[d,1]$

中心词向量

   $V_{W_i} \in [d,1]$

例：我们最后训练出来的W，用来代表该词向量

损失函数

例1

三 CBOW（Continuous Bag-of-Word）

3.1 简介

利用周围词预测中心词

3.2 模型

输入：

4个[v,1]的 One-hot 编码向量

$x_{i-2},x_{i-1},x_{i+1},x_{i+2}$

乘以一个[v,d]矩阵得到4个【d,1】的向量

$e_1=W^Tx_{i-2}$

$e_2=W^Tx_{i-1}$

$e_3=W^T x_{i+1}$

$e_4=W^Tx_{i+2}$

把4个向量加起来或者求平均值得到 上下文词向量 $U_0$

该词也称为窗口内上下文词向量[d,1]

其中W的shape 为[v,d]

隐藏层：

$h=V^Tu_0$

$V \in[d,v]$ 还是按照【input size, output size】

输出层

$\hat{y}=softmax(h)$

损失函数：

四 hierarchical softmax

4.1 核心思想:

如下是一个skip-gram 模型

词向量的维度v都非常大，直接做softmax 计算量非常大.

把 softmax 计算转换为求解sigmod 计算,降低运算量。

跟原模型相比：

原来激活函数softmax 函数，现在改成了如下图

的层次sigmoid 结构

4.2 流程：

1：构建Huffman 树

左分支概率<0.5,

右分支概率>0.5

比如skip-gram中我们要通过中心词求周围词I的概率

4.3 ： skip-gram 例子

其中：

$[[n(w,j+1)==ch(n(w,j))]]$

代表： 当前的节点是否为其父节点的右节点

如上图，I 为其父节点的左节点，所以取值为-1.

哈夫曼编码(Huffman Coding)，又称霍夫曼编码，通过编码后把高频词放在上面，

低频词放下面，使得带权路径最短。

4.4 损失函数

因为最终输出值是一个概率，依然使用CrossEntroy 交叉熵作为损失函数模型

，通过反向传播，更新参数。

要注意的是训练的时候：根据label 标签值比如 001，决定分支路径，

计算当前的分支的概率值。

五： Negative sampling

这种方案是目前常用的，hierarchical softmax基本不用了

5.1 核心思想：

将多分类问题，变成二分类问题。

以skip-gram 为例：输入单词w,

从周围词 U中随机采样一个 $u_1$ 作为正标签

从所有词中随机采样3-10 $u_2$ 个作为负标签

正样本： [w, $u_1$ ]

负样本：【w, $u_2$ 】

5.2 损失函数

K 为随机采样的负样本个数，正常3-10个

5.3 如何采样

$P(w)=\frac{P(w)^{3/4}}{Z}$

P(w) 是词w在数据集中出现的概率,

Z为归一化的参数,使得求解之后的概率和依旧为1.

作用：增大频率小的抽样概率，减少频率大的抽样概率

例：

已知

P(a)=0.01
p(b)=0.99

则：

# -*- coding: utf-8 -*-
"""
Created on Tue Jul 11 14:09:20 2023

@author: chengxf2
"""

import numpy as np
import random

def run():
    
    pa = 0.01
    pb = 0.99
    
    power_a= np.power(pa,0.75)
    power_b = np.power(pb,0.75)

    z = power_a+power_b
    
    pa = power_a/z
    pb = power_b/z
    
    print("\n pa: %4.2f"%pa, "\t pb:%4.2f "%pb)


    
def sampling():
    
 
    # 定义概率分布
    probabilities = [0.1, 0.2, 0.3, 0.4]
    # 定义待抽样元素
    elements = ['A', 'B', 'C', 'D']

    # 使用 random.choices() 函数进行抽样
    result = random.choices(elements, probabilities)
    
 
    #print(result)
    return result[0]