Huggingface的介绍,使用(CSDN最强Huggingface入门手册)
返回论文和资料目录
1.Huggingface的简介
Huggingface即是网站名也是其公司名,随着transformer浪潮,Huggingface逐步收纳了众多最前沿的模型和数据集等有趣的工作,与transformers库结合,可以快速使用学习这些模型。
2.Huggingface的具体介绍
进入Huggingface网站,如下图所示。
其主要包含:
- Models(模型),包括各种处理CV和NLP等任务的模型,上面模型都是可以免费获得
- Datasets(数据集),包括很多数据集
- Spaces(分享空间),包括社区空间下最新的一些有意思的分享,可以理解为huggingface朋友圈
- Docs(文档,各种模型算法文档),包括各种模型算法等说明使用文档
- Solutions(解决方案,体验等),包括others
- Pricing(dddd) ,懂的都懂
3.Huggingface的Models
点开Models。可以看到下图的任务,再点开+23 Tasks。
可以看到下图所有的任务。
其中,主要包括计算机视觉、自然语言处理、语音处理、多模态、表格处理、强化学习。
展开介绍:
Computer Vision(计算机视觉任务):包括lmage Classification(图像分类),lmage Segmentation(图像分割)、zero-Shot lmage Classification(零样本图像分类)、lmage-to-Image(图像到图像的任务)、Unconditional lmage Generation(无条件图像生成)、Object Detection(目标检测)、Video Classification(视频分类)、Depth Estimation(深度估计,估计拍摄者距离图像各处的距离)
Natural Language Processing(自然语言处理):包括Translation(机器翻译)、Fill-Mask(填充掩码,预测句子中被遮掩的词)、Token Classification(词分类)、Sentence Similarity(句子相似度)、Question Answering(问答系统),Summarization(总结,缩句)、Zero-Shot Classification (零样本分类)、Text Classification(文本分类)、Text2Text(文本到文本的生成)、Text Generation(文本生成)、Conversational(聊天)、Table Question Answer(表问答,1.预测表格中被遮掩单词2.数字推理,判断句子是否被表格数据支持)
Audio(语音):Automatic Speech Recognition(语音识别)、Audio Classification(语音分类)、Text-to-Speech(文本到语音的生成)、Audio-to-Audio(语音到语音的生成)、Voice Activity Detection(声音检测、检测识别出需要的声音部分)
Multimodal(多模态):Feature Extraction(特征提取)、Text-to-Image(文本到图像)、Visual Question Answering(视觉问答)、Image2Text(图像到文本)、Document Question Answering(文档问答)
Tabular(表格):Tabular Classification(表分类)、Tabular Regression(表回归)
Reinforcement Learning(强化学习):Reinforcement Learning(强化学习)、Robotics(机器人)
模型的使用
一般来说,页面上会给出模型的介绍。例如,我们打开其中一个fill-mask任务下下载最多的模型bert-base-uncased。
可以看到模型描述:
以及用法。需要提前安装transformers库,可以直接pip install transformers
安装。还有Pytorch或TensorFlow库,读者自行下载。
一般来说,第一次执行时pipeline会加载模型,模型会自动下载到本地,可以直接用。第一个参数是任务类型,第二个是具体模型名字。
模型下载在本地的地址:
C:\Users\【自己的用户名】\.cache\huggingface\hub
当然,不同模型使用方法略有区别,直接通过页面学习或文档学习最好。
from transformers import pipeline
unmasker = pipeline('fill-mask', model='bert-base-uncased')
unmasker("Hello I'm a [MASK] model.")
4.Huggingface的dataset
可以看到有如下任务的数据集。读者可自行打开学习
例如,我们打开Text Classification 任务的glue数据集
可以看到下图,里面会有数据集的介绍、相关信息和下载方式,读者自行查看。
5.Huggingface的spaces
点开如下图所示。里面有些近些天有趣的东西火热的apps。
比如,我看到一个有趣的扩散模型的app。。打开后发现其可以实现许多多模态之间的转换。
6.总结
类似Github,Huggingface里面有好多好东西。一起来玩下下!