在开发基于LLM(大语言模型)的AI应用前, 我们首先要准备好必要的环境. 主要就是Python环境以及大模型应用开发部署环境.

01 Python开发环境准备

Python开发环境有如下四种, 根据个人喜好选其一即可: 

1. 本地安装Python及IDE, 适合学习测试开发;

2. 本地安装Python环境, 使用Jupyter Notebook, 适合学习测试;

3. 国内: 魔搭社区的JupyterLab(免费)

4. 国外: Google的Colab或者Huggingface(免费)

本文记录前三种, 看下面的图文, 你一定能学会.

• 方式1: 本地安装Python+IDE

  官网下载Python

  地址: https://www.python.org/downloads/

• 

  如上图, 根据自己的系统, 选择对应的版本, 完事安装, 不用教了吧.但是, 一般不直接使用这种最原始的方式安装, 更方面的方式是使用Anaconda, 可以在本地创建多版本的Python环境, 并且Conda的包管理工具也很强大.下面就下载Anaconda

  地址: https://www.anaconda.com/download

  

  

  Jetbrains下载PyCharm

  地址: https://www.jetbrains.com/zh-cn/pycharm/download

  

  安装过程, 地球人都知道, 自己用就可以了想说明的是: 现在的PyCharm可以直接使用Jupyter Notebook, 比方法二的纯Python自带的Notebook更方便.

  • 方法2, 下载的Python并安装之后, 使用JupyterNotebook

  

  • 

  • 

  • 方式3, 国内魔搭社区的Notebook环境

  优点: 不需要在本地安装Python环境, 省事并且免费

  

  

  

  • 方式4: 国外的Colab与HuggingFace和国内的魔搭差不多.

    优点: 免费

    缺点: 有网关

    国内用不了, 就划线划掉了, 用国内的对于学习和生产也不影响.

    02 模型部署环境准备

    1. 付费部署: 国内的云厂商如阿里云

    2. 免费部署: 国外的Huggingface (有网关, 我访问不到)

    3. 免费部署: 国内的魔搭社区(CPU免费, GPU有限时间使用)

    • 方式1: 原厂商的GPU机器环境

    收费的, 如果你是生产需要, 选择有两个, 使用云厂商的环境, 或者自己购置环境. 

    • 方式2: 还是使用Huggingface

    有网关, 国内学习, 魔搭完全可以替代.

    • 方式3: 使用魔搭社区

    学习测试, 魔搭是个不错的选择, 如果觉得算力不够, 那么就自己买块GPU吧

    

    

    小结: 

    1, 本地使用Anaconda作为Python的环境与包管理工具;

    2, 在魔搭弄一个免费的环境, 作为学习和分享

    有了环境之后, 就可以开启基于大语言模型(LLM)的AI应用开发之旅了.

    在这里可以直接创建一个AI应用, 并对外提供服务, 有时间限制, 作为学习是个不错的选择.