【InternLM 实战营第二期笔记04】XTuner微调LLM:1.8B、多模态、Agent

news2024/9/25 17:16:08

一、微调的原因

大模型微调（Fine-tuning）的原因主要有以下几点：

  1. 适应特定任务：预训练的大模型往往是在大量通用数据上训练的，虽然具有强大的表示学习能力，但可能并不直接适用于特定的下游任务。通过微调，可以使模型针对特定任务的数据分布进行调整，从而提高在该任务上的性能。
  2. 利用预训练知识：预训练的大模型已经学习到了大量的通用知识，这些知识对于很多任务来说都是有益的。通过微调，可以保留这些预训练的知识，并在此基础上进行特定任务的调整，从而实现知识的迁移和复用。
  3. 减少训练时间和计算资源：从头开始训练一个大型模型需要大量的时间和计算资源。而微调一个预训练模型通常只需要较少的数据和计算资源，就可以达到较好的性能。这大大降低了应用深度学习技术的门槛和成本。
  4. 提高模型性能：通过微调，可以优化模型在特定任务上的性能。微调过程中，模型会根据特定任务的数据进行参数调整，使其更好地适应任务需求，从而提高性能。
  5. 解决过拟合问题：在某些情况下，直接应用预训练模型到特定任务可能会导致过拟合问题。通过微调，可以对模型进行正则化，减少过拟合的风险，提高模型的泛化能力。

综上所述，大模型微调是一种有效的方法，可以使模型更好地适应特定任务，提高性能，并降低训练成本和时间。

二、两种微调范式

两种微调范式主要包括增量预训练微调和指令跟随微调。这两种范式在LLM（大型语言模型）的下游应用中经常被用到，各有其独特的使用场景和所需训练数据。

  1. 增量预训练微调

    • 使用场景：该范式主要用于让基座模型学习到一些新知识，这些知识可能是某个特定垂类领域内的常识或专业知识。通过这种方式，模型能够在原有基础上进行扩展，增强其对特定领域的理解和处理能力。
    • 训练数据：增量预训练微调通常需要大量的文章、书籍、代码等作为训练数据。这些数据能够提供丰富的领域知识和上下文信息，帮助模型更好地理解和吸收新知识。

  2. 指令跟随微调

    • 使用场景：这种微调模式主要用于让模型学会对话模板，并能够根据人类的指令进行对话。通过这种方式，模型能够更好地理解人类的意图和需求，从而提供更为准确和有用的回应。
    • 训练数据：指令跟随微调通常需要高质量的对话、问答数据作为训练素材。这些数据能够提供丰富的对话场景和指令类型，帮助模型学会如何根据不同的指令进行回应。

这两种微调范式各有其优势和适用场景。增量预训练微调更适合于那些需要模型具备特定领域知识的应用，而指令跟随微调则更适用于那些需要模型与人类进行自然交互的场景。在实际应用中，可以根据具体需求选择合适的微调范式，以达到最佳的模型性能和应用效果。

 三、一条数据的一生

原始数据以标准格式进入系统，这些数据可能包括各种形式的信息，如文本、图像等。在Llama 2部分，用户输入数据，系统根据这些数据生成报告，并与用户进行互动。在这个过程中，系统还会对数据添加对话模板和标签，以便更好地理解和处理用户的请求。

接下来，在InternLM部分，数据会经历系统上下载、系统下打包和Llama 2训练等步骤。系统下载和上传数据，进行数据打包处理，然后利用这些数据对Llama 2进行训练，提升模型的性能和准确性。

最后，通过InternLM生成阶段，系统会根据用户的指令和对话模板，生成包含对话模板的助理回复。这个回复不仅回答了用户的问题，还遵循了特定的对话格式和规则，使得整个交互过程更加自然和流畅。

 四、LoRA & QLoRA

LoRA和QLoRA为我们提供了一种高效且灵活的方式来优化大型语言模型的性能，而无需对整个模型进行全面的改动。它们通过引入低秩适应和量化技术，成功降低了模型微调的显存消耗，为模型的部署和应用提供了更大的便利性和可能性。

LoRA主要是通过添加一个小型的线性层（支路）到原有的大型线性层旁边，来降低模型微调的显存消耗。这个新增的支路通常被称为Adapter，其参数量远小于原有的线性层，因此能够显著减少训练时所需的显存。通过这种方法，LoRA允许我们在不改变原有模型结构的情况下，对其进行有效的微调，以适应不同的任务或数据集。

而QLoRA是LoRA的一种改进版本，它引入了量化技术来进一步压缩Adapter的参数量。这种量化方法可以将Adapter的权重表示为低精度的数值，从而进一步减少显存消耗。即使只有有限的计算资源，QLoRA也能帮助我们有效地改造和优化大型语言模型。

五、XTuner简介

XTuner是一款功能强大的软件，其设计旨在提供灵活且高效的微调策略与算法，以满足各类场景下的应用需求。其主要功能亮点体现在多个方面：

首先，XTuner支持多种微调算法，无论是InternLM、Llama、Gemma，还是Mistral等，都能找到相应的优化策略。这种多样化的算法支持使得XTuner可以覆盖更广泛的场景，从而为用户提供更多的选择。

其次，XTuner能够适配多种开源生态，如HuggingFace和ModelScope等。这意味着用户可以轻松加载各种模型或数据集，进行快速的微调操作，提高工作效率。

此外，XTuner在任务类型、数据格式以及训练引擎等方面也提供了丰富的支持。无论是Alpaca、QLoRA微调，还是增量预训练等任务，XTuner都能提供相应的优化加速方案。

在硬件适配方面，XTuner展现出了出色的兼容性。它支持从消费级显卡到数据中心级显卡的广泛选择，包括但不限于NVIDIA的20系、30系、40系显卡，以及A10、A100、H100等高端显卡。这使得用户可以根据自身的硬件条件，选择最适合的配置进行微调操作。

 六、8GB显存玩转LLM

DeepSpeed ZeRQ和FlashAttention都是XTuner框架中针对深度学习模型训练过程中的显存消耗和计算效率问题而设计的优化技巧。它们通过不同的方式，有效地提升了模型训练的性能和速度，使得在有限的硬件资源下，能够更有效地进行深度学习模型的训练和部署。

DeepSpeed ZeRQ是DeepSpeed框架中的一个分布式训练技术，它通过优化模型参数的共享和内存使用，提高了深度学习模型训练的效率和速度。具体来说，ZeRQ实现了零总和压缩算法，这种算法通过减少同步操作中传输的数据量来降低通信开销。此外，ZeRQ还提供了ZeRO-2（Zero Redundancy Optimizer-2）的内存优化技术，这种技术将大型模型参数分割成多个小块，每个小块独立存储于不同的设备上，从而减少了内存使用量。每个分块都可以被独立地更新和同步，进一步提高了训练速度和可扩展性。因此，使用DeepSpeed ZeRQ可以在保持模型性能的同时，显著降低训练时的显存消耗，从而使得更大规模、更复杂的模型训练成为可能。

而FlashAttention则主要关注于提高深度学习模型中Attention机制的计算效率。传统的Attention机制在计算过程中需要频繁地读写内存，这会导致显著的延迟。FlashAttention通过优化内存访问模式，减少了这种延迟。它利用高效的数据布局和访问模式，将Attention计算并行化，从而避免了计算过程中Attention Score NxN的显存占用。这种优化使得FlashAttention在处理大规模数据时，能够显著提高计算效率，加快训练速度。

 七、InternLM2 1.8B 模型

InternLM2 1.8B模型是一款高质量、高适应灵活性的基础模型，它是为了响应社区用户强烈的呼声而开发的，并已经正式开源。这款模型提供了三个不同版本供用户选择，满足不同需求。它能够为下游深度适应提供良好的起点，并且拥有较低的硬件门槛，使得初学者也能轻松进行大模型的全链路操作。此外，该模型还表现出优秀的指令跟随、聊天体验和函数调用能力，非常推荐在下游应用程序中使用。具体来说，在FP16精度模式下，InternLM2-1.8B仅需4GB显存的笔记本显卡即可顺畅运行，而拥有8GB显存的消费级显卡即可轻松进行模型的微调工作。

 八、多模态LLM

1.多模态LLM简介

多模态LLM，即多模态大语言模型（Multimodal Large Language Model），是一种能够处理多种模态输入（如文本、图像、语音等）的语言模型。相比于传统的单模态语言模型，多模态LLM能够更好地理解和生成与多模态输入相关的自然语言。

多模态LLM通过模态对齐和多模态融合技术，能够实现对不同模态信息的有效整合和处理。这使得多模态LLM在智能客服、智能助手、文本生成和创作辅助、智能搜索和信息推荐、智能编程和代码生成等多个领域具有广泛的应用前景。

2.LLaVA方案简介

LLaVA方案是一种创新的文本与图像结合的处理方案。它主要利用了GPT-4V项目对图像数据进行描述生成，进而构建出大量包含问题文本、图像和答案文本的数据对。这些数据对为后续的模型训练提供了丰富的资源。

在训练阶段，LLaVA方案通过利用已有的文本单模态LLM（大语言模型）和训练出的ImageProjector（图像投影器），共同构建成一个完整的LLaVA模型。这个模型不仅能够处理文本数据，还能够处理图像数据，实现了文本与图像的多模态融合。

在LLaVA训练阶段示意图中，我们可以看到图像数据经过预处理后，被送入ImageProjector进行特征提取，然后与文本数据一起，通过文本单模态LLM进行处理。在这个过程中，模型学习到了如何将图像特征与文本信息进行有效的结合，从而提高了对图像的理解和生成文本的质量。

到了测试阶段，LLaVA模型可以接收新的图像输入，通过ImageProjector提取图像特征，并结合文本单模态LLM生成相应的文本输出。这种能力使得LLaVA模型在智能客服、图像描述生成、图像问答等多个领域具有广泛的应用前景。

3.快速上手

在【InternLM 实战营第二期作业04】XTuner微调LLM:1.8B、多模态、Agent中会详细展示【InternLM 实战营第二期作业04】XTuner微调LLM:1.8B、多模态、Agent-CSDN博客：

九、XTuner多模态训练与测试

快速上手

1.环境准备

XTuner安装
# 如果你是在 InternStudio 平台，则从本地 clone 一个已有 pytorch 的环境：
# pytorch    2.0.1   py3.10_cuda11.7_cudnn8.5.0_0

cd ~ && studio-conda xtuner0.1.17
# 如果你是在其他平台：
# conda create --name xtuner0.1.17 python=3.10 -y

# 激活环境
conda activate xtuner0.1.17
# 进入家目录 （~的意思是 “当前用户的home路径”）
cd ~
# 创建版本文件夹并进入，以跟随本教程
mkdir -p /root/xtuner0117 && cd /root/xtuner0117

# 拉取 0.1.17 的版本源码
git clone -b v0.1.17  https://github.com/InternLM/xtuner
# 无法访问github的用户请从 gitee 拉取:
# git clone -b v0.1.15 https://gitee.com/Internlm/xtuner

# 进入源码目录
cd /root/xtuner0117/xtuner

# 从源码安装 XTuner
pip install -e '.[all]' && cd ~

 假如速度太慢可以 Ctrl + C 退出后换成 pip install -e '.[all]' -i https://mirrors.aliyun.com/pypi/simple/

 2.Pretrain阶段

Pretrain阶段训练完成后，此时的模型已经有视觉能力了！但是由于训练数据中都是图片+图片标题，所以此时的模型虽然有视觉能力，但无论用户问它什么，它都只会回答输入图片的标题。即，此时的模型只会给输入图像“写标题”。

NPROC_PER_NODE=8 xtuner train llava_internlm2_chat_1_8b_clip_vit_large_p14_336_e1_gpu8_pretrain --deepspeed deepspeed_zero2

NPROC_PER_NODE=8 xtuner train llava_internlm2_chat_1_8b_qlora_clip_vit_large_p14_336_lora_e1_gpu8_finetune --deepspeed deepspeed_zero2

3. Finetune阶段

训练数据构建
格式
[
    {
        "id": "随便什么字符串",
        "image": "图片文件的相对位置。相对谁？相对你后面config文件里指定的image_folder参数的路径。",
        "conversation": [
            {
                "from": "human",
                "value": "<image>\n第1个问题。"
            },
            {
                "from": "gpt",
                "value": "第1个回答"
            },
            {
                "from": "human",
                "value": "第2个问题。"
            },
            {
                "from": "gpt",
                "value": "第2个回答"
            },
            # ......
            {
                "from": "human",
                "value": "第n个问题。"
            },
            {
                "from": "gpt",
                "value": "第n个回答"
            },
        ]
    },

    # 下面是第2组训练数据了。

    {
        "id": "随便什么字符串",
        "image": "图片文件的相对位置。相对谁？相对你后面config文件里指定的image_folder参数的路径。",
        "conversation": [
            {
                "from": "human",
                "value": "<image>\n第1个问题。"
            },
            # ......
            {
                "from": "gpt",
                "value": "第n个回答"
            }
        ]
    }
]

 注意：每组训练数据的第1个来自human的问题前，要加上图片占位符，即<image>

 制作
[
  {
    "id": "<random_number_string>",
    "image": "test_img/oph.jpg",
    "conversations": [
      {
        "from": "human",
        "value": "<image>\nDescribe this image."
      },
      {
        "from": "gpt",
        "value": "<answer1>"
      },
      {
        "from": "human",
        "value": "<question2>"
      },
      {
        "from": "gpt",
        "value": "<answer2>"
      },
      {
        "from": "human",
        "value": "<question3>"
      },
      {
        "from": "gpt",
        "value": "<answer3>"
      }
    ]
  }
]
 生成示例图片的问答对数据
cd ~ && git clone https://github.com/InternLM/tutorial -b camp2 && conda activate xtuner0.1.17 && cd tutorial

python /root/tutorial/xtuner/llava/llava_data/repeat.py \
  -i /root/tutorial/xtuner/llava/llava_data/unique_data.json \
  -o /root/tutorial/xtuner/llava/llava_data/repeated_data.json \
  -n 200
 准备配置文件
创建配置文件
# 查询xtuner内置配置文件
xtuner list-cfg -p llava_internlm2_chat_1_8b

# 拷贝配置文件到当前目录
xtuner copy-cfg \
  llava_internlm2_chat_1_8b_qlora_clip_vit_large_p14_336_lora_e1_gpu8_finetune \
  /root/tutorial/xtuner/llava
 修改配置文件

修改llava_internlm2_chat_1_8b_qlora_clip_vit_large_p14_336_lora_e1_gpu8_finetune_copy.py文件

# Model
- llm_name_or_path = 'internlm/internlm2-chat-1_8b'
+ llm_name_or_path = '/root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b'
- visual_encoder_name_or_path = 'openai/clip-vit-large-patch14-336'
+ visual_encoder_name_or_path = '/root/share/new_models/openai/clip-vit-large-patch14-336'

# Specify the pretrained pth
- pretrained_pth = './work_dirs/llava_internlm2_chat_1_8b_clip_vit_large_p14_336_e1_gpu8_pretrain/iter_2181.pth'  # noqa: E501
+ pretrained_pth = '/root/share/new_models/xtuner/iter_2181.pth'

# Data
- data_root = './data/llava_data/'
+ data_root = '/root/tutorial/xtuner/llava/llava_data/'
- data_path = data_root + 'LLaVA-Instruct-150K/llava_v1_5_mix665k.json'
+ data_path = data_root + 'repeated_data.json'
- image_folder = data_root + 'llava_images'
+ image_folder = data_root

# Scheduler & Optimizer
- batch_size = 16  # per_device
+ batch_size = 1  # per_device


# evaluation_inputs
- evaluation_inputs = ['请描述一下这张图片','Please describe this picture']
+ evaluation_inputs = ['Please describe this picture','What is the equipment in the image?']
 开始Finetune
cd /root/tutorial/xtuner/llava/
xtuner train /root/tutorial/xtuner/llava/llava_internlm2_chat_1_8b_qlora_clip_vit_large_p14_336_lora_e1_gpu8_finetune_copy.py --deepspeed deepspeed_zero2

 4.对比Finetune前后的性能差异

  Finetune前

加载 1.8B 和 Pretrain阶段产物(iter_2181) 到显存。

# 解决小bug
export MKL_SERVICE_FORCE_INTEL=1
export MKL_THREADING_LAYER=GNU

# pth转huggingface
xtuner convert pth_to_hf \
  llava_internlm2_chat_1_8b_clip_vit_large_p14_336_e1_gpu8_pretrain \
  /root/share/new_models/xtuner/iter_2181.pth \
  /root/tutorial/xtuner/llava/llava_data/iter_2181_hf

# 启动！
xtuner chat /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b \
  --visual-encoder /root/share/new_models/openai/clip-vit-large-patch14-336 \
  --llava /root/tutorial/xtuner/llava/llava_data/iter_2181_hf \
  --prompt-template internlm2_chat \
  --image /root/tutorial/xtuner/llava/llava_data/test_img/oph.jpg
效果图

Finetune前：只会打标题 

 Finetune后

加载 1.8B 和 Fintune阶段产物 到显存

# 解决小bug
export MKL_SERVICE_FORCE_INTEL=1
export MKL_THREADING_LAYER=GNU

# pth转huggingface
xtuner convert pth_to_hf \
  /root/tutorial/xtuner/llava/llava_internlm2_chat_1_8b_qlora_clip_vit_large_p14_336_lora_e1_gpu8_finetune_copy.py \
  /root/tutorial/xtuner/llava/work_dirs/llava_internlm2_chat_1_8b_qlora_clip_vit_large_p14_336_lora_e1_gpu8_finetune_copy/iter_1200.pth \
  /root/tutorial/xtuner/llava/llava_data/iter_1200_hf

# 启动！
xtuner chat /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b \
  --visual-encoder /root/share/new_models/openai/clip-vit-large-patch14-336 \
  --llava /root/tutorial/xtuner/llava/llava_data/iter_1200_hf \
  --prompt-template internlm2_chat \
  --image /root/tutorial/xtuner/llava/llava_data/test_img/oph.jpg
效果图 

Finetune后：会回答问题了

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1615703.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

低代码新时代：6款免费开发平台助你畅行编码之路

低代码新时代：6款免费开发平台助你畅行编码之路

本篇文章为您介绍的六款免费又好用的低代码开发平台有&#xff1a;Zoho creator、Baserow、OS.bee、nuBuilder、JHipster、Appian。 一、Zoho creator Zoho Creator是一款国际化的低代码开发平台&#xff0c;有超17年低代码经验。近些年&#xff0c;Zoho Creator以其成本低、国…
阅读更多...
一键还原精灵 V12.1.405.701 装机版

一键还原精灵 V12.1.405.701 装机版

网盘下载 个人版&#xff1a;不划分分区不修改分区表及MBR&#xff0c;安装非常安全&#xff0c;备份文件自动隐藏&#xff0c;不适用于WIN98系统。 装机版&#xff1a;需用PQMAGIC划分分区作隐藏的备份分区&#xff0c;安装过程中有一定的风险&#xff0c;安装后就非常安全。…
阅读更多...
基于SpringBoot的宠物领养网站管理系统

基于SpringBoot的宠物领养网站管理系统

基于SpringBootVue的宠物领养网站管理系统的设计与实现~ 开发语言&#xff1a;Java数据库&#xff1a;MySQL技术&#xff1a;SpringBootMyBatis工具&#xff1a;IDEA/Ecilpse、Navicat、Maven 系统展示 主页 宠物领养 宠物救助站 宠物论坛 登录界面 管理员界面 摘要 基于Spr…
阅读更多...
[RTOS 学习记录] 复杂工程项目的管理

[RTOS 学习记录] 复杂工程项目的管理

[RTOS 学习记录] 复杂工程项目的管理 这篇文章是我阅读《嵌入式实时操作系统μCOS-II原理及应用》后的读书笔记&#xff0c;记录目的是为了个人后续回顾复习使用。 前置内容&#xff1a; 工程管理工具make及makefile 文章目录 1 批处理文件与makefile的综合使用1.1 批处理文件…
阅读更多...
[第一届 帕鲁杯 CTF挑战赛 2024] Crypto/PWN/Reverse

[第一届 帕鲁杯 CTF挑战赛 2024] Crypto/PWN/Reverse

被一个小题整坏了&#xff0c;后边就没认真打。赛后把没作的复盘一下。 比赛有52个应急响应&#xff0c;猜是取证&#xff0c;都是队友在干&#xff0c;我也不大关心。前边大多题是比赛的原题。这是后来听说的&#xff0c;可都没见过&#xff0c;看来打的比赛还是少了。 Cryp…
阅读更多...
基于RT-Thread摄像头车牌图像采集系统

基于RT-Thread摄像头车牌图像采集系统

一、项目简介 使用基于RT-thread操作系统的AB32VG1开发板作为主控&#xff0c;对ov7670摄像头进行图像采集&#xff0c;并使用串口发送图片RGB565格式到PC供opencv进行图像识别。 原项目设想在开发板上进行采集的同时并通过简单的二值算法和插值算法实现车牌号识别&#xff0c…
阅读更多...
Obsidian 快速安装

Obsidian 快速安装

看网上Obsidian 很好用&#xff0c;但自己下载总是中断&#xff0c;烦的要死&#xff0c;一度以为要开魔法…… 直到我找到了这个网站Thoughts (teambition.com) yeah~ 亲测有效&#xff0c;大概不到2min吧. 快速开始~&#xff0c;成功水了一片
阅读更多...
(二)Servlet教程——我的第一个Java程序

(二)Servlet教程——我的第一个Java程序

首先打开记事本&#xff0c;输入如下的代码&#xff0c;请注意字母的大小写 public class MyFirst{ public static void main(String[] args){ System.out.println("This is My first Java..."); } } 将该txt文件命名为MyFirst.java 打开cmd命令行窗口&#xff0…
阅读更多...
【STM32】嵌入式实验二 GPIO 实验：数码管

【STM32】嵌入式实验二 GPIO 实验：数码管

实验内容&#xff1a; 编写程序&#xff0c;在数码管上显示自己的学号。 数码管相关电路&#xff1a; PA7对应的应该是段码&#xff0c;上面的图写错了。 注意&#xff1a;选中数码管是低电平选中&#xff1b;并且用74HC595模块驱动输出的段码&#xff0c; 这个模块的学习可以…
阅读更多...
面向对象设计与分析（42）工厂方法模式

面向对象设计与分析（42）工厂方法模式

文章目录 定义示例实际应用 定义 工厂方法模式&#xff0c;定义一个用于创建对象的接口&#xff08;工厂方法&#xff09;&#xff0c;返回对象基类&#xff0c;让子类去实现该接口&#xff0c;从而返回具体的子类对象。 结构 工厂方法模式包含以下主要角色&#xff1a; 抽象…
阅读更多...
干货：40个数据统计和分析的术语，让你的可视化大屏有理有据

干货：40个数据统计和分析的术语，让你的可视化大屏有理有据

1. 总体&#xff08;Population&#xff09;&#xff1a;指研究对象的全体&#xff0c;即研究问题所涉及的所有个体或事物的集合。 2. 样本&#xff08;Sample&#xff09;&#xff1a;从总体中选取的一部分个体或事物&#xff0c;用于代表总体进行研究。 3. 参数&#xff08…
阅读更多...
java-Arrays

java-Arrays

一、Arrays的概述 Arrays是操作数组的工具类 二、Arrays的常用方法 Arrays的常用方法基本上都被static静态修饰&#xff0c;因此在使用这些方法时&#xff0c;可以直接通过类名调用 1.toString 语法&#xff1a;Arrays.toString(数组) 用于将数组的元素转换为一个字符串&a…
阅读更多...
世界读书日：探索阅读的多样性样性——漫画、图解、图形化立体图书

世界读书日：探索阅读的多样性样性——漫画、图解、图形化立体图书

在当今信息爆炸的时代&#xff0c;阅读已经不再局限于传统的书籍形式。随着科技的发展和文化的多样化&#xff0c;人们可以通过多种形式来获取知识和享受阅读的乐趣。从漫画、图解到图形化立体图书&#xff0c;每一种形式都有其独特的魅力&#xff0c;适合不同类型的读者和学习…
阅读更多...
软件公司：饥一顿饱一顿，咋办？试一试外部柔性产能。

软件公司：饥一顿饱一顿，咋办？试一试外部柔性产能。

有人开玩笑&#xff0c;软件公司最理想状态就是&#xff1a;项目来了&#xff0c;公司有足够的人力消化产能&#xff1b;项目没了&#xff0c;人员都走了&#xff0c;不会造成产能搁置。 以上是个理想状态&#xff0c;事实上单纯依靠一个公司是做不到的&#xff0c;所以一定建立…
阅读更多...
2024普通人怎么搞钱？2024创业好项目！2024创业小白适合做什么生意！

2024普通人怎么搞钱？2024创业好项目！2024创业小白适合做什么生意！

先讲几个残酷的数据&#xff0c;滴滴用户从4500万跌到了1000万&#xff0c;打车的人少了3/4&#xff0c;携程用户旅游业从2600万跌到了600万&#xff0c;少了3/4&#xff0c;怪兽充电宝用户从300万跌到了100万&#xff0c;商场逛街少了2/3&#xff0c;星巴克的用户月活之前是40…
阅读更多...
spi 收发流程

spi 收发流程

patch日期 收发流程的重大修改&#xff0c;来源于2012年的如下补丁 内核提交收发流程的patch spi: create a message queueing infrastructure - kernel/git/stable/linux.git - Linux kernel stable tree 源代码路径及功能 源码作用\drivers\spi\spi.cspi 通用接口&#x…
阅读更多...
中小企业有必要建数字档案室吗？

中小企业有必要建数字档案室吗？

中小企业有建立数字档案室的必要性取决于企业的具体情况和需求。以下是一些考虑因素&#xff1a; 1. 节省空间和成本&#xff1a;传统的纸质档案需要大量的物理空间和维护成本。建立数字档案室可以大大节约空间和减少纸质文档的使用&#xff0c;从而降低相关成本。 2. 提高文件…
阅读更多...
数据持久化第四课-EF的基本使用

数据持久化第四课-EF的基本使用

数据持久化第四课-EF的基本使用 一.预习笔记 1.数据实体模型概述 ORM全称是“对象-关系映射”&#xff08;Object-Relation Mapping&#xff09; ORM是将关系数据库中的数据用对象的形式表现出来&#xff0c;并通过面向对象的方式将这些对象组织起来&#xff0c;实现系统业务…
阅读更多...
【RT-Thread应用笔记】FRDM-MCXN947上的RW007实践——WiFi延迟和带宽测试

【RT-Thread应用笔记】FRDM-MCXN947上的RW007实践——WiFi延迟和带宽测试

【RT-Thread应用笔记】FRDM-MCXN947上的RW007实践——WiFi延迟和带宽测试 一、背景介绍1.1 RW007模组简介1.2 Arduino接口简介1.3 RW007软件包简介1.4 RT-Thread env工具简介 二、创建工程2.1 新建工程2.2 添加rw007软件包2.3 打开RW007配置项2.4 启用pin驱动2.5 禁用rw007的ST…
阅读更多...
mysql基础19——日志

mysql基础19——日志

日志 mysql的日志种类非常多 通用查询日志 慢查询日志 错误日志 与时间有关联 二进制日志 中继日志 与主从服务器的同步有关 重做日志 回滚日志 与数据丢失有关 通用查询日志 记录了所有用户的连接开始时间和截至时间 以及给mysql服务器发送的所有指令 当数据异常时&…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023