基于Nvidia的ChatGPT实现智能回答(附完整代码)

news2024/9/25 9:33:52

目录

首先，我们需要在英伟达官网上找到相关的API-key

第二步，编写代码，调用API即可实现代码复用。

Python完整代码：

Node版代码：

Shell脚本代码：

最后我们在相应的编译器执行代码即可，在这里我们使用Python版代码执行：

总结：

工作原理：

功能：

ChatGPT模型对世界产生的影响：

博主介绍：✌专注于前后端领域开发的优质创作者、秉着互联网精神开源贡献精神，答疑解惑、坚持优质作品共享。本人是掘金/腾讯云/阿里云等平台优质作者、擅长前后端项目开发和毕业项目实战，深受全网粉丝喜爱与支持✌有需要可以联系作者我哦！

🍅文末三连哦🍅

👇🏻 精彩专栏推荐订阅👇🏻 不然下次找不到哟

英伟达“AI核弹”Blackwell在GTC开发者大会上“炸翻全场”，创始人黄仁勋在稍后的投资交流会上继续“大杀四方”。

黄仁勋指出，Blackwell不仅仅是一块芯片，还是一个计算机系统。Blackwell极大地提升了行业标准，即便是ASIC也难以匹敌。英伟达构建了一台完整的超级计算机，提供从芯片到系统，到互连、NVLinks、网络、软件的全套解决方案。

英伟达表示Blackwell将在今年晚些时候发货，但没有给出更具体的时间表。英伟达方面称，已与客户讨论设计需求，但上市初期可能存在供应限制。

黄仁勋预测，机器人的ChatGPT时刻指日可待，英伟达已经为机器人构建了一个全新的“操作系统”。

黄仁勋还强调，英伟达软件业务长期可能与芯片业务同样重要，旨在解决AI优化问题以及实时、超级计算问题，企业软件领域有巨大潜力。

现在我们来介绍以下英伟达的大语言模型llama2-70b。Cutting-edge large language AI model capable of generating text and code in response to prompts.

首先，我们需要在英伟达官网上找到相关的API-key

地址：Try NVIDIA NIM APIs

第二步，编写代码，调用API即可实现代码复用。

Python完整代码：

from openai import OpenAI

client = OpenAI(
  base_url = "https://integrate.api.nvidia.com/v1",
  api_key = "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"
)

completion = client.chat.completions.create(
  model="meta/llama2-70b",
  messages=[{"role":"user","content":"什么是动态规划算法"}],
  temperature=0.5,
  top_p=1,
  max_tokens=1024,
  stream=True
)

for chunk in completion:
  if chunk.choices[0].delta.content is not None:
    print(chunk.choices[0].delta.content, end="")

Node版代码：

import OpenAI from 'openai';

const openai = new OpenAI({
  apiKey: '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',
  baseURL: 'https://integrate.api.nvidia.com/v1',
})

async function main() {
  const completion = await openai.chat.completions.create({
    model: "meta/llama2-70b",
    messages: [{"role":"user","content":"什么是动态规划算法"}],
    temperature: 0.5,
    top_p: 1,
    max_tokens: 1024,
    stream: true,
  })
   
  for await (const chunk of completion) {
    process.stdout.write(chunk.choices[0]?.delta?.content || '')
  }
  
}

main();

Shell脚本代码：

curl https://integrate.api.nvidia.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer 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" \
  -d '{
    "model": "meta/llama2-70b",
    "messages": [{"role":"user","content":"什么是动态规划算法"}],
    "temperature": 0.5,   
    "top_p": 1,
    "max_tokens": 1024,
    "stream": true                
  }'

最后我们在相应的编译器执行代码即可，在这里我们使用Python版代码执行：


import networkx as nx

# 创建一个图
G = nx.Graph()
G.add_nodes([0, 1, 2, 3, 4])
G.add_edges([ (0, 1), (1, 2), (2, 3), (3, 4) ])

# 定义距离和权重
distance = {0: 0, 1: 10, 2: 20, 3: 30, 4: 40}
weight = {0: 0, 1: 5, 2: 10, 3: 15, 4: 20}

# 使用动态规划实现最短路径
distance_dp = nx.distance.dijkstra(G, distance, weight)

# 打印最短路径
print(distance_dp)


**输出：

{0: 0, 1: 10, 2: 20, 3: 30, 4: 40}

关键代码进行解释：

**解释：**

* `networkx`库用于创建和操作图。
* `distance`和`weight`字典存储距离和权重。
* `nx.distance.dijkstra()`函数使用动态规划实现最短路径。
* `distance_dp`字典存储最短路径。

**注意：**

* 此代码假设图是连通的。
* Distance和weight值可以根据实际情况调整。
* 权重可以是任何数值，但必须与距离一致。
Process finished with exit code 0