1.来源和任务
来源: https://github.com/InternLM/Tutorial/blob/camp3/docs/L1/Prompt/task.md
任务:
背景问题:近期相关研究发现,LLM在对比浮点数字时表现不佳,经验证,internlm2-chat-1.8b (internlm2-chat-7b)也存在这一问题,例如认为13.8<13.11。
任务要求:利用LangGPT优化提示词,使LLM输出正确结果。完成一次并提交截图即可
2.过程
- 首先进行Sever端的部署
编写一个代码测试本地部署的InternLM2-chat-1.8b模型是否部署成功
from openai import OpenAI
client = OpenAI(
api_key = "internlm2",
base_url = "http://0.0.0.0:23333/v1"
)
response = client.chat.completions.create(
model=client.models.list().data[0].id,
messages=[
{"role": "system", "content": "请介绍一下你自己"}
]
)
print(response.choices[0].message.content)
- 客户端启动并进行代理
-
高质量Prompt合集
https://langgptai.feishu.cn/wiki/JCZHwwrsOizzaOktD4fcuGbFnzg -
Prompt结构化提示词实战