星火认知大模型Spark3.5 api调用 #AI夏令营 #Datawhale #夏令营

news2024/10/5 12:57:09

环境安装

pip install --upgrade -q spark_ai_python

官网注册

链接：https://console.xfyun.cn/app/myapp

官方会在报名成功后，立即发放星火大模型 Spark Max的 API 额度助力我们完成赛事， 200w Tokens 任你花！

暑期有四场夏令营活动

记得按照下面的截图拿到认证信息哟～没有这些信息是无法调用星火大模型能力的！

拿到的信息格式形如：

APPID：455*****

APISecret：Nz******Iz

APIKey：a8d******9f

补充：

现在Spark Max模型正在搞活动，新用户点击即送1亿token！领取地址如下：

https://console.xfyun.cn/sale/buy?wareId=9108&packageId=9108001&serviceName=Spark3.5%20Max&businessId=bm35

代码如下

from sparkai.llm.llm import ChatSparkLLM, ChunkPrintHandler
from sparkai.core.messages import ChatMessage
import json


#星火认知大模型Spark3.5 Max的URL值，其他版本大模型URL值请前往文档（https://www.xfyun.cn/doc/spark/Web.html）查看
SPARKAI_URL = 'wss://spark-api.xf-yun.com/v3.5/chat'
#星火认知大模型调用秘钥信息，请前往讯飞开放平台控制台（https://console.xfyun.cn/services/bm35）查看
SPARKAI_APP_ID = '' # 填自己的
SPARKAI_API_SECRET = '' 填自己的
SPARKAI_API_KEY = '' 填自己的
#星火认知大模型Spark3.5 Max的domain值，其他版本大模型domain值请前往文档（https://www.xfyun.cn/doc/spark/Web.html）查看
SPARKAI_DOMAIN = 'generalv3.5'


def get_completions(text):
    messages = [ChatMessage(
        role="user",
        content=text
    )]
    spark = ChatSparkLLM(
        spark_api_url=SPARKAI_URL,
        spark_app_id=SPARKAI_APP_ID,
        spark_api_key=SPARKAI_API_KEY,
        spark_api_secret=SPARKAI_API_SECRET,
        spark_llm_domain=SPARKAI_DOMAIN,
        streaming=False,
    )
    handler = ChunkPrintHandler()
    a = spark.generate([messages], callbacks=[handler])
    return a.generations[0][0].text

# 测试模型配置是否正确
text = "我想知道冬天为什么在12月"
get_completions(text)