前言
现如今AI应用的发展可谓是如火如荼的,它们在各个领域都展现出了巨大的潜力和影响力。今天大姚给大家分享6个.NET开源的AI和LLM相关的项目框架,希望能为大家提供一些参考。如果你有更好的推荐,欢迎RP投稿或文末留言。
https://github.com/YSGStudyHards/DotNetGuide/blob/main/docs/DotNet/DotNetProjectPicks.md
Semantic Kernel
Semantic Kernel是一个开源的软件开发工具包(SDK),旨在将大型语言模型(LLM)如OpenAI、Azure OpenAI和Hugging Face与传统的编程语言如C#、Python和Java集成。这个项目通过提供插件系统,允许开发者轻松地创建能够调用这些大型语言模型的应用程序。
-
开源地址:https://github.com/microsoft/semantic-kernel
-
在线文档:https://aka.ms/semantic-kernel
BotSharp
BotSharp 是一个面向企业级 LLM 应用的开源 AI 框架,旨在促进智能机器人助手在面向业务系统中的开发和应用。该项目涉及自然语言理解、计算机视觉和音频处理技术,并旨在推动智能机器人助手在企业级系统中的开发和应用。BotSharp 提供了开箱即用的机器学习算法,使普通程序员能够更快、更轻松地开发人工智能应用程序。
-
开源地址:https://github.com/SciSharp/BotSharp
-
在线文档:https://botsharp.readthedocs.io/
LLamaSharp
LLamaSharp是一个跨平台库,用于在本地设备上运行LLaMA/LLaVA模型(以及其他模型)。它基于llama.cpp,能够在CPU和GPU上高效进行推理。通过提供高级API和RAG支持,LLamaSharp使得在应用程序中部署大型语言模型(LLM)变得方便。
-
开源地址:https://github.com/SciSharp/LLamaSharp
-
在线文档:https://scisharp.github.io/LLamaSharp/latest/
AutoGen
AutoGen是一个开源编程框架,它通过多个代理进行对话以解决任务,从而实现 LLM 应用的开发。AutoGen 代理可定制、可对话,并且能够无缝地允许人类参与。它们可以在不同的模式下运行,使用 LLM、人类输入和工具的组合。
-
开源地址:https://github.com/microsoft/autogen
-
在线文档:https://microsoft.github.io/autogen
Kernel Memory
Kernel Memory(KM)是一种多模态AI服务,RAG 架构,使用 LLM 和自然语言索引和查询任何数据、跟踪来源、显示引用、异步内存模式。该存储库提供了特定 AI 和 LLMs 应用场景中内存的最佳实践和参考架构。
-
开源地址:https://github.com/microsoft/kernel-memory
-
在线文档:https://microsoft.github.io/kernel-memory
LangChain .NET
一个开源、免费的C#版本的LangChain,尽可能保持与原始版本相似的抽象,同时开放新实体和第三方库的使用。
-
开源地址:https://github.com/tryAGI/LangChain
-
在线文档:https://tryagi.gitbook.io/langchain