最近大模型是相当的火，尤其是在自然语言处理（NLP）、图像识别、语音识别等领域的应用，那对于工程同学来说应该如何接住这波破天的富贵呢？
想啥来啥，前段时间LangChain给我们整了一套钢铁战甲，让我们轻松奴架Javis。
LangChain
LangChain是一个强大的框架，旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口，可简化创建由大型语言模型 (LLM) 和聊天模型提供支持的应用程序的过程。
LangChain 可以轻松管理与语言模型的交互，将多个组件链接在一起，并集成额外的资源。但是LangChain是python开发的，对我等java开发来说不太方便。
哎…，spring最近推出了其AI项目，解了java同学的燃眉之急，来，一起看下spring是如何玩转AI的。
Spring AI
Spring AI是一个用于AI工程的应用程序框架。它的目标是将AI领域的Spring生态系统设计原则（如可移植性和模块化设计）应用到AI领域，并推动使用POJO作为应用程序的构建块。
spring-ai提供了对跨AI提供商的Chat、文本到图像和嵌入式模型的可移植API支持。支持同步和流API选项。还支持降级访问特定于模型的功能。
现在正式版本是0.8.1
Chat Models（模型支持）
- OpenAI
- Azure Open AI
- Amazon Bedrock
- Cohere’s Command
- AI21 Labs’ Jurassic-2
- Meta’s LLama 2
- Amazon’s Titan
- Google Vertex AI Palm
- Google Gemini
- HuggingFace - access thousands of models, including those from Meta such as Llama2
- Ollama - run AI models on your local machine
- MistralAI
Text-to-image Models
- OpenAI with DALL-E
- StabilityAI
Transcription (audio to text) Models
- OpenAI
- Embedding Models（embedding 算法）
- OpenAI
- Azure OpenAI
- Ollama
- ONNX
- PostgresML
- Bedrock Cohere
- Bedrock Titan
- Google VertexAI
- Mistal AI
Vector Databases（向量数据库）
Vector Store API 提供了跨不同提供商的可移植性，具有一种新颖的类似 SQL 的元数据过滤 API，保持可移植性。
- Azure Vector Search
- Chroma
- Milvus
- Neo4j
- PostgreSQL/PGVector
- PineCone
- Redis
- Weaviate
- Qdrant
Maven依赖
<dependencies>
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bom</artifactId>
<version>0.8.1</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
代码示例
import org.springframework.ai.chat.ChatClient;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import java.util.Map;
@RestController
public class SimpleAiController {
private final ChatClient chatClient;
@Autowired
public SimpleAiController(ChatClient chatClient) {
this.chatClient = chatClient;
}
@GetMapping("/ai/simple")
public Map<String, String> completion(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
return Map.of("generation", chatClient.call(message));
}
}
Very simple
附录
examples-Simple HelloWorld
Spring AI
