Solon Ai 在推出 Solon Ai Mcp 后,又将推出 Solon Ai Flow。
1、Solon Ai Flow 是个啥?
Solon Ai Flow 是一个智能体编排开发框架(基于 solon-flow 构建)。它是框架!不是工具,不是产品(这与市面上流行的工具和产品,有较大差别)。
使用 yaml 格式编排,很像 docker-compose 的观感。
2、发布预告
预计下周(2025年农历小满)发布首个版本。
3、效果预览
- 简单的聊天智能体
id: chat_case1 layout: - type: "start" - task: "@TextInput" meta: text: "你好" - task: "@ChatModel" meta: systemPrompt: "你是个聊天助手" stream: false chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig" provider: "ollama" model: "qwen2.5:1.5b" apiUrl: "http://127.0.0.1:11434/api/chat" - task: "@TextOutput"
- RAG 知识库智能体
id: rag_case1 layout: - type: "start" - task: "@TextInput" meta: text: "Solon 是谁开发的?" - task: "@EmbeddingModel" meta: embeddingConfig: # "@type": "org.noear.solon.ai.embedding.EmbeddingConfig" provider: "ollama" model: "bge-m3" apiUrl: "http://127.0.0.1:11434/api/embed" - task: "@InMemoryRepository" meta: documentSources: - "https://solon.noear.org/article/about?format=md" splitPipeline: - "org.noear.solon.ai.rag.splitter.RegexTextSplitter" - "org.noear.solon.ai.rag.splitter.TokenSizeTextSplitter" - task: "@ChatModel" meta: systemPrompt: "你是个知识库" stream: false chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig" provider: "ollama" model: "qwen2.5:1.5b" apiUrl: "http://127.0.0.1:11434/api/chat" - task: "@TextOutput"
- 两个智能体表演相声式吵架(llm 与 llm 讲相声)
id: pk_case1 layout: - type: "start" - task: "@TextInput" meta: text: "你好" - task: "@ChatModel" id: model_a meta: systemPrompt: "你是一个智能体名字叫“阿飞”。将跟另一个叫“阿紫”的智能体,表演相声式吵架。" stream: false chatSession: "A" chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig" provider: "ollama" model: "qwen2.5:1.5b" apiUrl: "http://127.0.0.1:11434/api/chat" - task: "@TextOutput" meta: prefix: "阿飞: " - task: "@ChatModel" id: model_b meta: systemPrompt: "你是一个智能体名字叫“阿紫”。将跟另一个叫“阿飞”的智能体,表演相声式吵架。" stream: false chatSession: "B" chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig" provider: "ollama" model: "qwen2.5:1.5b" apiUrl: "http://127.0.0.1:11434/api/chat" - task: "@TextOutput" meta: prefix: "阿紫: " - type: "exclusive" link: - nextId: model_a condition: 'context.counter().incr("demo") < 10' - nextId: end - type: "end" id: "end"
4、如何运行?
case2, csae3, case4 是用 TextInput,TextOutput 作输出输入。通过流引擎和引上下文,即可运行。
@SolonTest public class ChatTest { @Inject FlowEngine flowEngine; @Test public void case2() { flowEngine.eval("case2"); } @Test public void case3() { flowEngine.eval("case3"); } @Test public void case4() { flowEngine.eval("case4"); } }
csae1 则是用 ChatInput 和 ChatOutput 作输入输出(基于 Context.current() 输入和输出),需要正常的 web 聊天场景
@Controller public class DemoController { @Inject FlowEngine flowEngine; ChatSession chatSession = new ChatSessionDefault(); @Mapping("case1") public void case1() throws Exception { FlowContext flowContext = new FlowContext(); flowContext.put(Attrs.CTX_CHAT_SESSION, chatSession); //传递聊天会话 flowEngine.eval("case1", flowContext); } }