bf1f1defa5
后端：
1. LLM 客户端从 newAgent/llm 提升为 infra/llm 基础设施层
- 删除 backend/newAgent/llm/（ark.go / ark_adapter.go / client.go / json.go）
- 等价迁移至 backend/infra/llm/，所有 newAgent node 与 service 统一改引用 infrallm
- 消除 newAgent 对模型客户端的私有依赖，为 memory / websearch 等多模块复用铺路
2. RAG 基础设施完成可运行态接入（factory / runtime / observer / service 四层成型）
- 新建 backend/infra/rag/factory.go / runtime.go / observe.go / observer.go /
service.go：工厂创建、运行时生命周期、轻量观测接口、检索服务门面
- 更新 infra/rag/config/config.go：补齐 Milvus / Embed / Reranker 全部配置项与默认值
- 更新 infra/rag/embed/eino_embedder.go：增强 Eino embedding 适配，支持 BaseURL / APIKey 环境变量 / 超时 /
维度等参数
- 更新 infra/rag/store/milvus_store.go：完整实现 Milvus 向量存储（建集合 / 建 Index / Upsert / Search /
Delete），支持 COSINE / L2 / IP 度量
- 更新 infra/rag/core/pipeline.go：适配 Runtime 接口，Pipeline 由 factory 注入而非手动拼装
- 更新 infra/rag/corpus/memory_corpus.go / vector_store.go：对接 Memory 模块数据源与 Store 接口扩展
3. Memory 模块从 Day1 骨架升级为 Day2 完整可运行态
- 新建 memory/module.go：统一门面 Module，对外封装 EnqueueExtract / ReadService / ManageService / WithTx /
StartWorker，启动层只依赖这一个入口
- 新建 memory/orchestrator/llm_write_orchestrator.go：LLM 驱动的记忆抽取编排器，替代原 mock 抽取
- 新建 memory/service/read_service.go：按用户开关过滤 + 轻量重排 + 访问时间刷新的读取链路
- 新建 memory/service/manage_service.go：记忆管理面能力（列出 / 软删除 / 开关读写），删除同步写审计日志
- 新建 memory/service/common.go：服务层公共工具
- 新建 memory/worker/loop.go：后台轮询循环 RunPollingLoop，定时抢占 pending 任务并推进
- 新建 memory/utils/audit.go / settings.go：审计日志构造、用户设置过滤等纯函数
- 更新 memory/model/item.go / job.go / settings.go / config.go / status.go：补齐 DTO 字段与状态常量
- 更新 memory/repo/item_repo.go / job_repo.go / audit_repo.go / settings_repo.go：补齐 CRUD 与查询能力
- 更新 memory/worker/runner.go：Runner 对接 Module 与 LLM 抽取器，任务状态机完整化
- 更新 memory/README.md：同步模块现状说明
4. newAgent 接入 Memory 读取注入与工具注册依赖预埋
- 新建 service/agentsvc/agent_memory.go：定义 MemoryReader 接口 + injectMemoryContext，在 graph
执行前统一补充记忆上下文
- 更新 service/agentsvc/agent.go：新增 memoryReader 字段与 SetMemoryReader 方法
- 更新 service/agentsvc/agent_newagent.go：调用 injectMemoryContext 注入 pinned block，检索失败仅降级不阻断主链路
- 更新 newAgent/tools/registry.go：新增 DefaultRegistryDeps（含 RAGRuntime），工具注册表支持依赖注入
5. 启动流程与事件处理器接线更新
- 更新 cmd/start.go：初始化 RAG Runtime → Memory Module → 注册事件处理器 → 启动 Worker 后台轮询
- 更新 service/events/memory_extract_requested.go：改用 memory.Module.WithTx(tx) 统一门面，事件处理器不再直接依赖
repo/service 内部包
6. 缓存插件与配置同步
- 更新 middleware/cache_deleter.go：静默忽略 MemoryJob / MemoryItem / MemoryAuditLog / MemoryUserSetting
等新模型，避免日志刷屏；清理冗余注释
- 更新 config.example.yaml：补齐 rag / memory / websearch 配置段及默认值
- 更新 go.mod / go.sum：新增 eino-ext/openai / json-patch / go-openai 依赖
前端：无 仓库：无
88 lines
2.6 KiB
Go
88 lines
2.6 KiB
Go
// 过渡期统一 Ark 调用封装。
|
||
//
|
||
// 这里保留 CallArkText / CallArkJSON，方便暂时还直接持有 *ark.ChatModel 的调用点
|
||
// 逐步迁移到统一 Client。后续 memory 也可以直接复用这套中立层。
|
||
package llm
|
||
|
||
import (
|
||
"context"
|
||
"errors"
|
||
"strings"
|
||
|
||
"github.com/cloudwego/eino-ext/components/model/ark"
|
||
einoModel "github.com/cloudwego/eino/components/model"
|
||
"github.com/cloudwego/eino/schema"
|
||
arkModel "github.com/volcengine/volcengine-go-sdk/service/arkruntime/model"
|
||
)
|
||
|
||
// ArkCallOptions 是基于 ark.ChatModel 的通用调用选项。
|
||
//
|
||
// 设计目的：
|
||
// 1. 先把 Ark 调用样板抽成公共层；
|
||
// 2. 再由 WrapArkClient 提供统一 Client；
|
||
// 3. 让上层尽量只关注业务 prompt 和结构化结果。
|
||
type ArkCallOptions struct {
|
||
Temperature float64
|
||
MaxTokens int
|
||
Thinking ThinkingMode
|
||
}
|
||
|
||
// CallArkText 调用 ark 模型并返回纯文本。
|
||
//
|
||
// 职责边界：
|
||
// 1. 负责拼 system + user 两段消息；
|
||
// 2. 负责统一配置 thinking / temperature / maxTokens；
|
||
// 3. 负责拦截空响应；
|
||
// 4. 不负责 JSON 解析，不负责业务字段校验。
|
||
func CallArkText(ctx context.Context, chatModel *ark.ChatModel, systemPrompt, userPrompt string, options ArkCallOptions) (string, error) {
|
||
if chatModel == nil {
|
||
return "", errors.New("ark model is nil")
|
||
}
|
||
|
||
messages := []*schema.Message{
|
||
schema.SystemMessage(systemPrompt),
|
||
schema.UserMessage(userPrompt),
|
||
}
|
||
resp, err := chatModel.Generate(ctx, messages, buildArkOptions(options)...)
|
||
if err != nil {
|
||
return "", err
|
||
}
|
||
if resp == nil {
|
||
return "", errors.New("模型返回为空")
|
||
}
|
||
|
||
text := strings.TrimSpace(resp.Content)
|
||
if text == "" {
|
||
return "", errors.New("模型返回内容为空")
|
||
}
|
||
return text, nil
|
||
}
|
||
|
||
// CallArkJSON 调用 ark 模型并直接解析 JSON。
|
||
func CallArkJSON[T any](ctx context.Context, chatModel *ark.ChatModel, systemPrompt, userPrompt string, options ArkCallOptions) (*T, string, error) {
|
||
raw, err := CallArkText(ctx, chatModel, systemPrompt, userPrompt, options)
|
||
if err != nil {
|
||
return nil, "", err
|
||
}
|
||
parsed, err := ParseJSONObject[T](raw)
|
||
if err != nil {
|
||
return nil, raw, err
|
||
}
|
||
return parsed, raw, nil
|
||
}
|
||
|
||
func buildArkOptions(options ArkCallOptions) []einoModel.Option {
|
||
thinkingType := arkModel.ThinkingTypeDisabled
|
||
if options.Thinking == ThinkingModeEnabled {
|
||
thinkingType = arkModel.ThinkingTypeEnabled
|
||
}
|
||
opts := []einoModel.Option{
|
||
ark.WithThinking(&arkModel.Thinking{Type: thinkingType}),
|
||
einoModel.WithTemperature(float32(options.Temperature)),
|
||
}
|
||
if options.MaxTokens > 0 {
|
||
opts = append(opts, einoModel.WithMaxTokens(options.MaxTokens))
|
||
}
|
||
return opts
|
||
}
|