61db646805
后端： 1. LLM 独立服务与统一计费出口落地：新增 `cmd/llm`、`client/llm` 与 `services/llm/rpc`，补齐 BillingContext、CreditBalanceGuard、价格规则解析、stream usage 归集与 `credit.charge.requested` outbox 发布，active-scheduler / agent / course / memory / gateway fallback 全部改走 llm zrpc，不再各自本地初始化模型。 2. TokenStore 收口为 Credit 权威账本：新增 credit account / ledger / product / order / price-rule / reward-rule 能力与 Redis 快照缓存，扩展 tokenstore rpc/client 支撑余额快照、消耗看板、商品、订单、流水、价格规则和奖励规则，并接入 LLM charge 事件消费完成 Credit 扣费落账。 3. 计费旧链路下线与网关切口切换：`/token-store` 语义整体切到 `/credit-store`，agent chat 移除旧 TokenQuotaGuard，userauth 的 CheckTokenQuota / AdjustTokenUsage 改为废弃，聊天历史落库不再同步旧 token 额度账本，course 图片解析请求补 user_id 进入新计费口径。 前端： 4. 计划广场从 mock 数据切到真实接口：新增 forum api/types，首页支持真实列表、标签、搜索、防抖、点赞、导入和发布计划，详情页补齐帖子详情、评论树、回复和删除评论链路，同时补上“至少一个标签”的前后端约束与默认标签兜底。 5. 商店页切到 Credit 体系并重做展示：顶部改为余额 + Credit/Token 消耗看板，支持 24h/7d/30d/all 周期切换；套餐区展示原价与当前价；历史区改为当前用户 Credit 流水并支持查看更多，整体视觉和交互同步收口。 仓库： 6. 配置与本地启动体系补齐 llm / outbox 编排：`config.example.yaml` 增加 llm rpc 和统一 outbox service 配置，`dev-common.ps1` 把 llm 纳入多服务依赖并自动建 Kafka topic，`docker-compose.yml` 同步初始化 agent/task/memory/active-scheduler/notification/taskclass-forum/llm/token-store 全量 outbox topic。
56 lines
1.2 KiB
Go
56 lines
1.2 KiB
Go
package rpc
|
|
|
|
import (
|
|
"errors"
|
|
"strings"
|
|
"time"
|
|
|
|
llmservice "github.com/LoveLosita/smartflow/backend/services/llm"
|
|
"github.com/zeromicro/go-zero/core/service"
|
|
"github.com/zeromicro/go-zero/zrpc"
|
|
"google.golang.org/grpc"
|
|
)
|
|
|
|
const (
|
|
defaultListenOn = "0.0.0.0:9096"
|
|
defaultTimeout = 0
|
|
)
|
|
|
|
type ServerOptions struct {
|
|
ListenOn string
|
|
Timeout time.Duration
|
|
Service *llmservice.RuntimeService
|
|
}
|
|
|
|
// NewServer 负责创建 LLM 独立进程的最小 zrpc server。
|
|
func NewServer(opts ServerOptions) (*zrpc.RpcServer, string, error) {
|
|
if opts.Service == nil {
|
|
return nil, "", errors.New("llm runtime service dependency not initialized")
|
|
}
|
|
|
|
listenOn := strings.TrimSpace(opts.ListenOn)
|
|
if listenOn == "" {
|
|
listenOn = defaultListenOn
|
|
}
|
|
timeout := opts.Timeout
|
|
if timeout < 0 {
|
|
timeout = defaultTimeout
|
|
}
|
|
|
|
server, err := zrpc.NewServer(zrpc.RpcServerConf{
|
|
ServiceConf: service.ServiceConf{
|
|
Name: "llm.rpc",
|
|
Mode: service.DevMode,
|
|
},
|
|
ListenOn: listenOn,
|
|
Timeout: int64(timeout / time.Millisecond),
|
|
}, func(grpcServer *grpc.Server) {
|
|
RegisterLLMServer(grpcServer, NewHandler(opts.Service))
|
|
})
|
|
if err != nil {
|
|
return nil, "", err
|
|
}
|
|
server.AddOptions(JSONCodecServerOption())
|
|
return server, listenOn, nil
|
|
}
|