61db646805
后端： 1. LLM 独立服务与统一计费出口落地：新增 `cmd/llm`、`client/llm` 与 `services/llm/rpc`，补齐 BillingContext、CreditBalanceGuard、价格规则解析、stream usage 归集与 `credit.charge.requested` outbox 发布，active-scheduler / agent / course / memory / gateway fallback 全部改走 llm zrpc，不再各自本地初始化模型。 2. TokenStore 收口为 Credit 权威账本：新增 credit account / ledger / product / order / price-rule / reward-rule 能力与 Redis 快照缓存，扩展 tokenstore rpc/client 支撑余额快照、消耗看板、商品、订单、流水、价格规则和奖励规则，并接入 LLM charge 事件消费完成 Credit 扣费落账。 3. 计费旧链路下线与网关切口切换：`/token-store` 语义整体切到 `/credit-store`，agent chat 移除旧 TokenQuotaGuard，userauth 的 CheckTokenQuota / AdjustTokenUsage 改为废弃，聊天历史落库不再同步旧 token 额度账本，course 图片解析请求补 user_id 进入新计费口径。 前端： 4. 计划广场从 mock 数据切到真实接口：新增 forum api/types，首页支持真实列表、标签、搜索、防抖、点赞、导入和发布计划，详情页补齐帖子详情、评论树、回复和删除评论链路，同时补上“至少一个标签”的前后端约束与默认标签兜底。 5. 商店页切到 Credit 体系并重做展示：顶部改为余额 + Credit/Token 消耗看板，支持 24h/7d/30d/all 周期切换；套餐区展示原价与当前价；历史区改为当前用户 Credit 流水并支持查看更多，整体视觉和交互同步收口。 仓库： 6. 配置与本地启动体系补齐 llm / outbox 编排：`config.example.yaml` 增加 llm rpc 和统一 outbox service 配置，`dev-common.ps1` 把 llm 纳入多服务依赖并自动建 Kafka topic，`docker-compose.yml` 同步初始化 agent/task/memory/active-scheduler/notification/taskclass-forum/llm/token-store 全量 outbox topic。
77 lines
2.4 KiB
Go
77 lines
2.4 KiB
Go
package llm
|
||
|
||
import (
|
||
"context"
|
||
"strings"
|
||
)
|
||
|
||
type billingContextKey struct{}
|
||
|
||
// BillingContext 描述一次 LLM 调用必需的计费上下文。
|
||
//
|
||
// 职责边界：
|
||
// 1. 只承载计费、审计、幂等所需的调用上下文；
|
||
// 2. 不承载 Temperature / MaxTokens 这类模型行为参数；
|
||
// 3. 不混入 prompt 文本，避免把业务输入复制成第二份协议。
|
||
type BillingContext struct {
|
||
UserID uint64 `json:"user_id"`
|
||
EventID string `json:"event_id"`
|
||
Scene string `json:"scene"`
|
||
RequestID string `json:"request_id"`
|
||
ConversationID string `json:"conversation_id"`
|
||
ModelAlias string `json:"model_alias"`
|
||
SkipCharge bool `json:"skip_charge"`
|
||
}
|
||
|
||
// Normalize 返回去空格后的 BillingContext 副本。
|
||
func (c BillingContext) Normalize() BillingContext {
|
||
c.EventID = strings.TrimSpace(c.EventID)
|
||
c.Scene = strings.TrimSpace(c.Scene)
|
||
c.RequestID = strings.TrimSpace(c.RequestID)
|
||
c.ConversationID = strings.TrimSpace(c.ConversationID)
|
||
c.ModelAlias = strings.TrimSpace(c.ModelAlias)
|
||
return c
|
||
}
|
||
|
||
// IsZero 判断是否完全没有注入计费上下文。
|
||
func (c BillingContext) IsZero() bool {
|
||
return c.UserID == 0 &&
|
||
strings.TrimSpace(c.EventID) == "" &&
|
||
strings.TrimSpace(c.Scene) == "" &&
|
||
strings.TrimSpace(c.RequestID) == "" &&
|
||
strings.TrimSpace(c.ConversationID) == "" &&
|
||
strings.TrimSpace(c.ModelAlias) == "" &&
|
||
!c.SkipCharge
|
||
}
|
||
|
||
// WithBillingContext 把计费上下文挂进调用 ctx。
|
||
//
|
||
// 设计说明：
|
||
// 1. 这次优先保持 GenerateText / GenerateJSON / Stream 原有签名基本不变；
|
||
// 2. 计费必填信息不再塞进 GenerateOptions.Metadata，而是走强语义 ctx；
|
||
// 3. 后续若统一切为显式 request struct，可继续复用本结构体，不改业务语义。
|
||
func WithBillingContext(ctx context.Context, billing BillingContext) context.Context {
|
||
if ctx == nil {
|
||
ctx = context.Background()
|
||
}
|
||
billing = billing.Normalize()
|
||
return context.WithValue(ctx, billingContextKey{}, billing)
|
||
}
|
||
|
||
// BillingContextFromContext 读取调用上下文中的计费信息。
|
||
func BillingContextFromContext(ctx context.Context) (BillingContext, bool) {
|
||
if ctx == nil {
|
||
return BillingContext{}, false
|
||
}
|
||
value := ctx.Value(billingContextKey{})
|
||
billing, ok := value.(BillingContext)
|
||
if !ok {
|
||
return BillingContext{}, false
|
||
}
|
||
billing = billing.Normalize()
|
||
if billing.IsZero() {
|
||
return BillingContext{}, false
|
||
}
|
||
return billing, true
|
||
}
|