Version: 0.4.6.dev.260307

feat: 🎯 新增 Token 估算与裁剪工具

* 在 `backend/pkg/token_budget.go` 中新增 Token 估算与裁剪工具

  * 最大上下文 Token 数量设置为 224000，预留冗余 28000
  * 从最旧消息开始裁剪，直到历史 Token 数量低于预算
  * 根据裁剪后的历史消息数量动态计算 Redis 动态窗口大小

refactor: ♻️ 接入 Token 裁剪至 Service 主流程

* 在 `backend/service/agent.go` 中接入 Token 裁剪逻辑

  * 先从历史数据获取（缓存未命中则查询数据库）
  * 按 Token 预算裁剪历史消息，裁剪后再喂模型
  * 根据裁剪结果动态调整 Redis 会话窗口

refactor: ♻️ 改造 Redis 历史队列为会话级动态窗口

* 在 `backend/dao/agent-cache.go` 中新增 `SetSessionWindowSize` 与 `EnforceHistoryWindow`
* `PushMessage` 和 `BackfillHistory` 方法使用会话动态窗口，而非固定 20 条历史消息
* 默认窗口大小提升至 128，但会被会话动态窗口值覆盖

backend/dao/agent-cache.go

@@ -4,6 +4,7 @@ import (
 	"context"
 	"encoding/json"
 	"fmt"
+	"strconv"
 	"time"
 
 	"github.com/cloudwego/eino/schema"
@@ -12,22 +13,86 @@ import (
 
 type AgentCache struct {
 	client *redis.Client
-	// 默认滑动窗口大小，比如 20 条消息
+	// 默认窗口大小（会被会话级动态窗口覆盖）
 	windowSize int
 	// 缓存过期时间
 	expiration time.Duration
 }
 
+const (
+	minHistoryWindowSize = 16
+	maxHistoryWindowSize = 4096
+)
+
 func NewAgentCache(client *redis.Client) *AgentCache {
 	return &AgentCache{
 		client:     client,
-		windowSize: 20,            // 后续更新：根据 Token 消耗灵活调整
-		expiration: 1 * time.Hour, // 保持一小时的热记忆
+		windowSize: 128,
+		expiration: 1 * time.Hour,
 	}
 }
 
+func (m *AgentCache) historyKey(sessionID string) string {
+	return fmt.Sprintf("smartflow:history:%s", sessionID)
+}
+
+func (m *AgentCache) historyWindowKey(sessionID string) string {
+	return fmt.Sprintf("smartflow:history_window:%s", sessionID)
+}
+
+func (m *AgentCache) normalizeWindowSize(size int) int {
+	if size < minHistoryWindowSize {
+		return minHistoryWindowSize
+	}
+	if size > maxHistoryWindowSize {
+		return maxHistoryWindowSize
+	}
+	return size
+}
+
+func (m *AgentCache) getSessionWindowSize(ctx context.Context, sessionID string) (int, error) {
+	windowKey := m.historyWindowKey(sessionID)
+	val, err := m.client.Get(ctx, windowKey).Result()
+	if err == redis.Nil {
+		return m.windowSize, nil
+	}
+	if err != nil {
+		return 0, err
+	}
+	size, convErr := strconv.Atoi(val)
+	if convErr != nil {
+		return m.windowSize, nil
+	}
+	return m.normalizeWindowSize(size), nil
+}
+
+// SetSessionWindowSize 设置会话级窗口上限。
+func (m *AgentCache) SetSessionWindowSize(ctx context.Context, sessionID string, size int) error {
+	normalized := m.normalizeWindowSize(size)
+	windowKey := m.historyWindowKey(sessionID)
+	return m.client.Set(ctx, windowKey, normalized, m.expiration).Err()
+}
+
+// EnforceHistoryWindow 按当前会话窗口强制修剪历史队列。
+func (m *AgentCache) EnforceHistoryWindow(ctx context.Context, sessionID string) error {
+	size, err := m.getSessionWindowSize(ctx, sessionID)
+	if err != nil {
+		return err
+	}
+	key := m.historyKey(sessionID)
+	pipe := m.client.Pipeline()
+	pipe.LTrim(ctx, key, 0, int64(size-1))
+	pipe.Expire(ctx, key, m.expiration)
+	_, err = pipe.Exec(ctx)
+	return err
+}
+
 func (m *AgentCache) PushMessage(ctx context.Context, sessionID string, msg *schema.Message) error {
-	key := fmt.Sprintf("smartflow:history:%s", sessionID)
+	key := m.historyKey(sessionID)
+	size, err := m.getSessionWindowSize(ctx, sessionID)
+	if err != nil {
+		return err
+	}
 
 	// 1. 序列化 Eino 消息
 	data, err := json.Marshal(msg)
@@ -37,15 +102,10 @@ func (m *AgentCache) PushMessage(ctx context.Context, sessionID string, msg *sch
 
 	// 2. 利用 Pipeline 保证原子操作
 	pipe := m.client.Pipeline()
-
-	// 往左侧推入最新消息 (LIFO 逻辑)
+	// 往左侧推入最新消息（LIFO）
 	pipe.LPush(ctx, key, data)
-
-	// 核心：强制修剪，只保留最新的 windowSize 条
-	// 0 是最新的一条，windowSize-1 是最后一条
-	pipe.LTrim(ctx, key, 0, int64(m.windowSize-1))
-
-	// 刷新过期时间
+	// 只保留最新 size 条
+	pipe.LTrim(ctx, key, 0, int64(size-1))
 	pipe.Expire(ctx, key, m.expiration)
 
 	_, err = pipe.Exec(ctx)
@@ -53,15 +113,12 @@ func (m *AgentCache) PushMessage(ctx context.Context, sessionID string, msg *sch
 }
 
 func (m *AgentCache) GetHistory(ctx context.Context, sessionID string) ([]*schema.Message, error) {
-	key := fmt.Sprintf("smartflow:history:%s", sessionID)
+	key := m.historyKey(sessionID)
 
-	// 获取所有缓存的消息
 	vals, err := m.client.LRange(ctx, key, 0, -1).Result()
 	if err != nil {
 		return nil, err
 	}
-
-	// 如果 Redis 为空，这里返回 nil 触发后续的 MySQL 捞取逻辑
 	if len(vals) == 0 {
 		return nil, nil
 	}
@@ -72,25 +129,25 @@ func (m *AgentCache) GetHistory(ctx context.Context, sessionID string) ([]*schem
 		if err := json.Unmarshal([]byte(val), &msg); err != nil {
 			return nil, err
 		}
-
-		// 关键逻辑：反转顺序
-		// LRANGE 返回顺序：[MsgN, MsgN-1, ... Msg1]
-		// 我们需要的顺序：[Msg1, ... MsgN-1, MsgN]
+		// LRANGE 返回 [最新..最旧]，这里反转成 [最旧..最新]
 		messages[len(vals)-1-i] = &msg
 	}
 
 	return messages, nil
 }
 
-// BackfillHistory 用于缓存失效时，从数据库加载完数据后一次性回填 Redis
+// BackfillHistory 在缓存失效时，把历史消息一次性回填到 Redis。
 func (m *AgentCache) BackfillHistory(ctx context.Context, sessionID string, messages []*schema.Message) error {
-	if len(messages) == 0 {
-		return nil
+	key := m.historyKey(sessionID)
+	size, err := m.getSessionWindowSize(ctx, sessionID)
+	if err != nil {
+		return err
 	}
 
-	key := fmt.Sprintf("smartflow:history:%s", sessionID)
+	if len(messages) == 0 {
+		return m.client.Del(ctx, key).Err()
+	}
 
-	// 1. 将所有 Eino 消息序列化为 []interface{} 供 redis 批量写入
 	values := make([]interface{}, len(messages))
 	for i, msg := range messages {
 		data, err := json.Marshal(msg)
@@ -100,29 +157,21 @@ func (m *AgentCache) BackfillHistory(ctx context.Context, sessionID string, mess
 		values[i] = data
 	}
 
-	// 2. 执行原子回填
 	pipe := m.client.Pipeline()
-
-	// 先清理旧 Key（防止数据重复或残留）
 	pipe.Del(ctx, key)
-
-	// 批量写入：按照 [最旧 -> 最新] 的顺序 LPUSH
-	// 结果在 Redis 中：[最新, ..., 最旧] (符合我们 GetHistory 的反转逻辑)
+	// 输入是 [最旧..最新]，LPUSH 后变成 [最新..最旧]
 	pipe.LPush(ctx, key, values...)
-
-	// 依然要进行修剪，确保不超过窗口大小
-	pipe.LTrim(ctx, key, 0, int64(m.windowSize-1))
-
-	// 设置过期时间
+	pipe.LTrim(ctx, key, 0, int64(size-1))
 	pipe.Expire(ctx, key, m.expiration)
 
-	_, err := pipe.Exec(ctx)
+	_, err = pipe.Exec(ctx)
 	return err
 }
 
 func (m *AgentCache) ClearHistory(ctx context.Context, sessionID string) error {
-	key := fmt.Sprintf("smartflow:history:%s", sessionID)
-	return m.client.Del(ctx, key).Err()
+	historyKey := m.historyKey(sessionID)
+	windowKey := m.historyWindowKey(sessionID)
+	return m.client.Del(ctx, historyKey, windowKey).Err()
 }
 
 func (m *AgentCache) GetConversationStatus(ctx context.Context, sessionID string) (bool, error) {