959049db42
feat: 🗄️ 新增自动建表功能 * 新增项目启动时自动建表能力，减少手动初始化数据库步骤 * 解决 `agent_chat` 与 `chat_history` 结构体互相持有对方结构体用于 `preload` 导致的循环依赖问题 * 修复因结构体互相依赖引发的建表失败问题，保证数据库初始化流程稳定 feat: 🐳 Docker Compose 引入 Kafka 分区自动初始化 * 更新 `docker-compose` 配置，引入 Kafka partition 自动初始化脚本 * 保证服务启动后 Topic 即具备可用 partition，实现开箱即用 * 修复转移环境后 MySQL 等容器数据无法持久化的问题，统一改为使用命名卷进行数据持久化 docs: 📚 补充 Outbox + Kafka 持久化链路注释 * 为 Outbox + Kafka 消息持久化链路补充详细代码注释 * 提升异步消息链路的可读性与维护性 * 当前代码 Review 进度约 50% undo: ⚠️ Kafka 初始化阶段出现消息短暂堆积 * 初次初始化项目时观察到消息在 Kafka 中短暂堆积现象 * 后续被消费者一次性消费且未再次复现 * 已在生产者启动、消费者启动以及消息消费流程中增加控制台日志输出，降低系统黑箱程度 * 后续若条件允许将进一步排查该现象的触发原因
55 lines
1.4 KiB
Go
55 lines
1.4 KiB
Go
package kafka
|
||
|
||
import (
|
||
"context"
|
||
"errors"
|
||
|
||
segmentkafka "github.com/segmentio/kafka-go"
|
||
)
|
||
|
||
// Consumer 是 Kafka 读取端封装。
|
||
// 采用“手动提交 offset”，确保业务落库与 offset 提交的顺序可控。
|
||
type Consumer struct {
|
||
reader *segmentkafka.Reader
|
||
}
|
||
|
||
func NewConsumer(cfg Config) (*Consumer, error) {
|
||
if len(cfg.Brokers) == 0 {
|
||
return nil, errors.New("kafka brokers 未配置")
|
||
}
|
||
reader := segmentkafka.NewReader(segmentkafka.ReaderConfig{
|
||
Brokers: cfg.Brokers,
|
||
Topic: cfg.Topic,
|
||
GroupID: cfg.GroupID,
|
||
MinBytes: 1,
|
||
MaxBytes: 10e6,
|
||
// 关闭自动提交，业务处理成功后显式 Commit。
|
||
CommitInterval: 0,
|
||
StartOffset: segmentkafka.FirstOffset,
|
||
})
|
||
return &Consumer{reader: reader}, nil
|
||
}
|
||
|
||
// Dequeue 从 Kafka 拉取一条消息（不自动提交 offset）。
|
||
func (c *Consumer) Dequeue(ctx context.Context) (segmentkafka.Message, error) {
|
||
if c == nil || c.reader == nil {
|
||
return segmentkafka.Message{}, errors.New("kafka consumer 未初始化")
|
||
}
|
||
return c.reader.FetchMessage(ctx)
|
||
}
|
||
|
||
// Commit 显式提交 offset。
|
||
func (c *Consumer) Commit(ctx context.Context, msg segmentkafka.Message) error {
|
||
if c == nil || c.reader == nil {
|
||
return errors.New("kafka consumer 未初始化")
|
||
}
|
||
return c.reader.CommitMessages(ctx, msg)
|
||
}
|
||
|
||
func (c *Consumer) Close() error {
|
||
if c == nil || c.reader == nil {
|
||
return nil
|
||
}
|
||
return c.reader.Close()
|
||
}
|