feat(chatter): 引入决策历史以增强上下文连续性
为提升语言模型在连续对话中的表现,本次更新引入了决策历史功能。该功能旨在为模型提供一个短期记忆,记录其最近的思考过程与采取的行动。 主要变更包括: - 新增 `DecisionRecord` 数据模型,用于存储“思考-动作”对。 - 在 `StreamContext` 中添加 `decision_history` 字段,以维护每个聊天流的决策历史。 - 在 `plan_filter` 中实现决策记录的逻辑,并在构建提示词时将其注入,供模型参考。 - 添加 `enable_decision_history` 和 `decision_history_length` 配置项,允许用户启用此功能并调整历史记录的长度。 通过回顾近期的决策,模型可以更好地避免重复行为,并生成更具连贯性和创造性的响应。
This commit is contained in:
@@ -137,7 +137,8 @@ dynamic_distribution_min_interval = 1.0 # 最小分发间隔(秒)
|
||||
dynamic_distribution_max_interval = 30.0 # 最大分发间隔(秒)
|
||||
dynamic_distribution_jitter_factor = 0.2 # 分发间隔随机扰动因子
|
||||
max_concurrent_distributions = 10 # 最大并发处理的消息流数量,可以根据API性能和服务器负载调整
|
||||
|
||||
enable_decision_history = true # 是否启用决策历史功能
|
||||
decision_history_length = 3 # 决策历史记录的长度,用于增强语言模型的上下文连续性
|
||||
|
||||
|
||||
[message_receive]
|
||||
|
||||
Reference in New Issue
Block a user