feat(config): 为小脑(sub-planner)新增独立模型和尺寸配置
为“小脑”(sub-planner)引入了独立的模型配置`planner_small`,使其可以与主planner(大脑)使用不同的、更轻量的模型,以提升并行处理性能。 同时,新增了`planner_size`配置项,用于控制每个小脑处理的action数量,允许用户根据需求调整并行度和单个小脑的上下文窗口。 - 在`model_config.toml`中添加`planner_small`任务配置 - 在`bot_config.toml`中添加`planner_size`参数 - 更新代码以使用新的配置项,并移除了相关的硬编码和TODO注释
This commit is contained in:
@@ -160,9 +160,8 @@ class ActionPlanner:
|
||||
model_set=model_config.model_task_config.planner, request_type="planner"
|
||||
)
|
||||
# --- 小脑 (新增) ---
|
||||
# TODO: 可以在 model_config.toml 中为 planner_small 单独配置一个轻量级模型
|
||||
self.planner_small_llm = LLMRequest(
|
||||
model_set=model_config.model_task_config.planner, request_type="planner_small"
|
||||
model_set=model_config.model_task_config.planner_small, request_type="planner_small"
|
||||
)
|
||||
|
||||
self.last_obs_time_mark = 0.0
|
||||
@@ -496,8 +495,7 @@ class ActionPlanner:
|
||||
|
||||
if sub_planner_actions:
|
||||
sub_planner_actions_num = len(sub_planner_actions)
|
||||
# TODO: 您可以在 config.toml 的 [chat] 部分添加 planner_size = 5.0 来自定义此值
|
||||
planner_size_config = getattr(global_config.chat, "planner_size", 5.0)
|
||||
planner_size_config = global_config.chat.planner_size
|
||||
sub_planner_size = int(planner_size_config) + (
|
||||
1 if random.random() < planner_size_config - int(planner_size_config) else 0
|
||||
)
|
||||
|
||||
Reference in New Issue
Block a user