Files
Mofox-Core/src/llm_models
Windpicker-owo f59a31865c feat(model): 优化客户端缓存和事件循环检测机制
- 在 ClientRegistry 中添加事件循环变化检测,自动处理缓存失效
- 为 OpenaiClient 实现全局 AsyncOpenAI 客户端缓存,提升连接池复用效率
- 将 utils_model 中的同步方法改为异步,确保与事件循环兼容
- 移除 embedding 请求的特殊处理,现在所有请求都能享受缓存优势
- 添加缓存统计功能,便于监控和调试
2025-11-19 23:18:54 +08:00
..
2025-11-19 23:13:20 +08:00
2025-07-25 13:21:48 +08:00
2025-11-19 23:13:20 +08:00
2025-07-25 13:21:48 +08:00
2025-11-19 23:13:20 +08:00