新增反击模式支持,允许在检测到提示词注入攻击时生成反击响应并发送。更新相关配置和处理逻辑,增强系统的防护能力。

This commit is contained in:
minecraft1024a
2025-08-18 22:13:23 +08:00
parent 15ae0ea609
commit ec61a9ccf0
6 changed files with 244 additions and 8 deletions

View File

@@ -302,6 +302,17 @@ class ChatBot:
# 消息被阻止(危险内容等)
anti_injector_logger.warning(f"消息被反注入系统阻止: {reason}")
return
elif result == ProcessResult.COUNTER_ATTACK:
# 反击模式:发送反击消息并阻止原消息
anti_injector_logger.info(f"反击模式启动: {reason}")
if modified_content:
# 发送反击消息
try:
await send_api.text_to_stream(modified_content, message.chat_stream.stream_id)
anti_injector_logger.info(f"反击消息已发送: {modified_content[:50]}...")
except Exception as e:
anti_injector_logger.error(f"发送反击消息失败: {e}")
return
# 检查是否需要双重保护(消息加盾 + 系统提示词)
safety_prompt = None