HOS-AI 围栏（HOS-AI Guardrail） #1943
Description
Plugin Name
HOS-AI 围栏（HOS-AI Guardrail）
Function Description
HOS-AI 围栏
HOS-AI 围栏是一款专业的 AI 安全防护组件，旨在保障大模型应用在输入、输出及文件处理环节的安全与合规。系统通过对文本、文件和图片的语义分析，实时识别潜在的违规、攻击或越权行为，并提供统一的裁决结果。
在用户输入环节，HOS-AI 围栏可检测指令注入、越权请求、敏感信息泄露及不合规内容，确保大模型仅接收到安全的请求。在输出环节，围栏可识别模型可能生成的违规或不当内容，并根据策略选择放行、拦截或安全重写，以保护应用和用户。
文件和图片检测模块支持多种常见文档和图像格式，通过内容抽取和语义分析实现安全判定，避免文档或图片中携带的违规信息被模型处理或传递。
系统提供标准化 API，可直接集成至 Dify Workflow、MCP 节点或代理层，实现前后端统一安全控制。裁决结果结构化输出，包括操作建议（pass/block/rewrite）、分类信息及安全代答，保证后续业务流程的稳定与合规。
HOS-AI 围栏可根据不同业务资产和安全策略灵活配置，适用于聊天机器人、企业 AI 系统及多模态应用，帮助企业在快速使用大模型的同时，保持内容安全与合规可控。