OpenAI开源Privacy Filter：让敏感信息在进入ChatGPT前被清洗

OpenAI发布了Privacy Filter（隐私过滤器），该模型以Apache 2.0开源形式提供。它能在用户设备本地对文本进行清洗：在内容被发送到诸如ChatGPT之类的AI聊天机器人之前，先去除敏感个人信息和机密凭据。Privacy Filter为15亿参数规模，能够对8类PII与凭据进行脱敏，包括姓名、地址、邮箱、电话号码、URL、日期、账号信息，以及密码或API密钥。 OpenAI称，该Privacy Filter在PII-Masking-300k基准测试上无需额外调参即可达到96% 的F1分数；若使用修正版测试，分数可达97.43%。与仅靠规则的模式匹配不同，Privacy Filter会在一遍扫描中理解上下文，并把识别到的敏感片段替换为占位符（如[PRIVATE_PERSON]或[ACCOUNT_NUMBER]）。 OpenAI同时强调，它并非匿名化工具，也不是合规认证；在处理不常见标识符或跨语言场景时可能会出现漏检或表现不均。尽管如此，“本地运行”的架构减少了向第三方上传原始个人数据的需求，对使用AI进行摘要或文本起草的消费者、开发者与企业都具有隐私层面的直接意义。