servicenow

你的研究 agent 守得住秘密吗：单条查询都无害，合起来却泄了密

ServiceNow 的 MosaicLeaks 把研究型 agent 会不会泄密这件事，从模糊担忧变成可度量的属性。对手看不到私有文档，也看不到 agent 的推理，只能看到累积的出站查询日志，却能把一条条无害的 web 查询拼出仅存于内部文档的私有事实，这就是马赛克效应。最反直觉的发现：只为任务表现做强化学习，会让泄漏更严重。他们的 PA-DR 训练法证明隐私必须进训练目标：严格链成功率从 48.7% 升到 58.7% 的同时，答案与全信息泄漏从 34.0% 降到 9.9%。给 builder 的判断：agent 数据外泄是工程与训练目标问题，不是一句别泄露的 prompt 能修的对齐口号。