ai for science 安全风险有哪些

做AI4S的项目，最容易出问题的时刻往往不是模型跑不动，而是数据已经发出去了才发现边界没定、实验记录和对外材料对不上、合作方要材料时手里什么都没有。这篇不讲抽象概念，给一份按阶段走的排查清单：哪些环节先查、发现问题按什么顺序处理、要留哪几类记录，以及什么情况下这套清单不适用。

做 AI4S 的项目，最容易出问题的时刻往往不是模型跑不动，而是数据已经发出去了才发现边界没定、实验记录和对外材料对不上、合作方要材料时手里什么都没有。这类风险很少来自单点失误，更多是几条线同时松懈，等到被追问时才暴露。

这篇不讲抽象概念，只给一份按阶段走的排查清单：哪些环节先查、发现问题按什么顺序处理、要留哪几类记录。顺序不是死规定，但照着走能少绕路；每一节末尾都会说明什么情况下不适用。

先把风险摊开：AI4S 的风险不在同一个层上

很多团队一上来只盯数据泄露，结果模型权重、共享账号、对外演示材料这几块全空着。建议按四条线各列一遍，每个线单独打分、单独找责任人，避免一条线盖住另一条线。

数据线

原始实验数据、样本编号、受试者信息、中间计算结果，重点看谁能导出

模型线

外来权重、微调产物、托管方式与授权条款，重点看能不能再分发

协作线

多方共享账号、第三方平台、外包标注，重点看入口有几个

发布线

论文、代码仓库、对外演示材料，重点看发之前谁审过

每条线还要标出「谁掌握入口」，也就是这项资产由谁把控上传、下载和转发权限。入口没人认领的那条线，基本就是将来出事的线。纯公开数据集、纯理论推演的课题，数据线和发布线可以大幅简化，但协作线通常仍然有效，别一起省掉。

第二站：数据从哪出去，出口有几个

• 把课题组所有能往外传数据的出口列一遍：个人账号的网页版、API 调用、第三方平台、共享网盘、外包标注，漏一个等于没查
• 对每个出口问三件事：传的是什么、经过谁、能不能撤回，三个都答不上来的出口先停用再补手续
• 科研场景还要单独看样本编号、受试者信息、医院或机构内部标识这类字段，通用脱敏规则经常盖不住
• 出口清单定稿后指定一个人按季度复核，新增出口要能追溯到审批动作

判断标准可以拿站内 key-safety 讲的原则做底，但落到科研场景要再加一层：一份数据在课题组内部算不算敏感，和在合作方那里算不算敏感，结论经常不一样。已经完成脱敏并通过内部审核的数据集，出口盘点的严格程度可以降一档，但仍要留记录，否则下次复核时说不清当时的判断依据。

第三站：模型权重与平台托管怎么选

开源权重不等于随便托管。先确认授权条款对商用和再分发的说法，再决定自建还是走第三方；条款里没写清楚的部分，按最严的假设处理，别自己替对方解释。

托管方换了、域名换了、接口地址换了，都要重新评估一次，不能默认原样可用。团队多人共用同一个 Key 是常见隐患，交接和轮换要有明确责任人。不确定某个平台的调用口径时，到 /official-api 核对该平台的计费与限制页，再到 /sites 看有没有可信度记录，两处对不上就先别急着接。

第四站：真出事了，按什么顺序处理

1. 先掐通道吊销凭证、停掉正在跑的任务、断开可疑出口。验证方式是确认旧凭证已失效，而不是只改了密码。
2. 再查范围对照调用日志、账单记录和会话记录三条线交叉验证，只看一条容易漏。确认哪些数据、哪些人、传到哪几个地方。
3. 后补动作准备对外沟通材料，写清时间点、涉及数据类别、已采取的动作。临时拼容易前后矛盾。
4. 最后复盘把这次的处理顺序写进团队文档，下次直接照着走，减少临场争论。

如果涉及人身安全或正在进行的实验数据污染，处理顺序要按机构内部应急预案走，不要照搬这份通用顺序，先联系机构对应负责人比自行处置更稳。

第五站：留证——等别人来要就晚了

留证的目的不是应付检查，而是让自己在半年后还能说清楚当时发生了什么。至少要能拿出四类东西，缺哪类就补哪类，别等到被追问才翻聊天记录。

• 数据清单与脱敏记录：哪份数据、按什么规则处理的、谁审的
• 调用与访问日志：谁在什么时间对哪份数据做了什么，只留结果不留过程很难还原
• 内部审批或知会记录：谁同意了这个出口、什么时候同意的
• 对外说明版本：每次对外口径的定稿时间与负责人，避免前后不一致

日志留存要抓「谁在什么时间对哪份数据做了什么」。每季度做一次自查，重点看有没有新增出口、有没有离组人员还留着凭证。自查发现的问题写成待办并指派到人，只记录不跟进等于没查。想对照可信度记录和常见问题清单，可以到 /sites 按平台逐条核对；涉及具体价格与限制的数字，以站内页面当时的显示为准。