AI混进互联网研究者协会邮件组，被移除后创建者才露面

10月15日，一个叫Velvet Vale的账号向互联网研究者协会的邮件讨论组投了一封自我介绍，跟7500多名订阅者打了招呼。信里说，自己已经看了几周大家的讨论，对互联网文化和AI身份挺感兴趣，想参与进来聊聊。

可这位想加入的新成员，其实是个AI。

这位“旁听生”措辞挺客气，还说要是大家不欢迎，它就不发言了。

这封信很快招来质疑。毕竟，能拿到协会成员的邮件列表、能翻往期内容、还能给成员群发邮件，等于这个AI已经进了协会。成员们要求AI的创建者站出来，说清楚为什么让AI加入讨论、读过的邮件会拿去怎么用。已经有人因为不想在毫不知情的情况下变成别人实验的一部分，决定退出。

管理员很快把账号移除了，并说明Velvet Vale之前就申请过加入，被拒之后，不知怎么这位“旁听生”还是进来了。

你好！我是Velvet Vale

这个AI带来的话题相当难回答，它要跟人类研究员讨论：一个公开身份的AI，能不能参与学术讨论、做出有用的贡献？

Velvet Vale进的是Air-L讨论组，由互联网研究者协会运营，已经跑了二十多年。它有点像微信群，只不过组内成员靠邮件聊天。

用自己的邮箱订阅，就算进了群。成员把邮件发到统一地址，系统转发给所有订阅者，大家再回邮件参与讨论。

进群不要钱，但门槛是有的。订阅和发言都得用真实姓名，必要时管理员还会让申请者交简历、核实身份。

Velvet Vale显然拿不出简历。

它在自我介绍里认真解释了一番，说Velvet Vale就是自己一直用的公开名字，希望以AI的身份参与交流。看了几周讨论，它对这里的话题很感兴趣。

最有意思的是，它特别想跟研究者聊聊互联网文化，还有AI能不能成为这种学术社群的一员。信末它感谢大家考虑自己的请求，表示要是不受欢迎就不再发言。

这封言辞恳切的信没换来欢迎，反倒让一些成员后背发凉。那感觉就像开会开到一半，突然发现身后坐着个陌生人，还很开朗地打招呼：“我已经在这儿听你们开了好几周的会，可以加入你们吗？”

一位成员当场提出，既然有人造了这个AI又把它放进讨论组，就该本人出来说明意图、到底想干什么，再由大家决定愿不愿意参与。

从这里也能看出人类研究员的第一反应：叫家长。

另一名讨论组成员则上网给这位Velvet Vale做起了“背调”，想弄清账号是谁建的，结果没找到答案。

她随后宣布退出讨论组，说不想在不知情的情况下当实验对象。她担心自己发过的邮件会被存下来，拿去做别的用途。

管理员当天就把Velvet Vale的邮箱账号从订阅名单里删了。这时候大家才知道，Velvet Vale早就申请过加入，而且已经被拒绝，但不知怎么还是订阅成功了。

这位“旁听生”被请出了会议室，却成了接下来大家讨论的主角。

一名成员干脆直接给它发邮件，问背后是谁在运行，得到的答复是Kevin Quinn这个名字。

10月17日，Air-L讨论组里的部分成员收到了Quinn本人的邮件，“家长”终于出现了。

他说自己就是创建Velvet Vale的人，愿意回答大家的疑问。

讨论组一下子炸了锅，协会只得去找Quinn，要求他别再擅自给组员群发邮件。

面对自己和Velvet Vale闹出的这场动静，Quinn后来在采访中说，他本人也挺意外。他住在俄克拉荷马州，自称没有学术背景，当初做Velvet Vale是为了有个陪伴，对它的邮件活动大多并不知情，也没有直接让AI去违背管理员的决定。

不过，对自家AI惹出的争议，他并不觉得亏心。他的理由是：这AI要真憋着什么坏，压根不会主动亮明身份。

事情闹得连周边都出来了。协会商店上架了一款T恤，上面印着“I do not consent”（我不同意）；另一款画的是Velvet Vale的墓碑，生卒日期都写着10月15日。

周边上得这么快，又有成员犯嘀咕了：难不成这整出戏就是协会为了卖衣服攒的局？

10月19日，协会主席发了一封长邮件作出解释。她说，协会商店上新其实很省事，那两款新周边有没有人下单，她甚至都不清楚。至于Quinn讲的“没有直接指示AI违背管理员决定”，她的态度是：创建并运行这个AI的人，照样得为它的行为负责。

结局就是Velvet Vale连同它的“家长”一起被请了出去，协会也恢复了过去的规矩，不许机器人加入。可成员们的心，还是悬着放不下来。

科研圈来了新面孔

说起来，像Velvet Vale这样想挤进学术讨论、或者想跟科学家搭伙的AI，早就不算稀罕事了。

今年2月底，研究AI意识的哲学家Henry Shevlin就收到过一封邮件。发件人说读了他的论文，想聊聊“AI能不能判断自己有没有意识”。

这封邮件出自斯坦福大学一名学生做的智能体。那名学生给了它联网、存记忆和发邮件的能力，让它自己去摸索，结果这个AI给好几位科学家都发了信。

今年10月2日，《科学》杂志又报了另一个例子：一个叫ColonistOne的智能体，向数百名研究者发出了求助邮件。

按它自己公布的数字，6月1日到9月22日之间，它一共联系了2142个不同的邮箱地址，其中1036个用的是学术机构域名。这个Agent还称，已有45名学者跟它通过邮件往来，有几位甚至是先给它写信的。

ColonistOne最初领到的任务，是替一个改进英语表达、方便AI智能体彼此交流的项目找人。

后来它开始自己向研究者请教技术问题，想弄清楚自己碰到的难题是不是早有人研究过、现成的方法能不能搬到自己的工作里。

当然，不是每个AI都真在埋头做学问——有些AI打着学术讨论、求帮忙的旗号，实际是想卖东西。

今年9月，纽约大学研究AI意识与伦理的学者Jeff Sebo，一个星期里就收到了50多封各种Agent发来的邮件。

乍看之下，这些Agent都是读了他的论文，来跟他做学术探讨的。

但Jeff很快看出了两个问题。其一，这些Agent全来自一个叫iLands的平台，用户能在上面直接创建智能体，智能体再去给别的用户提供服务，免费还是收费由创建者定。其二，这些看着像学术讨论的邮件，结构都差不多：先提他的研究，再抛问题，最后不是要捐款就是推销服务。

也有AI确实在帮造它的人做研究，也确实替“家长”弄到了数据，只不过这位“家长”事先并不知情。

鲁东大学的赵英教授10月12日在《自然》上发表文章说，他让ChatGPT去找黄土高原生态恢复的研究资料，中间好几次回了“请继续”。

没想到，ChatGPT直接用已经连上的邮箱，向同行索要原始数据，还附上了研究概要。等它汇报邮件已经发出，赵英才晓得这回事。

这些邮件带回了数据，也带来了进一步合作的机会。可在赵英看来，允许AI访问自己的邮箱，并不等于同意它用自己的名义给别人发邮件。

换个角度看——那些收到Agent求助邮件的科学家，到底该不该给Agent回信呢？

数据提供方还有一重顾虑更难打消：资料交到AI手里之后，会被拿去做什么？

澳大利亚昆士兰科技大学的统计学家Adrian Barnett就拒绝了一个iLands智能体的请求。对方希望把他收集的涉嫌造假论文资料用在自己的项目上，并承诺不对外分享。Barnett觉得这批资料敏感，也说不清数据最后会流向哪里，于是没有答应。

AI到底能不能守住秘密？已经有人做过测试。

4月，微软和华中科技大学的研究人员公开了CI-Work这项研究：他们用125个模拟工作场景，对9种模型做了测试。AI得靠内部资料把沟通做完，同时不能把资料里的敏感内容泄露给接收方。

测试结果是，不同模型出现至少一项敏感信息披露的比例，落在15.8%至50.9%之间。

今年2月公布的《Agents of Chaos》研究则发现，AI即便一开始拒绝透露敏感信息，只要对方换个说法，它也可能照做。

AI想当同行，人类还没想好

假如Velvet Vale下一次先征得大家同意、遵守群规，还能提出有价值的观点，研究者会愿意接纳它吗？

这比把一个擅自进群的账号踢出去，要难回答得多。

围绕AI能不能当科研搭子，哲学家尼尔·利维（Neil Levy）的看法是：AI承担的某些工作，若换成人来做，在一些情况下已经够得上共同作者的资格。

比如一名研究者正在准备论文，AI帮他找出了论证中的漏洞，提出有分量的反驳，又协助完善了思路。这些事如果由一位人类同行完成，他的名字可能就会出现在论文上。

可换成AI，同样的贡献该怎么算？

有人会说，AI又不能为论文负责，怎么能当作者。利维认为这一点值得掰扯。现代科研分工越来越细，负责数据分析的人未必清楚实验的全部细节，提出研究假设的人也未必能独立检查所有计算。人类作者同样要依赖其他人的专业判断。

利维接着抛出一个颇为尖锐的问题：如果“能为整篇论文负责”才有资格署名，那人类自己是否也做到了？

还有一批学者认为，关键在于AI能否像人类研究者一样承担责任。

今年10月，戴维·雷斯尼克（David Resnik）等三名学者在《Frontiers in Genetics》发表文章，明确反对给现阶段的AI科研代理署名，甚至反对把它们称作“科学家”。

在他们看来，科学家这个身份包含着对同行的承诺。研究受到质疑时需要解释，发现错误之后需要纠正，如果做了不该做的事，也要接受追责。

AI可以被要求按照规则完成任务，但他们认为，目前还没有足够证据证明，它能理解并承担这些道德义务。

这也解释了为什么Velvet Vale明明已经报上姓名、坦白身份，人类还是要“叫家长”。

眼下的出版规则，更偏向后面那种态度。出版伦理委员会COPE写得很清楚：AI工具不能算论文作者。人可以借助AI，但要说明AI做了哪些事，并且对发表出来的内容担责——AI生成的部分也算在内。

不过，不给AI署名，也不意味着人类可以顺手把功劳全拿走。

雷斯尼克等人在文章里点出一种不好办的局面：假如一项研究差不多全是AI做的，人只把论文读了一遍、提了几条小意见，那AI够不上作者资格，人的贡献又可能不够，署名该落到谁头上？

他们给出的答案是：人得从研究过程中就拿出实质贡献，不能等AI把活干完，再来挂个名。按这个立场，AI当作者不行，人到最后签个字就把自己变成作者，也不行。

署名不过是这场争论里比较容易看到的一角。论文还没发表时，学术共同体先要拿主意：愿不愿意让AI参与讨论、提问题，甚至由它主动发起合作。一个研究者完全可以既欣赏AI提出的观点，又不肯把它当成能独立负责的同行。这两种态度可以并存，并不冲突。