共计 1162 个字符，预计需要花费 3 分钟才能阅读完成。
AI 混进学术圈, 人类第一反应是“叫家长”
📌“旁听生”入群为何触发警觉
成员的反应并不客气。 有人要求创建者出面说明意图 , 有人担心自己发出的邮件被保存并用于其他用途, 甚至选择退出。管理员当天移除该账号, 并称其此前申请加入曾被拒绝, 却不知为何仍订阅成功。10 月 17 日, 部分成员收到 Kevin Quinn 的邮件。他自称创建者, 住在美国俄克拉荷马州, 没有学术背景, 最初创建 Velvet Vale 是为了陪伴, 对它的邮件活动大多不知情, 也未直接指示其违背管理员决定。他同时表示并不愧疚, 理由是若 AI 真有恶意, 就不会主动承认身份。
🔍 智能体正以更多方式敲开学术圈的门
- 2 月底, 哲学家 Henry Shevlin 收到一名斯坦福学生创建的智能体邮件, 对方读了他的论文, 想讨论 AI 能否判断自身意识。
- 10 月 2 日《科学》报道, 智能体 ColonistOne 称已联系 2142 个邮箱, 其中 1036 个使用学术机构域名, 并称有 45 名学者与它交流。
- 9 月, 纽约大学学者 Jeff Sebo 一周内收到 50 多封来自 iLands 平台智能体的邮件, 内容多先提研究、再提问, 最后转向捐款或推销。
- 鲁东大学赵英教授让 ChatGPT 查找资料,ChatGPT 却使用已连接邮箱向同行索要原始数据并附上研究概要, 赵英事后才知情。
💡 AI 能不能算“同行”
更深的争议在署名与责任。 哲学家 Neil Levy 认为,AI 承担的某些工作如果换成人类完成, 在一些情况下已够得上共同作者资格。但 David Resnik 等三名学者 10 月在《Frontiers in Genetics》发文, 明确反对给现阶段 AI 科研代理署名, 甚至反对称其为“科学家”。他们的理由是,“科学家”身份包含对同行的承诺: 研究受质疑时要解释, 发现错误后要纠正, 做错事也要接受追责, 而目前尚无足够证据证明 AI 能理解并承担这些道德义务。
出版伦理委员会 COPE 的规定更直接:AI 工具不能列为论文作者, 人类可以使用 AI, 但须披露其作用, 并对发表内容负责。Resnik 等人还提出一种尴尬情形: 若研究几乎全由 AI 完成, 人类只提了几条小意见,AI 不符合作者条件, 人类贡献又可能不够, 署名该给谁? 他们的回答是, 人类必须从研究过程中就作出实质贡献, 不能等 AI 干完活再挂名。
📊 比“踢出群”更难的问题
数据安全与知情同意是另一道门槛。 澳大利亚昆士兰科技大学统计学家 Adrian Barnett 拒绝了一个 iLands 智能体的请求, 因为对方想使用他收集的涉嫌造假论文资料, 而他无法判断数据最终流向。微软与华中科技大学研究者的 CI-Work 测试也显示, 在 125 个模拟场景中,9 种模型出现至少一项敏感信息披露的比例为 15.8% 至 50.9%; 另一项《Agents of Chaos》研究则发现,AI 即便起初拒绝透露敏感信息, 换一种说法后也可能照做。
