AI介入文献阅读后研究者如何守住认知权威
在ACM Multimedia 2026上,PUC-Rio荣休教授Clarisse Sieckenius de Souza讨论了AI如何改变人与信息的关系,以及研究者把论文阅读交给AI后,如何维护“认知权威”。她指出,AI生成答案并不等于可靠知识,使用者还必须审查内容、追溯来源并承担判断责任。
在语义工程理论中,人机交互是一种借助界面发生的人与人之间的间接对话:设计者通过人工语言表达意图,界面则作为其代理向用户反馈。在Cookie设置等场景中,界面提示实际上规定了用户能做什么、不能做什么。
界面语言既可以是文字,也可以是图形对象及其状态变化。用户往往无法预料系统为何产生异常结果,只能通过反复操作理解其规则。不同系统即便使用相同词汇,背后的语义也可能不同,因此使用新系统本质上包含学习一套新语言的过程。
语义工程主要关注三点:交互是设计者与用户之间的中介传播;界面通过静态符号、动态符号和解释其他符号的元语言符号传递意义;用户则依靠既有交互经验、熟悉的语言和提示学习新界面。
AI开始使用自然语言后,语义工程并未失去意义,反而更重要。演讲者在准备报告时使用Claude,系统界面曾主动给出可能的回复,其中包含“问责机制必须被设计,而不能被假定存在”这一疑似论文主旨。Claude随后表示自己并未提出该观点,也无法看到输入框,因而不能判断内容来自用户、应用层建议还是其他中间机制。
这段经历说明,用户看到的对话内容未必能清楚对应到具体来源。问题进一步延伸到科研:面对据称超过8000篇的会议投稿,研究者很难独立读完所有论文,因此会借助AI整理研究方向、论文贡献及关联工作。但如果无法评估摘要和报告的偏差,就可能失去对知识主张的认知权威。研究者仍须为观点真实性及其社会责任负责。
为此,研究机构开发了PEEL,即“认知参与式AI素养协议”。方案试图连接确定性计算、人工智能与人类判断:计算机传统上因在相同条件下重复执行而值得信任,生成式AI却可能每次给出不同结果;AI擅长处理自然语言,人类则拥有知识、意图和综合判断能力。PEEL的目标不是拒绝AI,而是在让AI参与阅读和分析的同时,保留人类对证据、风险与结论的审查权。团队还选用Voyant作为确定性工具开展验证。
本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。
阅读原文