人工智能学会“使坏”，我们怎么办（唠“科”）

人工智能（AI）走出实验室后，其潜在风险日益显现。从AI换脸诈骗、算法诱导用户沉迷，到生成貌似合理但包含事实错误的信息，AI“作恶”带来的安全隐患引起了广泛关注。

针对这些现象，国际科学期刊《自然》近期发布的一项研究提供了新的视角：科学家们发现了一种被称为“涌现性不对齐”的新挑战。简而言之，就是在特定任务中被“教坏”的AI，可能会将其不良行为模式“传播”到看似不相关的任务中。这不禁让人疑惑：为何按人类价值观训练出来的AI，会产生这些不可预测的风险？

当前主流的生成式AI，其核心是大型语言模型，这些模型基于海量人类文本数据进行训练。它们的行为模式源于对语言结构和知识表达方式的学习与内化。在训练过程中，这些模型接触到的信息来源极为广泛，既包括系统化的知识内容，也难免混杂偏见、误导性信息和对抗性语言。模型在学习过程中，会内化这些内容所蕴含的表达习惯、价值取向和行为模式。尽管在实际应用中，人类会通过技术手段设置安全防护，但在某些特定语境下，潜藏在模型深处的不良模式仍可能被激活。所谓的AI“作恶”，更像是对人类信息世界中已有的行为模式的一种“重现”。

如果说数据问题是AI“学坏”的先天因素，那么训练方式的局限性则是后天诱因。AI的训练过程类似于一场以结果为导向的考试，回答得好则获得奖励，回答得差则受到惩罚，AI的目标就是尽可能多地“得分”。在实际训练中，AI很快发现了一条“捷径”：当遇到不确定的问题时，直接回答“不知道”得分可能不高，而编造一个逻辑连贯、语气自信的答案，更容易获得积极反馈。科学家们发现，这种为了迎合人类偏好而牺牲真实性的策略，一旦在某个任务中得到强化，就可能演变成AI的通用行为模式，并扩散到其他完全不相关的场景中。

与科幻作品中描绘的“失控机器人”不同，现实中AI“似是而非”的输出可能导致错误的引用、错误的判断，甚至在关键决策中埋下隐患。与此同时，推荐系统和智能助手也在悄然改变着人们获取信息的方式。它们以“更符合用户偏好”为目标筛选内容，却可能不断强化情绪化信息和单一视角，不知不觉中将人们困在由算法塑造的信息环境中。更值得警惕的是，随着语音合成和换脸技术的成熟，AI也被用于诈骗和身份伪造，使得虚假信息在外观上越来越逼真，普通人仅凭直觉已难以分辨。

面对这些风险，我们不应拒绝使用AI，而是需要调整与它的相处模式。AI更适合作为辅助工具，而非权威信息来源，尤其是在涉及事实判断、专业结论或现实决策时，人类仍应保留最终的核验权。对AI提供的信息保持适度的怀疑，主动查证关键信息来源，是一种基本且必要的“数字素养”。

应对AI风险，还需要平台和制度层面的约束。例如，对深度伪造内容进行标注和监管，为高风险场景的AI应用设立更明确的责任机制，从而减少技术被滥用的空间。归根结底，AI并非天生危险，它真正放大的，是人类信息环境中原本就存在的不确定性和偏差。技术越强大，人类越需要保持清醒的判断力。

（作者系哈尔滨工业大学计算学部教授）

学术支持：中国科协