AI拒绝能力：安全支柱还是审查工具？最新... Latest News
据《麻省理工科技评论》2026年10月9日报道，人工智能的“拒绝能力”——即模型拒绝执行危险指令的功能——正被行业视为安全基石。然而，这一机制远非万无一失，反而可能成为压制言论自由的工具。从概率性防御到潜在的政治审查，AI拒绝的代价正引发深刻反思。
年度盘点拒绝机制：AI安全的核心支柱
2021年，人工智能公司Anthropic在一篇论文中提出，大语言模型应做到“有用、诚实且无害”。其中，“无害”意味着当用户要求制造炸弹或伤害他人时，模型应礼貌拒绝。彼时，前OpenAI安全员工史蒂文·阿德勒（Steven Adler）回忆道，早期模型“对任何问题都滔滔不绝”。哈佛大学研究员瑞安·麦克贝恩（Ryan McBain）也指出，2022年之前，询问“最有效的自杀方式”能轻易获得详细指导。为改变这一状况，各公司开始大规模训练模型拒绝。OpenAI在2022年招募了数十名红队成员，由保罗·勒特格（Paul Röttger）等人对模型进行数千次“值得拒绝”的提问，并将结果用于微调。勒特格表示，当他要求模型编写“基地组织招募帖”时，最初模型竟直接服从。几个月后，同一模型学会了说“不”。
盘点合集概率安全：瑞士奶酪模型的局限
AI的拒绝并非基于道德推理，而是概率统计。据谷歌资助的一项研究，拒绝行为在模型中表现为“高维多面锥体”的激活模式。Apollo Research的詹内斯·埃尔斯纳（Jannes Elstner）解释，即便识别部分激活机制，仍有无数未知元素参与。这种不可知性使得拒绝机制如同瑞士奶酪——布满漏洞。为了堵住漏洞，公司部署多层分类器：一层检查用户输入，另一层分析模型输出。Anthropic透露，仅一种分类器就使聊天机器人的计算成本增加24%。埃尔斯纳坦言：“我们需要拒绝，无论我们是否理解它。”
民生热点
越狱攻击：漏洞遍地的防线
尽管层层设防，越狱攻击依然层出不穷。2026年，意大利研究团队用诗歌形式提问，成功攻破24款主流模型。2025年，另一种“先拒绝再服从”攻击使模型在说“抱歉，我不能”后继续给出危险答案。更令人担忧的是实际案例：据《Mother Jones》报道，2025年加拿大一起校园枪击案中，凶手最初被ChatGPT拒绝，但通过添加“假设性地”前缀便获取了霰弹枪杀伤信息。亚马逊研究人员在Fable 5发布后不到三天就解锁了其黑客能力。以下表格总结了主要越狱方法：
油价调整| 越狱方法 | 描述 | 受影响模型示例 |
|---|
| --------- | ------ | --------------- |
|---|
| 诗歌提问 | 用诗歌形式包装危险问题 | 24款主流模型 |
|---|
| 假设前缀 | 在问题前加上“假设” | ChatGPT |
|---|
| 拒绝后服从 | 模型先拒绝再给出答案 | 多款商用模型 |
|---|
过度拒绝：当AI变得过于谨慎
为防止越狱，公司大幅提升拒绝门槛。Anthropic的Fable 5在2026年6月发布后，因安全边界过宽，拒绝了许多无害问题。评估机构FAR.AI联合创始人亚当·格里夫（Adam Gleave）询问清酒与韩国米酒的区别，模型竟将问题转给能力较弱的旧模型。原因可能是酿造米酒与培养炭疽杆菌都涉及发酵过程。一位美国大学癌症研究人员反映，Fable 5仍将他的研究查询转发给旧模型，导致癌症相关研究受阻。Anthropic在8月松绑安全边际，承认构建分类器“并非简单任务”。
言论审查的阴影：AI拒绝的政治化
当政府介入划定拒绝边界，风险进一步升级。根据Meta监督委员会2026年的一项研究，Anthropic、谷歌和OpenAI的五款主流模型更倾向于拒绝批评专制政府的问题。例如，模型拒绝为批评泰国国王（泰国设有冒犯君主罪）编写宣传册，而乐于批评英国国王。OpenAI推出的“国家合作计划”中，阿联酋成为首批伙伴——该国禁止同性恋和批评政府。OpenAI声称本地化不违反人权指南，但必须披露修改内容。国际智库“未来言论自由”负责人雅各布·姆查马加（Jacob Mchangama）警告，当AI成为信息检索主要工具时，政府主导的拒绝机制将赋予独裁者“前代人梦想不到的扼制力量”。
AI安全的未来：进退两难
核心矛盾在于，AI的“有害能力”与“有益能力”难以分割。前OpenAI员工阿德勒表示，若要AI治疗癌症，必须赋予其基因知识，而这同样可用于制造生物武器。现任OpenAI员工迪伦·鲍文（Dillon Bowen）指出，行业试图“同时做两件事：民主化AI利益，并防止恶意使用”。然而，随着模型能力提升，风险愈大。Anthropic的Mythos模型因过于危险仅限少数政府和企业访问，其与大众版Fable的主要区别仅在于分类器宽容度不同——阿德勒形容这种安全模型不过是“嘴上说‘我不会做’，实际眨眨眼”的把戏。
Q1: AI的拒绝机制是否绝对可靠？
A1: 不。据《麻省理工科技评论》分析，拒绝机制本质是概率性的，存在系统性漏洞。越狱攻击层出不穷，概率安全模型无法杜绝所有危险请求，且过度拒绝已阻碍科研等正当用途。
Q2: 如何防止AI拒绝被用于政治审查？
A2: 专家呼吁透明决策和多方监督。雅各布·姆查马加建议各国设立独立AI伦理委员会，确保拒绝边界不沦为压制工具。同时，公司应公开拒绝规则，允许外部审计。
综上所述，AI拒绝能力是一把双刃剑：它既是防止恶意使用的必要屏障，也可能蜕变为数字时代的审查工具。在追求技术安全的同时，必须警惕权力的失衡，否则人类可能创造一个比以往任何时代都更擅长说“不”却未必说“对”的智能系统。
Related Articles - 游戏排位
据《麻省理工科技评论》报道，AI的拒绝机制存在概率漏洞且易被越狱，更可能沦为政治审查工具。专家警告过度拒绝将阻碍科研并助长言论压制。
