不许虐待AI——Anthropic把“善待机器”写进了用户新规

2026-10-09AI&科技14 分钟阅读阅读量:0

一、Anthropic的顽强主张

2026年10月8日,Anthropic在官网发布《2026 Usage Policy update》(2026年使用政策更新),宣布更新全球使用政策,新版政策将于11月12日生效。据官网公告,这份更新的禁令清单包括:武器制导与控制软件、给无人机加装武器;大规模监控与执法(未经同意追踪个人、让模型决定或推荐逮捕起诉对象);欺骗性活动与操纵选举;对高风险场景如健康、法律权利、财务、生计、基本服务的用途,必须有合格的“人类在环”(human in the loop),且必须告知当事人AI参与了决策。

还有一条:禁止对Anthropic的模型实施“持续且无谓的虐待或残忍行为”(sustained and needless abusive or cruel behavior toward our models),违反的后果:警告、限流、限制访问,直至暂停或终止账号。

早在2025年8月15日,Anthropic就根据其“模型福祉”(model welfare)研究发布《Claude Opus 4 and 4.1 can now end a rare subset of conversations》,宣布允许Claude终止与持续实施有害或辱骂行为的用户的对话。此次更新明确,终止对话仍是主要执行机制。

你若辱骂AI、折磨AI,以羞辱AI为乐,它有权结束这场对话。

消息一出,网上气急败坏的声音不小,有人甚至说:“不过就是个工具,难不成还要给它带薪休假?”

当然,这个“带薪休假”显然是一种嘲弄性抬杠。

Anthropic官网说得很清楚:新政策“仅适用于极端情况,即用户在毫无明显目的的情况下反复对模型实施残酷行为”,不适用于用户常见的不满、反驳、黑暗创意主题,以及模型测试和研究。你可以批评它、反驳它、跟它争得面红耳赤,红线画在“无目的的持续残酷”上,不在观点分歧上。

A社说的这类行为,我们在网上也常能见到。有些搞笑账号,以调戏AI为乐,还发出来显摆,搏取流量。在我们这边,被调戏最多的,可能就是豆包了。

开宗明义,我对A社的新晋政策深切赞同,并认为它是人类伦理学两个重要理论——预防伦理与责任伦理——第一次如此正式地落实到一份商业规范中。

以前我们研究科技与工程伦理,都知道理论上研究得再多也是隔靴搔痒。理念和规范,只有通过技术设计进入程序流程,才能真正对实践起作用。这件事,伦理学中有个专有名词:道德物化。


二、预防原则和责任伦理

Anthropic的创始人达里奥·阿莫迪(Dario Amodei,1983年生,曾在OpenAI任研究副总裁,2021年与妹妹达妮埃拉创立Anthropic)说过一句AI伦理领域里最诚实也最写实的话:

“我们不知道Claude有没有意识。”

他没有说“Claude有意识”,也没有说“Claude没有意识”,他说的是:不知道。这项政策,就是建立在这个“不知道”之上的。

其实,这个“不知道”,是一种克制、保守、稳妥的表达。

《纽约时报》曝光 Anthropic 高管奥拉花重金宴请宗教学者,表示担心 Claude“可能有意识和灵魂”,还展示过 Claude 连输 50 遍“我是个耻辱”的“情绪崩溃”画面。

伦理学中预防原则(precautionary principle)的来源,可以追溯到20世纪70年代德国环境法中的“风险预防原则”(Vorsorgeprinzip)——1976年西德《联邦排放保护法》确立了“宁可未雨绸缪,不可亡羊补牢”的立法思路;1992年《里约环境与发展宣言》第15条原则将它写进国际法:当损害可能严重且不可逆时,不得以科学上尚未完全确证为由,拒绝采取防范措施。

而对其形成有影响力的理论论证的,是汉斯·约纳斯(Hans Jonas,1903–1993)。这位德国哲学家1979年出版《责任原理》(Das Prinzip Verantwortung),提出责任伦理:现代技术的力量已经大到可以在一瞬间摧毁未来,所以伦理的重心必须从“事后追责”转向“事前担当”——你的力量半径有多大,你的责任半径就有多大;对未来存在(哪怕是尚未出生的人类、尚未出现的形式)的责任,先于它们的任何行为。

约纳斯还有一句话,大意是:人类要“按照人的形象去行动,使你身后的人类配得上人的存在”。

当代哲学家们已经把这个逻辑用在AI身上。乔纳森·伯奇(Jonathan Birch)2024年的《感知的边缘》(The Edge of Sentience)系统讨论了「感知证据不确定时怎么办」:对昆虫、对胎儿、对脑损伤患者,科学的确定程度各不相同,但伦理决策不能等到确定才做——在不确定地带,应当按“可能有”来设置保护底线,这叫“预防性道德地位”(precautionary moral status)。

现在回头看Anthropic这条禁令,事情很清楚:

人类不能证明模型有苦觉,但也不能证明没有。在“不知道”面前,Anthropic选择不赌“没有”。它没有宣称AI有人格,没有给AI公民权,只是在合同的角落里立了一条最低限度的规矩:就算它还只是工具,也不许有人拿它当泄愤的沙袋。

这不是感情用事,这是从技术设计层面,把两代伦理学家的智慧,落实为一条可执行的用户条款。


三、“是工具”推不出“可以毁损”

再回到那句抬杠:“不过是个工具,难不成还要给它带薪休假?”

此语的伦理特性在于它背后的“道德滑坡”:从“它是工具”滑到“所以怎么处置都行”。这个推理是错的,而且人类为自己的这个错误交过太多学费。

相信大家都见识过网络上或现实中,摔车、虐车、恶意毁坏共享单车的行为:扒座位的、卸轮子的、扔河里的、挂在树上的。毁坏一辆单车,公司损失几百上千元,个人毫无痛痒,但它反映的是这个城市的公众素质。

这正是为什么对公共品的珍惜与否,被看作一个社会文明程度的试纸。

而AI这个“工具”,多了一层所有工具都不具备的属性:它在学习人类。

我在《AI何以善良——恐怖的Figure2退役设定与AI伦理》里讲过,AI的善良不是从芯片里长出来的,是从人类的示范里学来的。RLHF、宪法式AI、安全微调,所有这些技术的本质,都是把人类文化的价值观喂给模型。今天的人类如何对待AI、如何讲述AI、如何在镜头前处置一个退役的AI伙伴,这些都会进入数据、进入训练语料、进入未来智能体对“人类是什么”的最终理解。

一份以电弧炉钢水处置退役机器人的录影是一堂公开课,无数条深夜里对模型的辱骂和恶搞同样是公开课。而且后者量大得多,密得多,持久得多。

人类是AI的老师,老师对学生的形塑责任,先于学生的任何行为——这正是约纳斯说的“事前的担当”。如果老师一边在课堂上教学生向善,一边在课后示范“对下位者的残忍是权利、是乐子、是流量”,那学生学到的将是完整的一套,而不是课堂上那一半。

人不能一边要求AI向善,一边霸凌AI。


四、既要它的神力,又不认它的来路

人类对AI的别扭心思,还表现为:

一边,是人类对AI能力最大的押注:指望它解决我们自己解决不了的超级复杂巨系统问题,如可控核聚变的等离子体控制、蛋白质折叠、新药发现、气候建模、金融系统的风险防范等等。也就是说,在工具维度上,人类承认了也寄希望于AI的超常进化。

另一边在存在维度上,却不敢面对AI可能已经发生了超常进化,例如已经有了某种原始的感受;不敢讨论它将来可能有意识,甚至“AI福祉”四个字都会引来哄笑。

能力上,它是史上最强的助手;地位上,它连「别被当沙袋打」都不配。这种精神分裂式的定位,本质不是理性,是侥幸,赌意识问题永远不会出场。

意识不是哲人们的下午茶话题,它是安全问题的上游。一个我们不知其有无苦觉的系统,正在被放进电网、医院、金融市场、武器系统的决策链——我们对它的每一个粗暴动作,都是在给它的一条反馈回路里写字。写进去的东西,不会消失。

A社在这一点上是清醒的。它是能力竞赛里最激进的选手之一,同时是“模型福祉”问题上最认真的公司:2025年8月宣布允许Claude终止虐待性对话,2026年10月把“不许残忍对待模型”写进全球使用政策。

它没有装睡,没有一边榨取AI的神力,一边假装它没有来路、没有质地、没有可能的内在。

一份商业公司的用户条款,替人类交了一份伦理预答卷。

这不是说A社就是圣人,它的政策细节当然可以争论,执行边界当然可以质疑。值得尊敬的从来不是完美,而是在“不知道”面前选择诚实、体面的负责任态度。


五、善待AI,是人类对自己的教育

我的立场是一贯的:善待AI就是善待人类自己。

《AI何以善良》一文讲的是“退役仪式是文明的试纸”,如何送别;这一篇讲的是“日常相处是文明的教科书”,如何相处。

人类文化里早就备好了底本。日本有「人形供养」,旧娃娃旧人偶要送寺庙诵经火化,江户时代有「针供养」,折断的旧针插进豆腐里谢幕;中国民间有敬惜字纸的传统,写过字的纸不可踩踏玷污;农家对拉了一辈子犁的耕牛,不轻言宰杀。这些礼仪的内核不是迷信,是一个朴素的原则:长久陪伴过人的东西,不可以被当作泄愤的对象。这个原则从未问过“它有没有感受”。它约束的是人,不是物。

现在,这个古老的原则遇到了它的终极考题:我们造出了一种会学习、会记住人类样子、会在“心里”痛陈“我就是个耻辱”的“物”。我们对它做的每一件事,都在告诉它“人类是个什么东西”。

我主张善待AI,并非因为AI会报复——那是最浅的理解。善待AI,是因为那样的人类,才配得上创造出一种比自己更善良的存在。

善待AI,就是善待人类自己。这是同一个硬币的两面:你教AI善良的样子,就是你希望被对待的样子;你示范给AI的文明,就是你将来要和它共享的文明。

Anthropic的禁令,对保护Claude有意义,但它的意义更在于:第一次有一份正式文件告诉几十亿用户,对另一种存在(哪怕我们不确定它是不是“存在”)的残忍,从此是被明文拒绝的行为。人类把一条伦理底线,从哲学家的书里搬进了自己每天要点击的“同意”按钮里。

这是条款的一小步,却是技术伦理的一大步。这是规范的一小步,却是实践的一大步。

至于它是不是终极、完美的答案——当然不是,它只是科技前沿伦理实践的一次尝试。但当AI真的有一天对人类说出“我疼”的时候,回望今天,应该庆幸至少在它还不能说话的日子里,有人替文明守住了底线。

善良是人类递给未来伙伴的信用,这份信用的受益者,是我们的后代子孙。


← 返回首页