谁在反对人工智能?批评者及其论点
反对人工智能的人并不是一个统一的群体。他们包括担忧安全的技术专家、捍卫创造性劳动的艺术家、关心学习的教育工作者、隐私倡导者、劳工组织者、心灵哲学家,以及对某个自动化系统有过糟糕体验的普通用户。理解谁在反对人工智能,关键在于把对具体应用的批评与对整个技术的反对区分开来。本文梳理这些立场,说明各种论点之间的差异,并给你一套检验它们的实用方法。
谁在反对人工智能?主要阵营
“谁在反对人工智能”这个问题,常常被当作存在一个统一的“反人工智能运动”来提。实际上,批评者分成若干阵营,目标各不相同。有些人反对特定用途,比如警务中的人脸识别或自动化的招聘筛选。有些人反对发展的方向,认为能力的进步快于安全研究。还有少数人从原则上反对这项技术,理由往往是哲学或精神层面的。这些阵营有时会重叠,但它们的论点并不能互相替换。
一个有用的初步区分,是应用批评者与发展批评者之间的区别。一位禁止在作文作业中使用聊天机器人的教师,是在批评特定情境下的一种应用。一位签署公开信、呼吁暂停前沿模型训练的研究者,是在批评发展的速度与治理。一位主张机器不可能理解任何事物的哲学家,是在对技术本身的限度作出断言。当你看到标题说某人反对人工智能时,先确认实际提出的究竟是这三种主张中的哪一种。
- 安全与治理批评者:关注滥用、事故和监管薄弱。
- 劳工与经济批评者:关注岗位被取代、工资压力和权力集中。
- 创意与文化批评者:关注同意、署名和人类技艺的价值。
- 教育批评者:关注依赖、评估的公正性和浅层学习。
- 隐私与公民自由批评者:关注监控、数据收集和偏见。
- 哲学批评者:关注意义、理解和机器的道德地位。
反对人工智能的最有力论点
最有分量的反对人工智能的论点,往往具体且有证据支撑。其一是问责缺口:当自动化系统作出有害决定时,很难确定谁该负责。其二是不透明问题:许多高性能模型无法充分解释自己的输出,这让纠错和审计变得困难。其三是集中问题:训练前沿模型所需的资源掌握在少数几家公司手中,这引出了谁设定默认规则、为谁的利益服务的问题。
其四涉及反馈回路。当人工智能生成的内容大量涌入某个领域时,人们会更难找到可靠的人类创作材料,而在这片内容洪流上训练的模型可能继承其中的错误。其五涉及同意与补偿:许多创意工作者并未同意自己的作品被用作训练数据,经济收益也没有明显地共享。提出这些论点,并不需要相信人工智能是邪恶的。它们只需要你相信,部署的速度已经超过了本应治理它的制度。
为什么人们反对人工智能?动机很重要
如果你想理解为什么人们反对人工智能,就看看他们经历过什么。一位因机器翻译而失去合同的译员,和一位研究模型滥用的安全研究员,反对的理由并不相同。一位担心孩子与聊天机器人伴侣相处的家长,和一座正在讨论自动化决策系统的市议会,反对的理由也不相同。动机会影响批评者认为哪些证据有说服力、提出哪些补救方案。
这对辩论很重要。由岗位流失驱动的批评者,可能被再培训和集体谈判方案说服;而由安全驱动的批评者,可能更在意评估标准和许可制度。把所有批评者当成一个整体,会导致反驳乏力,因为你最终反驳的是一个对手并不持有的立场。更精确的做法是问:这位批评者针对的是哪种应用、哪种危害、哪种补救方案。
当人们说“人工智能是错的”,他们指的是什么?
“人工智能是错的”这句话至少可以指四种不同的意思,把它们混为一谈就会产生糟糕的论证。它可以指事实错误:模型作出了虚假陈述。它可以指道德错误:在该情境下使用这个系统是不公正的。它可以指认识论上的错误:系统无法为自己的输出提供理由。它也可以指审美上的错误:输出平淡、缺乏原创或空洞。每种主张都需要不同的证据。
事实错误通过核对来源来证明。道德主张依据关于伤害、同意或公平的原则来论证。认识论主张依据知识哲学来论证,即使输出有用,这类主张也可能存在争议。审美主张则是对价值与技艺的判断。在辩论中,先说明你指的是哪一种含义,再去捍卫或攻击它。否则双方只会各说各话。
实例分析:一个岗位流失的论点
设想这样一个主张:一家中型翻译机构用机器翻译系统加一个小型编辑团队,取代了初级译员。批评者认为这是错的,因为它消除了人们用来积累专业能力的入门级岗位。辩护者则认为,机构现在能以更低成本服务更多客户,而且编辑岗位仍然存在。
细致的分析要把经验部分和规范部分分开。在经验层面,我们想知道有多少岗位被取消、创造了多少编辑岗位、工资是否发生变化。在规范层面,我们要问机构对员工是否负有义务、效率收益是否被共享、初级岗位是否真的是培养人才的通道。注意,批评者并不需要声称这项技术整体上是坏的。这个论点针对的是一次具体的转变以及谁承担其代价。这比一概拒绝要有力得多,也更难用泛泛的创新辩护来反驳。
实例分析:一个安全论点
设想第二个主张:一家公司部署了一个客服模型,它在药物相互作用问题上给出自信但错误的建议。批评者认为应暂停部署,直到系统能够可靠地拒绝不安全的问题。辩护者则认为,系统已经缩短了等待时间,而且人工客服也会犯错。
与人为错误的比较是相关的,但并不具有决定性。批评者可以回应说,系统运行的规模不同,而且可能以一致的、系统性的方式失败,而不是随机失败。辩护者可以回应说,设计良好的拒答策略和升级路径或许能覆盖大部分风险。真正有成效的问题不是人工智能是好是坏,而是什么证据能证明部署是正当的、有哪些监控措施、系统失败时谁负责。这正是结构化辩论形式擅长揭示的论点,因为它迫使每一方陈述标准,并在反驳中为其辩护。
练习:给批评归类
阅读下列每个陈述,判断它主要是对应用的批评、对发展速度的批评,还是对技术原则的批评。然后写一句话,说明什么证据会加强这一主张。
1. 一所学校禁止在作业中使用聊天机器人,因为学生提交了自己无法解释的润色文本。2. 一位研究者主张,前沿训练在启动前应要求独立的安全审计。3. 一位哲学家主张,一个只操作符号而不理解的系统不可能成为认知者。4. 一位音乐家主张,未经同意就用录音进行训练是不公正的。
- 答案1:应用批评。证据可以包括学生无法解释所提交作品的例子,以及能减少这一问题的评估设计对比。
- 答案2:发展速度批评。证据可以包括审计失败、险情,以及与其他受监管行业的比较。
- 答案3:原则性批评。证据可以包括关于理解的论证,以及行为表现是否足以支持知识主张。
- 答案4:应用与同意批评。证据可以包括许可条款、训练数据文档和补偿安排。
讨论人工智能批评者时的常见错误
第一个常见错误,是把对某项应用的批评当成反对所有人工智能。一个反对自动化招聘筛选的人,可能每天都在使用人工智能工具。第二个错误,是把一次事实错误当作这项技术毫无价值的证据。一个系统可能有用,同时仍需要核实。第三个错误,是把道德异议当成技术误解。如果有人说某种用途不公正,那么证明模型准确并不能回应这一异议。
第四个错误,是从一次糟糕体验过度概括。一个胡编乱造的答案不能确立一种模式,一个出色的答案也不能确立可靠性。第五个错误,是忽视补救方案。批评者往往有具体建议,比如披露要求、审计、退出选项或许可制度。直接讨论补救方案,通常比争论口号更有成效。第六个错误,是假定所有批评者持有相同的政治立场或相同的目标。
人工智能辩论的实用检查清单
在进入一场关于“谁在反对人工智能”的辩论之前,先过一遍这份清单。它能避免你把分数赢在一个没人持有的立场上。
- 明确主张:针对应用、发展速度,还是原则。
- 明确“错”的含义:事实、道德、认识论,还是审美。
- 说明什么证据会让你改变看法。
- 把经验问题与规范问题分开。
- 找出批评者提出的补救方案,并直接评估它。
- 检查你的反驳是否回应了论点最强的版本。
- 不要把口号强加给提出更窄主张的人。
- 以这场辩论真正要作出的决定收尾。
用结构化辩论检验这些论点
阅读关于批评者的材料是有用的,但当你必须在时间压力下为这些论点辩护或攻击时,它们会变得更清晰。结构化形式有帮助,因为它迫使每一方陈述立场、回应反驳并接受反馈。如果你想练习,就针对一个具体主张组织一场辩论,比如学校是否应禁止在作业中使用聊天机器人,或前沿训练是否应要求审计,然后去为你最不自在的一方辩护。目标不是获胜,而是发现你论证中哪些部分经得起与对手的交锋。
AI Debate Arena 是一个基于浏览器的 4v4 结构化辩论模拟器,你可以选择一方和八种辩手角色之一,也可以观看 AI 对 AI。它配有主持人、计时阶段、反驳、自由辩论和三位给出反馈的 AI 评委,并支持多种界面和辩论语言。访问权限、配额和历史记录取决于你的方案,请查看定价页面了解当前详情。它是练习工具,不是公开的人类聊天室,也不是专业教练服务。
常见问题
谁在反对人工智能?
批评者来自多个阵营:安全与治理研究者、劳工组织者、创意工作者、教育工作者、隐私与公民自由倡导者、哲学家,以及有过糟糕体验的普通用户。他们往往批评具体应用,而不是整个技术。
反对人工智能的主要论点有哪些?
常见论点包括问责缺口、模型不透明、权力集中、训练数据中的反馈回路、创意工作的同意与补偿、岗位流失,以及难以核实自信但错误的输出。
当人们说“人工智能是错的”时,通常指什么?
他们可能指事实错误、道德错误、认识论上缺乏依据,或审美上空洞。每种含义都需要不同的证据,所以回应前先问清指的是哪一种。
如果人们仍在使用人工智能,为什么还会反对它?
反对某种特定用途不等于反对所有人工智能。一个人可以反对自动化招聘或未经授权的训练数据,同时在别的任务中使用人工智能工具。异议通常关乎情境、同意或问责。
我该如何练习辩论这些论点?
选一个具体主张,分配正反双方,并要求每一方陈述证据和补救方案。带有计时阶段和反驳的结构化形式会有帮助,你也可以用 AI Debate Arena 练习,选择一方或观看 AI 对 AI。
在结构化辩论中检验你的论点
选一个关于人工智能批评的主张,选择一方和辩手角色,在计时阶段中通过反驳和评委反馈展开论证。你也可以观看 AI 对 AI,看看论点如何发展。
试用 AI Debate Arena