不可避免的结论是，仅仅监管人工智能是不够的。但是，通过将新卢德主义和再分配等概念引入公共辩论，我们可以发展减轻这些新兴技术构成威胁所需的政治和知识词汇。

一年多前，总部位于旧金山的OpenAI发布了聊天机器人ChatGPT，引发人工智能淘金热，重新点燃关于自动化对人类福利影响的古老争论。

对被机器取代的恐惧，可以追溯到19世纪的工业革命，当时一群被称为卢德分子的英国手摇织机工人，摧毁威胁他们生计的动力织机。运动在1811年至1817年间达到顶峰，最终被政府军针对，领导人被处决或流放澳大利亚。

但卢德分子的论点找到了一个意想不到的（也有点讽刺的）拥护者——著名经济学家大卫·李嘉图（David Ricardo）。他在1817年出版的《政治经济学和税收原理》中指出：“劳动阶级所秉持的观点，即机器的使用往往损害他们的利益，并非建立在偏见和错误的基础上，而是符合政治经济学的正确原则”。英国经济学家纳索（Nassau Senior）则建议织工“离开这一生产部门”。

事态发展也真的如此：1820年至1860年间，有25万个手摇织机工作岗位消失。但是，尽管机械化最终使工人受益（英国人口和人均实际收入在同一时期成倍增长）），但它对马匹产生了不利影响。随着火车以及后来的机动车辆取代马车运输，马匹的数量急剧下降。

自工业革命以来，支持机器的主流论点是自动化可以提高劳动生产力，从而增加实际收入，使更多人享受更高的生活水平，而不会相应地导致失业。此外，从繁琐的任务中解放出来，使我们能够将精力转移到更有价值的追求上。

另一方面，现代卢德分子强调自动化的弊端，尤其是破坏生计和社区的“潜力”。他们认为，收入和权力的平等分配，对于获得技术进步的长期利益至关重要。福特（Martin Ford）和萨斯坎德（Daniel Susskind）等技术悲观主义者认为，像人工智能这样的新兴技术所创造的新就业机会太少，将导致贫困和技术失业的加剧。

生成式人工智能的兴起和通用人工智能（一种能完成人类可以执行的任何认知任务的人工智能）的到来，加剧技术乐观主义者和技术怀疑论者之间的争论。例如，在科技炒作似乎层出不穷的医疗保健领域，人工智能承诺改善诊断、推动远程医疗、带来更有效的药物，并减轻医生和护士的行政负担，腾出更多时间照顾病人。

这似乎反映了主流专家的普遍观点，即生成式人工智能将扩展，而不是取代人类的工作。通过自动化日常任务，它有望解放人类，让他们从事更具创造性的工作。平心而论，这种转变将需要终身学习，持续教育不仅成为参与就业市场的条件，还将成为获得越来越多在线服务的条件。

随着生成式人工智能的出现，人们的担忧已经从自动化导致失业，转向超级智能流氓化的可能性。这种担忧可以追溯到玛丽·雪莱（Mary Shelley）1818年的小说《科学怪人》（Frankenstein；or The Modern Prometheus）。谷歌前首席执行官施密特（Eric Schmidt）最近也表达同样观点，他说，尽管目前的人工智能模型仍然“受人类控制”，但确实存在风险，即它可能会发展出“递归自我改进”的能力，获得自主权，并开始“设定自己的目标”。他警告说，“电脑集群”最终可能会进化成能够独立行动的“真正超人专家”。

专家学者对人工智能毁灭世界的能力日益关注，有越来越多声音呼吁，人工智能发展与人类目标和价值观保持一致。有两种方法可以实现此目的。首先是限制可能有害的人工智能产品的供应和销售，欧洲和其他地方的政策制定者，试图通过对自动驾驶汽车和面部识别等新兴技术实施严格监管，来做到这一点。

这种方法的一个明显问题是，在一个道德相对主义是常态的世界里，很难就什么构成伤害达成共识。由于越来越不清楚谁“拥有”被认为是有害的内容，因此几乎不可能追究卖家或提供者的责任。此外，规范技术使用的尝试往往来得太晚。

控制人工智能的第二种方法，是完全限制潜在危险产品的开发。但抑制需求比限制供应更复杂，尤其是在现代社会中，商业和地缘政治的竞争力量，使得减缓技术创新变得极其困难。

OpenAI最近的动荡就是很好的例子。去年11月，公司董事会短暂解雇了首席执行官阿尔特曼（Sam Altman），据说是因为担心人工智能有朝一日可能导致人类灭绝。尽管阿尔特曼在几天后复职，但这一丑闻凸显出表面上有益的技术，可能一下子就成为生存风险。快速商业化显然优先于谨慎，竞争加速越来越强大的工具的开发，人工智能引发浩劫似乎越来越可能。

不可避免的结论是，仅仅监管人工智能是不够的。但是，通过将新卢德主义和再分配等概念引入公共辩论，我们可以发展减轻这些新兴技术构成威胁所需的政治和知识词汇。

例如，一个新卢德分子可能会问：为什么富裕社会已经生产足以让公民过上舒适生活的产品，却仍然专注于最大化国内生产总值（GDP）增长？一个答案可能是，缺乏公平的财富和收入分配，以确保生产力和效率提高的好处得到广泛分享。

另一种解释是，技术在本质上没有好坏之分，它是达到目的的手段。在当今政治经济学中，“技术创新”往往是一种委婉的说法，它使富人和权贵能将资本从工业转移到金融领域，从而垄断自动化所带来的好处，并使其他人都陷入困境。

作者Robert Skidelsky是英国上议院议员，华威大学政治经济学荣誉教授

英文原题：How to Prevent an AI Apocalypse

版权所有：Project Syndicate, 2023.