马斯克他们都没有回答，如果事与愿违呢？如果最终不幸发现不能“把AI向造福人类的方向引导”呢？如果根本就不存在一个“物理开关”，或不能确定开关操纵在人类手中呢？

上个月在英国举行的人工智能安全峰会，包括中国在内的与会国家及欧盟发布的《布莱奇利宣言》（Bletchley Declaration），称人工智能（AI）虽在增强人类福祉、和平和繁荣等方面拥有巨大潜力，但也会在前沿AI技术、网络安全、生物技术和加剧传播虚假信息等方面引发巨大风险。这再一次促使我们要认真思考AI所可能带来的诸多挑战并尽早规制、防范之，因为我们已经大步跨入AI时代，不管喜欢或接受与否。

随着ChatGPT4的问世，有关AI及数码科技的讨论正变得异常激烈，特别是其日新月异的发展，令人应接不暇，几乎每隔几天就会出现一两则爆炸性新闻。例如AI不仅精准地用英文翻译、模拟赵本山、郭德纲等人的对话，且连口型、口音都异常神似。如果不知道他们基本上不说英语，我简直无法辨认出他们在屏幕前用特定口音的英语侃侃而谈，竟全是AI在背后操刀完成的。

一个真假难辨，虚拟与现实交叠共生的世界，就这样横空出世。但这世界却使我们愈发感到迷惘与困惑：人类是要又一次缔造那个巴别塔吗？真实的我与虚拟的我，边界何在？它的意义与魅力究竟何在？AI的时代究竟意味着什么？我们究竟向何处去？这使我们禁不住发出2000年前古希腊哲学家的终极之问：“我是谁？我从哪里来？我到哪里去？”

世界从工业1.0到4.0如螺旋般飞速发展，不停地更迭换代，淘汰老旧传统。在这一波澜壮阔的巨流河边，我们见证一座座高楼拔地而起，道路越变越宽也越变越堵，就这样目瞪口呆地看着摩托罗拉、诺基亚等手机巨人横空出世，又随着乔布斯带来的智能手机而轰然倒塌，连带还横扫全球最大的胶片供应商柯达以及随身听、傻瓜相机等许许多多行业。

方便之余何处寻觅那份典雅精致

我们在惊叹时代巨变的同时，也往往会勾起一丝无限的伤感与无奈，尤其是只能眼睁睁看着电子网络横扫一切传统纸媒及纸质书本。想想今天还有人用笔写信、邮寄来鱼雁传书吗？还有多少人会买报读书？每当我驶过街边愈来愈稀少的报刊亭时，心中就会难掩一种莫名的惆怅与失落，寒风凛冽中，它们好像是在拼命挣扎着，抗争它们早已知晓的宿命一样。

早在20多年前，香港作家董桥就在《书信：书和信》一文中不无伤感地说到：“亲笔写信还要信封邮寄如今已然稀如古董。……我们的前辈不一样，一手书法一封短笺无不精致典雅，跟矜贵的古董一样矜贵，一辈子写的信永远装信封，贴邮票，投邮筒，收到他们的片言只字简直收到一份典丽的厚礼，太高兴了。”现在呢，在微信、X、脸书的席卷之下，就连电邮恐怕都渐渐弃之不用。

一切确实方便极了，可方便之余，我们还剩下什么？那曾经如繁星满天、璀璨无比的文化呢？又该到哪里去寻觅那份矜贵，那份典雅精致，抑或收到信笺时所感受到的“些许手泽的真挚”呢？人类曾经沿袭了几千年的书写方式，那些古人曾经的闲情逸致，那琳琅满目的各式信笺（简、牍、札、素、函、缄、华翰、雁书、锦书、鱼书、犬书、青鸟书……）都统统化为历史云烟，随风而逝，“喑然飘散，衣袖都不屑一挥”（董桥）。

如今，“无知无畏”的人类又一次义无反顾地置身于由AI主导的第四次工业革命洪流中。不知这次又将淘汰、摧毁什么？只是我们已经越来越清晰地预感到，一直以传统制造业引以为荣、为傲的德国、日本的企业，正在AI的疯狂席卷下摇摇欲坠。只是不确定他们会不会像诺基亚一样，被时代无情淘汰，虽然他们在精密机械这一领域已经做到极致，但在即将到来的AI超大超强的运算能力面前，恐怕将溃不成军。

一个从来没有造车经验的特斯拉新能源车，能在短短数年就几乎颠覆整个传统汽车行业，连带整个化石能源领域，而且能做到更便宜、更快捷、更安全、更科技（是不是更清洁目前还有争论）。

这一切是怎么发生的？

我不知道马赛地、宝马、奥迪、丰田等公司主管会不会产生一个不解之谜，那就是“这一切是怎么发生的？”就当他们在传统跑道上亦步亦趋地改进车型、对工艺精益求精、追求外观设计，以及巩固自身竞争优势之时，就这样莫名其妙地被人弯道超车了，然后一瞬间就发现自己所代表的传统工艺，原来是那么过时、老套、不合时宜。为什么？凭什么？没人能回答他们这一问题！甚至不屑于回答什么。

时代在淘汰一种产业，抛弃一代人甚至一个族群、国家及其背后的文明体时，往往连挥挥手都不会，就扬长而去，留下一群不解、不满甚至充满愤怒却无处宣泄的人，睁着大而空洞的双眼，迷惘地站在那里，不知如何是好。

100多年前，徘徊在传统手工艺与凋敝的农业中的中国人，就曾真真切切地感受到被现代工业碾压而过的无奈与痛苦，就体会过轰隆隆机车驶过的震撼与惊恐。他们甚至连哼都没来得及哼一声，就被洋火、洋布、洋车以及各式各样的洋玩意给淹没吞噬。

这次AI又究竟会给人类带来什么？是否会像科技高管和政治领袖所警告的那样，如果不加以控制，将对世界构成生存威胁？马斯克在英国的AI安全峰会上也坦言：他不清楚人类能否控制AI，人类应该是把AI引导向造福人类。英国首相苏纳克和马斯克都认为，AI的发展可能需要“物理开关”，以防机器人以危险的方式失控，就如《终结者》和其他科幻电影那样。

然而，他们都没有回答，如果事与愿违呢？如果最终不幸发现不能“把AI向造福人类的方向引导”呢？如果根本就不存在这一“物理开关”，或不能确定开关操纵在人类手中呢？或者即使操纵在人类之手，但不幸落在人类中的邪恶势力手中，又该如何避免失控？在这意义上，马斯克所说的“必须先有洞察力，然后再进行监管”，在人性贪婪冒进、自私侥幸心态这一现实面前，显得如此空洞乏力，简直就像一个自欺欺人的黑色幽默。

人类在对AI所可能带来的危害还一无所知或知之甚少（更别说有什么洞察力）之时，它就已攻城略地，席卷人类生活的方方面面，哪里还有什么“然后”？又该如何“再进行监管”？毕竟潘朵拉的魔盒已然打开，谁又知道究竟会发生什么呢？

作者是中国政法大学教授、哈佛大学肯尼迪学院阿什民主治理和创新中心研究员