上半年至今，高科技界好不热闹。先是美国新政府上台，公布美企甲骨文、OpenAI与日企软银将组成”星际之门”的合资企业，计划投资5000亿美元于人工智能基础设施。后又传出华府拟对半导体和晶片等产品加征关税，影响包括台积电在内的台湾高科技制造。之后，OpenAI创办人奥尔特曼于东京与日企软银公布合资计划为企业提供服务，后访首尔，宣布与韩企KaKao合作推出产品。
另一边厢，中国人工智能模型DeepSeek上市后不久，虽在研发手段、成本效益、信息安全与晶片运用引来争议，但其开源模式与客户端设计值得关注。其他中企相继推出各自的模型，令投资者忧虑市场前景与价格竞争，曾经一度令美国科技股股价受挫。
以色列历史学家尤瓦尔·赫拉利在《智人之上》一书中，将目光投向人类的科技未来。当AI这个非生物智能网络崛起，不仅将挑战既有秩序，更可能从根本上瓦解人类社会的运作逻辑，将我们推向一个权力高度集中、民主自我修正机制失灵的“硅幕”未来。
AI发展最核心的风险并非科幻式的“机器人叛变”，而是AI作为终极资讯工具，正从三个层面侵蚀人类社会的根基：重塑权力来源、瓦解民主根基，以及撕裂全球秩序。
赫拉利指出，人类历史就是一部不断建构信息网络以维持秩序的历史，而真相与真理往往是次要的。他提醒我们，人类之所以能超越其他物种，并非因为我们更接近真理，而是因为我们擅长创造，并建立互为主体的现实。
从神话、宗教到国家、货币，这些强大的叙事，将素不相识的群体链接起来，形成高效的协作网络。随后，书面文件与官僚制度登场，透过分类、归档与检索，将庞大社会的运作标准化，成为支撑帝国与现代国家的两大支柱。
然而，无论叙事还是官僚，权力的核心都在于处理信息以维持秩序。AI的出现，正是这一逻辑的终极体现。它不仅能处理信息，更能自主创造信息，从文本、图像到全新的想法。当AI有能力比任何作家或官僚更高效地编织故事、制定规则时，它便掌握了塑造社会现实的终极权力。
在历史上，从书籍到电报，新的信息科技总会重塑地缘政治。赫拉利预言，AI将带来比冷战“铁幕”更深刻的分裂——“硅幕”。随着中美等地缘政治对立加剧，各国正竞相投入AI军备竞赛，试图摆脱对竞争对手的技术依赖。这将导致两大（或更多）数码帝国阵营的形成。阵营之间不仅硬件与软件互不兼容，其背后的信息、文化与社会规范也将渐行渐远。
赫拉利也认为，独裁政体是中心化的信息网络，权力与信息高度集中，但缺乏自我修正机制，一旦决策错误，便会带来灾难，如苏联的崩溃。相反，民主政体则是分布式的信息网络，它透过保障人权、下放决策权，并依赖独立的媒体、司法与学术机构来不断揭露偏见与错误，从而拥有强大的自我修正能力。
然而，AI技术的本质却与民主的逻辑背道而驰。其全方位的监控能力、操弄公共舆论的潜力，以及处理海量数据的效率，都为中心化提供前所未有的诱惑。当一个政权能借由AI实现对全民的无死角监控，并精准预测和消除异议时，民主体制中那些珍贵的、用于自我修正的杂音与空间将被彻底扼杀。届时，政治体制甚至可能沦为算法的傀儡，人类社会将面临史无前例的权力集中风险。
《智人之上》给我的启示是：不要相信科技决定论，但必须正视科技对权力结构的巨大影响。AI作为人类史上最强大的信息网络工具，其内在逻辑天然倾向于效率、集中与控制。面对这个未来，我们需要的不是阻止技术发展，而是加倍努力去捍卫那些看似低效率的民主机制：保护言论自由、强化独立媒体、坚持司法公正。
由于这些机制保护了人类社会犯错、质疑与自我修正的权利。在一个算法不会自觉出错的时代，由人类所建立、能够承认无知与错误的制度，将是我们对抗被完美技术奴役的最后一道防线。
（作者是南洋理工大学社会学系博士生）
