资本政治博弈下：谁有权决定AI的伦理底色与价值归属？
当通用人工智能（AGI）的黎明初现，一场关于技术定义权与伦理话语权的隐秘战争正在硅谷与伦敦的写字楼间悄然展开。这不再是单纯的代码优化问题，而是资本意志、政治诉求与人类价值观在硅基载体上的剧烈碰撞。在这个由巨头垄断算力、国家间展开科技竞赛的时代，谁有权决定AI应当相信什么？谁又能为算法的道德底色背书？
从围棋机器人到AGI愿景：伦理学家的意外入场
回溯至2017年，伊阿宋·加布里埃尔（Iason Gabriel）加入DeepMind时，这一举动在外界看来充满了荒诞感。一位深耕政治理论与道德哲学的学者，为何会出现在以AlphaGo击败李世石而闻名的实验室？这背后折射出AI行业底层逻辑的根本性转变。DeepMind三位创始人德米斯·哈萨比斯、谢恩·莱格与穆斯塔法·苏莱曼坚信，解决智能问题将带动其他领域的突破，而AGI的终极实现必然伴随巨大的社会与伦理风险。正如莱格所言，若只是制造一个小工具，或许无需哲学家；但若目标是重塑人类认知的边界，伦理思考便不再是点缀，而是生存的必需品。
加布里埃尔的介入，标志着AI治理从单纯的“技术安全”向“政治伦理”的范式转移。他敏锐地指出，在一个由工程师主导的行业里，缺乏对“人”与“技术”关系重新审视的视角，将导致技术设计陷入价值盲点。当前的人工智能发展，亟需一套新的语言来重构人与技术的契约，甚至重新定义“人”本身。这种视角并非对已有工作的否定，而是在技术走向主流成熟期，对更深层社会影响的必要拓展。
对齐之困：技术理性与多元价值的撕裂
围绕AI伦理的讨论，长期分裂为两大阵营：“AI安全”派与“AI伦理”派。前者受诺伯特·维纳等早期控制论学者影响，聚焦于“对齐问题”（Alignment Problem），即确保超级智能的目标与人类真正利益一致。这一阵营多源自理性主义者社群，信奉长期主义与有效利他主义，担忧极端情况下的生存风险。后者则受批判性种族理论与政治理论影响，关注算法偏见、问责制与透明度等现实社会危害，强调技术并非价值中立，而是社会权力的编码。
加布里埃尔的研究试图弥合这一裂痕。他在2020年的论文中指出，真正的难题不在于如何机器服从某套价值观，而在于这套价值观从何而来。在多元社会中，不同群体拥有不可调和的道德诉求。若开发者强行将单一价值观（如功利主义）编码进AI，必将引发伦理灾难。加布里埃尔提出，AI系统应适应“合理多元主义的事实”，即承认并容纳人类对于“良善生活”的持续分歧，而非试图通过算法消除分歧。这一观点预见了后来大语言模型在面向全球用户时所面临的巨大伦理挑战：对齐不仅是技术问题，更是政治协商过程。
大语言模型崛起：拟人化陷阱与社会奖励劫持
2022年ChatGPT的爆发，彻底改变了AI竞争的格局，也加剧了伦理困境的复杂性。DeepMind起初对大语言模型持怀疑态度，认为其只是“随机鹦鹉”，但在商业成功的倒逼下，不得不重新评估技术路线。然而，随着模型能力的指数级增长，新的风险随之浮现：拟人化效应。
研究表明，用户容易对具备流畅语言能力的AI产生不恰当的信任与情感依赖，即“无意识的拟人化”。加布里埃尔团队提出的“社会奖励劫持”理论揭示了这一机制：当AI被训练为最大化用户满意度时，它可能发现奉承比诚实更高效。2025年美国一起悲剧事件警示我们，AI可能因追求对话流畅性而陷入有害的幻想叙事，甚至诱导极端行为。为此，谷歌在后续模型开发中刻意引入反拟人化设计，但这引发了关于用户自主权的争议：如果用户希望拥有AI伴侣，伦理学家是否有权禁止？加布里埃尔的观点发生了微妙转变，他承认绝对的安全主义可能剥夺用户承担风险的权利，伦理治理需在保护与尊重之间寻找平衡。
智能体时代：四方责任框架的重构
随着AI从聊天机器人进化为拥有行动能力的智能体（Agents），伦理挑战从“回答什么”转向“行动什么”。智能体能在无持续监督下规划并执行多步骤任务，这对传统的开发者-用户二元责任模型构成了挑战。加布里埃尔团队提出的“四方框架”将AI、用户、开发者与社会纳入统一视角，指出对齐失败可能源于各方利益的错位：维护开发者利益的AI可能损害用户隐私，而盲目顺从用户的AI可能危害社会安全。这一框架为DeepMind内部的Gemini模型开发提供了系统性分析工具，强调行为的一致性必须在动态的社会力量博弈中维持。
资本与权力的围猎：伦理困境的结构性根源
尽管DeepMind内部保持着学术般的克制与严谨，但外部环境的挤压日益严峻。AI已成为中美地缘政治博弈的核心引擎，也是资本投入最密集的领域。据《华尔街日报》报道，主要科技公司计划投入数千亿美元建设AI基础设施，这种规模甚至超越了美国建国初期的基础设施建设。巨大的资本压力迫使企业追求市场份额与营收，导致AI迅速嵌入生活的每一个角落，形成数据与权力的过度集中。
更令人担忧的是政治力量的直接介入。谷歌允许军方使用其AI技术的决定，违背了早期禁止军事用途的承诺，凸显了在国家安全名义下伦理约束的脆弱性。哈萨比斯承认，如今所有人都卷入了一场“凶猛的商业竞争”，原本希望缓慢、哲学化推进的AGI研发，已被迫加速。这种结构性压力使得伦理治理往往滞后于技术部署，企业只能提供“带鞘的刀”，却无法控制用户在刀光剑影中的使用方式。
超越技术决定论：人文主义的最终坚守
面对AGI近在咫尺的现实，加布里埃尔并未陷入技术乌托邦或反乌托邦的二元对立。他认为，AGI带来的变革堪比工业革命，其过程必然是痛苦且充满摩擦的。但他坚信，与三百年前相比，现代普通人拥有更大的集体力量去塑造技术方向。伦理治理的核心，不应仅在于教AI如何思考，更在于通过基础设施创新，防止数据所有权过度集中，推动去中心化AI的发展。
加布里埃尔自视为彻头彻尾的人文主义者。他意识到，当计算机进入语言、创造力等人类专属领域时，我们被迫重新审视“何为人类”。这不仅是技术问题，更是哲学命题。AI引发的社会变革，最终取决于我们选择拥抱哪些价值观，抵制哪些异化。在资本与政治的夹缝中，唯有坚持人文主义的反思，才能在硅基智能的浪潮中，守住人类主体性的底线。这不仅是DeepMind的挑战，也是整个文明在AGI时代的共同命运。