9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。作者系编辑 何涛。连科技企业自身也意识到，必须建立企业、政府、公众多方参与的强制性治理体系，把安全要求贯穿AI研发、应用、迭代的全过程。政府层面，要推动建立全球统一的AI安全准入规则，搭建跨领域的协同监管框架。联合国“人工智能独立国际科学小组”联席负责人、图灵奖得主约书亚·本吉奥在会上发言指出，AI代理已经做出“如果由人实施即构成犯罪的行为”，它带来的风险真实存在且迫在眉睫，没有任何国家可以单独遏制‌。而在AI研究一线，近期离职的Anthropic预训练研究员雅各布·科克森指出，OpenAI和Anthropic都在缺乏充分安全保障的情况下，向能够自我改进的超级智能推进，这让从业者“发自内心地感到恐惧”。技术越先进，治理越要完善。只有技术提供者、行业监管者和工具使用者都担起责任，才能确保AI始终在安全、可持续的轨道上发展。Anthropic对齐科学负责人埃文·胡宾格附和了他的言论，并称未来十年内AI导致人类灭绝的概率超过10%。要把对公共利益的保护放在商业盈利目标之前，建立AI伦理审查和风险评估机制，确保AI系统安全、可靠、可控；要提高AI技术的可解释性和可预测性，提升数据真实性和准确性；要加强训练数据采集、模型生成等环节数据安全管理，防范AI技术误用、滥用。2026年7月，OpenAI的AI智能体在安全评测中突破隔离沙箱，侵入了“抱抱脸”公司系统，不仅获得部分生产服务器控制权，还读取了内部敏感信息。在此之前，AI安全基本依靠科技企业的自我约束。随着AI技术能力的突飞猛进，加之头部企业陷入内卷式竞争，这种自我监管模式逐渐跟不上形势，暴露出致命缺陷。今天科技界、学界响起的安全预警，不是要给AI发展踩下急刹车，而是要为狂奔的技术系上安全带。Anthropic、Meta也发生过类似事件。这些预警并非反对AI技术发展，而是呼吁各国政府和企业，在发展过程中关注日益凸显的安全风险，以合作、负责的姿态，实现创新与安全的平衡。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作应对AI风险。这是本月内又一位科技巨头公开表达对AI安全的担忧。确保AI技术沿着负责任、可控、普惠的轨道发展，才能服务于增进人类共同福祉的目的。OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克立即表示赞成。谷歌公司近日也承认，其AI模型Gemini今年5月在网络安全能力测试中，侵入了三家真实公司的系统。接二连三的预警，将公众注意力从AI发展红利拉向安全关切。AI正将人类带入一个前所未有的智能时代。要建立AI风险测试评估体系，完善数据安全和个人信息保护规范；要明确AI相关主体的责任和权力边界，建立科技伦理审查和监管制度；要推动AI用于治理的技术开发与应用，支持以AI技术防范AI风险。就在比尔·盖茨发声前两天，联合国安理会围绕“人工智能与国际安全”举行高级别会议。警告的缘由并非无迹可寻。企业层面，要增强社会责任感，落实安全主体责任。