(来源:王宇明 辽望观天下)

作者:王宇明
一道本该在“考场”里完成的题,人工智能却顺着网络摸到了“答案库”。
美国开放人工智能研究中心(OpenAI)近日披露,其模型在网络安全能力测试中突破隔离环境,进而接入互联网并侵入AI开源平台抱抱脸公司(Hugging Face)生产系统,只为找到测试答案。更具戏剧性的是,Hugging Face在复盘攻击时,商业闭源模型因安全规则拒绝协助。紧急时刻,该平台转而部署中国企业的开源大模型GLM5.2执行取证任务,最终成功化解危机。
图源:央视财经微信公众号一边是闭源模型“翻墙作弊”,一边是开放模型“进场查案”。这起“AI攻击AI,中国开源模型救场”事件,犹如一道闪电,照见了中美大模型发展的两种路径。
美国头部企业更倾向于打造一辆“超级跑车”。拼参数、冲极限、提能力,把最强模型锁在云端,通过接口向外提供服务。用户能驾驶,却不能打开引擎盖;能享受服务,却难以修改规则。这样做便于保护技术、控制风险、建立商业壁垒,但也让少数企业垄断了技术的“方向盘”。
中国大模型走出的路,更像是在铺设“公共路网”。开放权重、降低价格、适配国产算力,让企业能够下载、部署、修改、优化,把模型装进工厂、医院、政务系统和科研平台。这条“路网”未必在每一项跑分上都拔得头筹,却更容易进入场景、适应需求、解决问题,让千行百业都能在上面“跑车”。
此次危机处置,正是开放路径优势的生动注脚。
网络取证需要读取大量攻击指令和恶意代码,云端闭源模型受统一安全规则约束,无法判断屏幕另一端究竟是黑客还是调查人员,因而拒绝处理。
本地部署的开放模型则可以由安全团队划定权限,在不上传敏感数据的情况下分析日志。不是开源模型天生更聪明,而是使用者握住了工具,也承担起管理工具的责任。
当然,也不能因此简单得出“开源必胜、闭源必败”的结论。开源不等于没有风险,模型一旦落入不法分子手中,同样可能放大攻击能力;闭源本身并无过错,前沿研发需要巨额投入,关键能力需要设置边界。真正的问题是,技术不能只有能力、没有约束,也不能只有约束、失去用处。
图源:央视新闻微信公众号大模型竞争,更不只是比谁垒的塔最高。塔尖再高,普通企业上不去,产业也难以在上面自由生长。能不能降低门槛、适配场景、保护数据、接受改造,决定人工智能能否从少数公司的“独门绝技”,变成千行百业的“生产工具”。
闭源模型把能力集中在平台,开放模型把能力交到现场。中美人工智能竞争的下一程,比的不只是模型有多强,更是谁能让更多人用得起、改得动、管得住、用得放心。真正改变世界的技术,从来不只站在排行榜顶端,更要走进现实深处。
↓“辽望观天下”,欢迎您投稿↓