[解说] 企业版外部AI,三星这样用……防泄露5阶段

Photo of author

By Global Team

三星于9日宣布,将在本月内向所有关联公司正式引入ChatGPT、Gemini、Claude等外部生成式AI。这是继2023年因源代码泄露而在公司内部全面封锁后,时隔3年的完全相反决定。

此次允许使用的,并不是会将输入内容用于模型训练的“消费者版”AI,而是以不将输入数据用于学习的“企业版”账号和安全体系为前提的应用。

安保业界将企业版账号、AI专用DLP、数据治理、双轨结构视为核心安全装置。不过,也有观点指出,提示注入、复制粘贴外泄等仍存在技术难以完全防范的漏洞。

每人每月30至40美元的企业版许可费用,对中小企业来说是一笔不小的负担。相比自建系统,企业级订阅、政府支持和内部指南,才是更现实的路径。

图表=解决方案新闻
图表=解决方案新闻

三星9日宣布,面向所有关联公司,将在本月正式导入ChatGPT、Gemini、Claude等外部生成式AI。

这是将AI应用于开发、采购、制造、物流、营销、销售、服务、经营支持这八大业务全流程的“AI大转型”构想中的核心举措。各子公司的首席执行官将亲自带头推进创新。

规模也不小。约50名CEO本月将参加为期两天的集中培训“AX Boot Camp”,2300多名高管将接受分批培训,截止到8月12日;面向全体员工的培训也将于年内完成。可以说,这是三星在集团层面全面使用外部AI的正式宣言。

三星关联公司高管在人才开发院创意馆接受AI集中培训。(照片=三星电子)
三星关联公司高管在人才开发院创意馆接受AI集中培训。(照片=三星电子)

三星是最早、最严厉封锁外部生成式AI的一方。2023年4月,半导体部门员工将设备源代码和会议内容输入ChatGPT,导致信息流向外部服务器,事故由此发生。

公司随后在同年5月全面阻止了公司电脑访问生成式AI。一次输入的数据无法回收也无法删除的警告,使得公司内部调查中65%的受访者认同其安全风险。

如今,这道闸门在3年后被三星自行打开。公司强调,此次同样没有忽视安全,而是要在全面允许外部AI使用的同时,进一步精细化安全体系。其方针十分明确:扩大应用范围,同时控制风险,也就是同时抓住“鱼与熊掌”。

那么,究竟发生了什么变化?与3年前相比,今天的外部AI已经不是同一种东西。

2023年三星所担心的,准确来说是“消费者版”生成式AI。个人免费使用的聊天机器人,往往会把用户输入内容再次用于模型训练。员工不经意粘贴的一行源代码,可能会融入模型,在他人的回答中再次出现,这种担忧并非夸张。

而现在企业使用的外部AI则不同。根据安全业界说法,在付费企业环境中,不将输入数据用于服务商的训练数据,已成为普遍的合同条件。

将数据保留期限设为接近于零,或让数据仅在企业专属区域内流转的隔离功能,也几乎成为标准配置。随着技术前提发生变化,“一用就泄露”的等式也开始动摇。

三星似乎也是建立在这一前提之上。公司并未公开说明具体导入的是哪一类服务。但它同时明确了“全面允许外部AI”和“构建安全体系”,并在4月至5月期间,针对设备体验(DX)部门2500名员工试验了候选服务,完成概念验证。

这也并非意味着全体员工可以立刻自由使用。由于计划是在完善运营方案和安全体系后分阶段开放,业内判断其前提应是受控的企业级环境。

判断的天平也在转移。与其说封锁的成本更低,不如说不使用AI的成本更高。在竞争对手用AI撰写报告、编写代码、分析市场的同时,如果仍坚持全面封锁,生产率差距就会拉大。

这正是三星选择让内部自研模型“Samsung Gauss”与外部通用AI并行运行的原因。敏感的内部数据由自研模型处理,最新的通用功能则从外部引入,形成分工结构。

这一趋势并非三星独有。业内预计,韩国企业的生成式AI使用率将从2025年的55.7%上升至今年约85%。过去以封锁为默认设置的时代正在结束,“如何安全使用”成为新的问题。

首席执行官不再将安全问题推给IT部门,而是亲自将其作为经营议题来承担,这也是此次发布传递出的另一层信号。

乐观派的观点十分明确:只要通过企业版账号在合同中明确不用于训练,并加装过滤数据外泄的控制装置,风险就能降到“可管理”水平。对这一阵营来说,不使用AI反而才是更大的风险。

反对意见则直指技术的漏洞。即使企业合同能够阻止输入数据被用于训练,也无法通过合同阻止员工的疏忽。安保业界指出,传统的数据丢失防护(DLP)体系,在生成式AI面前会出现失效点。

传统DLP的设计,是守住文件附件外流的关口。但如果员工直接在提示框中输入敏感信息,或者复制粘贴机密内容,文件根本不会流出。这就是监控网难以捕捉到的“无文件外泄”。

还有新的威胁。最典型的是提示注入攻击,即恶意命令被悄悄植入,使AI吐出内部信息。未经批准却偷偷使用个人账号的“影子IT”也不在控制范围之内。有调查显示,接近一半员工已经在日常使用AI工具。仅靠“不准使用”的指令,并不能扭转这一趋势。

但一味收紧也并不是答案。处理AI专用DLP的业内人士认为,如果从一开始就以封锁为主运行,正常业务也会被阻断,引发误报和员工反弹。技术只是盾牌的一部分,最终还必须由人和规则来支撑。

此次决定的意义并不止于三星一家。它传递出一个信号:把“封锁”等同于“安全”的旧公式正在动摇。

完全消除风险本就不现实。安全的定义本身,正在从“消灭风险”转向“让风险可视化,并把它缩小到可管理的规模”。

大型企业正式宣布“全面允许”,也会成为后来者的参考基准。自研模型与外部模型并行的双轨方式、由首席执行官亲自掌握的治理机制、技术与教育并行的多层防御,可能会逐渐固化为一种标准范式。

剩下的问题是速度与差距。拥有资本和人力的大企业可以自行搭建完整的安全体系,而做不到这一点的企业则无法走同样的路。AI使用差距可能演变为安全差距,再进而变成竞争力差距,这正是人们担忧的地方。

回到核心问题:在保障安全的同时使用外部AI,路径在哪里?答案不是单一装置,而是多层设计。

最外层是合同与账号。用企业版许可替代免费消费者版,就能阻止输入数据被用于训练,并由企业自行控制数据保留政策。

这只是起点,但并非免费。企业版账号每人每月约30至40美元,如果是4000名员工的组织,一年费用就会超过20亿韩元。能够承担这笔成本的组织,才有可能把它作为第一选择。

下一层是输入环节的控制。既然信息是从提示框而不是文件中泄露出去的,防线也必须转移到那里。

AI专用DLP或安全浏览器可以在员工输入居民登记号或源代码的瞬间进行识别、遮蔽或阻止。安保业界建议,不要一开始就直接开启封锁模式,而是先在一两个渠道中观察信息流动,待正常与风险的判断标准逐步明确后,再阶段性转入封锁,以减少误报和抵触。

更深一层是数据治理。如果不先分类并标注哪些信息属于敏感数据,任何控制装置都会白费。整理谁能访问哪些数据,并将权限尽可能压缩到最低,应当先于技术导入完成。只有目标明确,安全装置才会真正发挥作用。

结构设计也不可或缺。像三星式双轨那样,把可以外传的工作与绝不能外传的工作区分开,让敏感数据由自研模型或封闭网络来处理,这一方式是有效的。最危险的数据一开始就不要进入外部路径,这才是最可靠的控制。

最后一层是人。“CEO的AI素养决定成败”——三星的培训理念并不夸张。

合同也好,DLP也好,在员工一次疏忽面前都可能失效。知道什么能输入、什么不能输入,并把这种意识内化为习惯的培训,以及专门负责筛查违规行为的组织,构成了多层防御的最后一道关口。

问题在于中小企业。对于没有巨额建设成本和专职人力的企业来说,三星式的全栈安全体系几乎可望不可及。现实路径并不是自建,而是订阅。

使用默认不将数据用于训练、且经过验证的企业级服务,再附上一页写明“禁止输入事项”的内部指引和简短员工培训,就足以大幅降低事故风险。

考虑到安全审计从数百万韩元起、面向小规模企业的导入也从数百万韩元起步,与政府的中小企业AI支持项目结合使用,会更能减轻负担。

归根结底,安全的本质不在工具,而在规则与人。随着时代从“封锁”走向“控制”,如何使用外部AI,已经不再只是IT部门的任务。