巨人天成
产经 科技 企业 数据 峰会 快讯 商业

企业接入大模型:数据边界管理比防范攻击更关键且更易被忽视

2026-06-24来源:快讯编辑:瑞雪

当企业开始大规模引入人工智能大模型时,管理层往往将安全焦点放在外部攻击和系统漏洞上,却容易忽视一个更为隐蔽的风险领域——数据边界管理。这种认知偏差导致许多企业在实际应用中面临信息泄露危机,而问题的根源往往不在技术本身,而在于日常操作中的模糊地带。

在某科技公司的实际案例中,产品团队为快速分析客户访谈记录,直接将录音文本输入AI工具;研发人员为排查系统故障,将日志文件粘贴进对话窗口;销售团队为优化方案表述,把客户资料上传至模型接口。这些看似合理的操作背后,隐藏着数据流动的失控风险——没有人能准确判断哪些信息可以离开原有系统,哪些需要严格保密。

企业数据具有明显的层级差异,从公开资料到核心源代码,从客户信息到未披露交易数据,不同类型的信息需要匹配差异化的处理规则。某金融企业曾因未明确区分数据等级,导致员工误将包含客户身份证号的文档输入AI工具,最终引发监管处罚。这种风险不能简单归咎于员工疏忽,本质上是管理机制未能提供清晰的操作指引。

建立有效的数据分级体系成为破解难题的关键。某制造业企业将数据划分为四个等级:公开信息可自由使用;内部流程资料需企业账号登录;客户数据必须脱敏处理;核心密钥类信息则完全禁止输入。这种简化分类不仅便于员工理解,更重要的是将安全规则嵌入到AI工具的使用流程中,而非停留在纸面制度。

数据流动路径的透明化同样重要。某互联网公司发现,员工通过浏览器插件调用AI接口时,输入内容会经过第三方服务器中转。这种隐蔽的数据传输链路,使得即使使用合规模型接口,仍可能存在泄露风险。企业安全团队因此开发了可视化工具,实时追踪数据从输入到输出的完整路径,包括经过哪些系统、存储时长、使用目的等关键信息。

完全禁止AI使用并非可行方案,某咨询公司调研显示,76%的员工在遭遇使用限制后,会转向个人账号或免费工具完成任务。更有效的策略是构建企业级安全入口,某跨国集团通过统一账号体系、内置脱敏工具和操作审计日志,既满足了业务部门对效率的需求,又实现了对敏感数据的可控管理。这种平衡之道正在成为企业AI安全管理的新范式。

阿里开源首个原生语言世界模型Qwen-AgentWorld,为AI智能体训练开辟新路径
智东西6月24日消息,刚刚,阿里千问大模型上新,发布首个原生语言世界模型(LWM)Qwen-AgentWorld,该模型有35B-A3B与397B-A17B两种参数规模。 第一个方向是构建智能体环境模拟的基…

2026-06-24

5瓦对讲机通讯距离短?揭秘影响信号的5大隐形“杀手”
其实无线电传输走的是弧线,像一个球面一样扩散,哪怕中间只隔一个小土坡,隔着一排矮房子,你看着没有什么遮挡物,但是只要切它的进菲涅尔区,对讲机的信号直接腰斩,这就是为什么中继台(基站)天线总是要架在楼顶,架在山…

2026-06-24

辽宁移动5G-A与AI智算齐发力 为2026夏季达沃斯论坛织就通信保障网
作为论坛通信保障主力,辽宁移动提前部署、尽锐出战,引入5G-A与AI智算前沿技术,以全方位升级的网络保障方案,为这场国际盛会织就一张“极速、智能、安全”的通信网。辽宁移动利用5G-A通感一体核心技术,赋予基站…

2026-06-24