巨人天成
产经 科技 企业 数据 峰会 快讯 商业

AI智能体“无人驾驶”,安全与规范的警钟已经敲响!

2024-12-27来源:蓝鲸新闻编辑:瑞雪

智能体技术的飞速发展正引领着一场全新的交互革命,各大科技巨头纷纷亮出自家的“杀手锏”。荣耀CEO赵明在一次直播中演示了通过智能体YOYO在美团轻松点购三杯咖啡的全过程,从搜索店铺、选择品类到最终付款,一切操作如行云流水,仿佛有一只无形的手指在精准操控,用户只需旁观。这种体验让人联想到L2级别的自动驾驶,用户大多数情况下可以置身事外,必要时才进行干预。而如果技术再进一步,实现无感的自动化,L4级别的智能体将指日可待。

然而,就在这样的技术演示中,360创始人周鸿祎却发出了“这太危险了”的惊呼。他的担忧并非空穴来风。据业内人士透露,由于目前APP间尚未实现完全的互联互通,许多智能体在进行L2乃至L4级别的“无人驾驶”时,实际上采用了机器模拟点击的方式,这与黑灰产的作弊原理如出一辙。智能体根据用户授权的高低,选择不同的实现方式,对于权限最低的三方应用层智能体而言,机器模拟点击很难被有效区分是真实操作还是作弊行为,从而导致风控结果的误判。

智能体的定义和分类虽各不相同,但以下几点已成为共识:智能体需要扮演某种社会角色,参与社会化分工并完成任务;能够进行对话交流,理解用户的行为偏好,并根据反馈进行强化学习和重新规划;与外部业务系统、其他智能体及工具应用进行协同。简而言之,智能体就像管家、行政秘书、前台、客服或司机一样,更加主动、自动地贴近用户,成为用户的贴身助理,掌握更多隐私数据。

然而,如果智能体的实现依赖于上述“作弊”机制,将带来严重的安全隐患。智能体之间的自主交互若缺乏严格的身份认证和授权机制,系统将易受恶意攻击和不正当访问。恶意智能体可以伪装成合法的智能体,恶意用户也可以伪装成合法的用户,从而获取不应有的服务权限。这不仅可能导致财务损失,甚至可能危及生命。例如,恶意智能体可以假冒合法智能体访问用户的健康敏感数据,而恶意用户则可以向医疗智能体发送虚假健康数据,导致错误的医疗决策。

面对这一“心腹成为大患”的安全难题,业界开始积极寻求解决方案。一种简单的方案是绕开APP生态和应用层的作弊机制,但这并非最佳或唯一选择。部分手机厂商主导的作弊方案还可能带来颠覆产业的激进结果,如入口的收敛和生态的快速变革,最终可能导致恶性商业竞争。对用户而言,如果入口变得极度单一,将丧失自主性和主动权。

为了既要安全又要行业长远发展,业内开始探索在应用层APP之间建立统一的安全协作标准,以实现跨APP的流畅操作。IIFAA(互联网可信认证联盟)成立的“IIFAA智能体可信互连工作组”正是这一思路的倡导者。该工作组由华为、荣耀、OPPO、字节跳动、蚂蚁集团等头部企业组成,旨在通过制定跨智能体交互的安全技术规范,为智能体行业提供一个更加健康规范的协作环境。

IIFAA早在2015年就由中国信通院、华为、中兴、蚂蚁集团、阿里巴巴等联合发起,其可信数字身份技术规范已在全球超过16亿台手机设备、43个手机品牌商中得到应用。工作组的目标是确保智能体之间能有一套相互协同和通信的机制,实现全链路可信的服务调用。随着智能体的快速发展,这一工作已变得迫在眉睫。

硅谷的头部公司和企业家们也已行动起来,倡导建立统一标准的行业框架以确保负责任的AI发展。谷歌发布的Secure AI framework(SAIF)也强调了创新与安全标准的重要性。回到中国智能体领域,IIFAA技术负责人万小飞表示,当前工作主要聚焦在智能体可信身份鉴权、数据可信流通、业务系统风控以及智能体主权保护等四个维度。

在智能体时代,不能继续强化入口单一化的弊端。一旦自然语言可以完全自动实现后端的滴滴下单、微信支付发红包等功能,入口将统一到手机,原有互联网主流的商业模式将被快速摧毁。这对巨头和小应用都构成威胁,产业生态不宜面临如此过激的改变。因此,IIFAA要建立的机制旨在为整个生态更开放和更公正,给所有小的智能体提供快速发展的可能性。

智能体的发展路径已清晰可见。一条是走捷径,但会带来安全隐患;另一条是做更难的事情,构建一个整体的安全互信框架,避免单点与单点的重复谈判,形成规模效应,加速智能体的快速互联。整体的可信协作实际上是做大智能体的整体蛋糕,类似于集装箱改变世界的故事。集装箱的统一尺寸不仅降低了运输成本,还提升了货物安全,推动了全球贸易的极大发展。

如今,各大厂商都在卷模型生成能力,但这已不再构成差异化优势。模型能力总会拉平,而最终决定智能水平的是跨系统、跨平台、跨软硬件采集上下文背景信息(context)的能力。谁能采集更多context,谁的智能水平就更高。就像再好的医生,拿不到病人的体检报告,也无处施展。

光联携手利元亨,共话新能源制造AI时代网络新路径与新机遇
聚焦企业在全球范围内的多分支互联与云IDC接入问题,方案基于光联自建全球光纤骨干网络及华为SD-WAN设备,支持MPLS、Internet与4G/5G等多种链路融合,并可弹性部署多种拓扑模型,实现总部、分支…

2025-11-15

恒为科技:从可视化到智算,让复杂算力“看得见、管得住”
这家公司从 2003 年起步,长期在“网络可视化”和“智能系统平台”两条看似技术化的赛道上耕耘,逐步在运营商、科研院所、大型行业客户中建立信任与交付能力。它不像爆款公司那样靠一款产品跑路,而是靠一条条项目、…

2025-11-15

“祖冲之三号”同款芯片赋能!我国超导量子计算机“天衍-287”搭建完成并开放服务
据了解,该量子计算系统具备“量子计算优越性”能Q力,处理特定问题的速度比目前最快的超级计算机快4.5亿倍,未来将接入“天衍”量子计算云平台并首次面向全球开放应用服务,这也将是我国首个具备“量子计算优越性”的量…

2025-11-14

6寸LCD显示屏:小身材大能量,技术优势与多元应用前景深度剖析
采用IPS等先进技术的6寸LCD屏,能够实现更广色域覆盖,色彩显示真实自然,更适用于图像监控、医疗设备显示、智能终端等对色彩还原要求较高的场合。 随着技术的不断发展,6寸LCD显示屏将在未来呈现更高清、更智…

2025-11-14

小天互连IM系统:打破政企信息孤岛 驱动一体化协作新变革
某省级政务大厅在信创升级中,通过小天互连IM系统实现了与政务服务平台、电子证照系统的无缝对接,群众办事进度可直接通过即时通讯推送,办理效率提升50%,印证了其国产化集成的稳定性。 从国产化生态适配到开放 A…

2025-11-14

水库增殖放流站物联网升级:实时监测,远程管控,开启智慧渔业新模式
通过接入溶解氧传感器、水温传感器、水质监测仪、自动投料机、自动增氧机、循环水设备PLC、摄像头等多种设备,物通博联智能数采网关能够实时采集各个鱼池的水质、溶解氧、水温以及投料、增氧、循环水等设备状态,通过5…

2025-11-14

水浸传感器RS-SJ:4G蓝牙双助力,高效守护防积水安全
当检测到水浸情况时,相关信息会通过4G网络快速传输至指定的管理平台或用户终端,无需人工现场查看,让用户在第一时间知晓积水隐患,为及时采取排水、设备转移等应对措施争取时间,避免积水造成更大损失。 水浸传感器凭借…

2025-11-14

中国电信2025年云网路由交换设备集采结果揭晓
中国电信近日宣布,其云网路由交换设备(2025年)集中采购项目已顺利完成评审工作。此次采购项目规模庞大,涉及多个关键网络设备领域,旨在进一步优化和提升云网基础设施能力。

2025-11-13

中国电信AI赋能6G发展:创新技术引领通信变革,拓展产业融合新路径
中电信数智科技有限公司“一种基于6G的天地一体化传输优化及拓扑测绘的方法”获国家发明专利授权,这项专利涵盖卫星与地面网络协同通信、频谱资源共享、高效信号传输等多个核心技术领域,为6G的落地应用铺设了一条“高…

2025-11-12

量子卫星引领通信变革:搭建全球高速安全互联的量子通信新桥梁
卫星可将纠缠光子发送到地面,实现长距离量子通信。 地面量子网络通过卫星互联全球量子密钥分发网络形成实现真正安全、分布式通信3. 军事与国防应用 随着技术成熟和全球布局加速,未来的互联网将不再依赖传统线路,而…

2025-11-12