巨人天成
产经 科技 企业 数据 峰会 快讯 商业

IBM新光学技术:光速训练AI,GPU闲置不再,能效大幅提升

2024-12-11来源:ITBEAR编辑:瑞雪

IBM近期宣布了一项革命性的技术突破,这项新技术能够在极大程度上提升人工智能模型的训练效率,并且显著节约能源消耗。据IBM介绍,这种新型光学技术,若应用于数据中心,将能够节省相当于5000个美国家庭一年能源消耗量的能源。

传统数据中心虽然通过光纤电缆与外部网络连接,但在其内部,仍然大量使用铜线连接GPU加速器。这些GPU加速器在等待其他设备传输数据的过程中,往往会长时间处于闲置状态,这不仅消耗了大量能源,还增加了运营成本。IBM此次推出的技术,正是为了解决这一痛点。

IBM高级副总裁兼研究总监Dario Gil表示,随着生成式AI技术的不断发展,对能源和处理能力的需求也在不断增加,数据中心必须进行相应的进化。而IBM此次推出的共封装光学技术(CPO),正是数据中心进化的关键一步。通过CPO技术,未来的芯片将能够像光纤电缆一样,以光速进行数据传输,从而大幅提升通信速度和能源效率。

在IBM发布的一篇技术论文中,详细介绍了CPO技术的原型。该技术通过显著增加数据中心的带宽,有效减少了GPU的闲置时间,从而加速了AI模型的训练过程。据IBM透露,应用CPO技术后,大型语言模型(LLM)的训练时间可以从原本的三个月缩短至三周,极大地提高了训练效率。

CPO技术还带来了更高的能源效率,降低了能源消耗,并减少了与训练LLM相关的成本。这一突破性的进展,不仅为AI技术的发展提供了强有力的支持,也为数据中心的可持续发展开辟了新的道路。IBM的这一创新,无疑将在AI领域引发一场深刻的变革。

WebRTC技术赋能物联网卡:解锁工业医疗驾驶毫秒级低时延通信新路径
WebRTC(网页实时通信)技术与物联网卡的深度融合,正通过 “协议优化 + 硬件适配 + 网络升级”,破解毫秒级响应难题。本文基于行业实践,解析 WebRTC 技术原理、物联网卡协同路径及场景落地效果,为…

2025-11-13

智慧公安大数据云平台:以科技赋能警务,构建城市安全治理新生态
通过公安云平台,各类警务数据得以高效整合与流转,实现了从“人海战术”向“数据驱动”的转变。一键式可视化报警设备的引入,进一步拓宽了公众参与治安治理的渠道,实现接警员与报警人视频对讲、现场信息实时推送,为快速处…

2025-11-13

昕锐CL系列激光测距模块:定制化驱动低空经济场景变革新引擎
结语:定制化,是技术普惠的终极路径当测距模块从“标准化商品”进化为“场景化服务”,昕锐CL系列不仅解决了无人机与吊舱的“精准降本”难题,更重新定义了技术与需求的关系:技术突破的价值,不在于参数的堆砌,而在于…

2025-11-13

企业展厅多媒体设备保养指南:从日护到年检的分层维护策略
企业展厅多媒体设备保养频率需按“基础养护+定期检查+深度维护”分层设定,核心频率为每日、每周、每月、每季度,部分设备需年度专业维保。检查设备开机状态,测试核心功能(显示、音响、互动响应)是否正常。 请专业人…

2025-11-13

2025网购流量卡选购指南:不同场景实测教你选到网速稳的好卡
所以,简单概括一下:一张正规的网购流量卡,其网速表现与同运营商的线下套餐并无本质差异。 在流量卡领域,我认为“便宜”不一定直接等于“网速差”。•警惕“物联卡”冒充手机流量卡

2025-11-13

苹果设备与电信流量卡全攻略:从兼容到技巧,助你畅享无忧网络
•运营商网络覆盖差异•手机版本支持频段不同•套餐类型与设备性能不匹配最新的iPhone 14系列甚至已经支持电信的5GSA组网,网速体验绝对令人惊艳!

2025-11-12

2025金砖大赛大数据分析赛项落幕 多元力量共促数智化人才培养新篇章
新道科技助理总裁唐梦彬在致辞中表示,大赛把企业数智化转型过程中的业务模式、典型场景与大数据分析技术相结合,体现行业和企业对人员技能的最新标准,让师生深入了解当前数智化企业的运营和管理模式,提升大数据分析的理…

2025-11-12

量子安全网络新突破:CV-QKD可插拔模块开启高效规模化部署新篇
CUbIQ Technologies:开发了 CV-QKD 收发模块和量子安全架构HPE Juniper网络:将模块集成到其路由平台中,实现量子安全 MACsec 加密Coherent 高意:提供 400…

2025-11-12