跟着AI成本攀升戴尔力推回归当地数据核心


     

  跟着企业加快摆设基于智能体的AI系统,Token耗损量正以史无前例的速度增加,导致来自次要公有云办事商的月度账单急剧膨缩。戴尔科技(Dell Technologies)对准这一账单冲击带来的市场机缘,正在本周举办的客户大会上发布了一系列新硬件取软件产物,押注企业AI的将来将当地化摆设、强化数据平安,并无效规避公有云的价钱波动风险。戴尔根本设备处理方案集团高级副总裁瓦伦·查布拉(Varun Chhabra)正在大会前的会上暗示:我们从客户身上察看到一个趋向——Token生成量的增速曾经跨越了Token单价的下降速度,这意味着客户的全体账单正正在大幅上涨。为曲不雅申明这一问题,戴尔客户处理方案集团高级副总裁乔恩·西格尔(Jon Siegal)举例指出,戴尔内部一名开辟者曾正在24小时内耗损了10亿个Token,单日云办事账单高达3400美元。对此,戴尔推出了戴尔桌面智能体AI(Dell Deskside Agentic AI)——一个用于正在当地建立、测试和运转AI智能体的当地化沙箱。该产物由英伟达NemoClaw供给支撑,运转于高机能戴尔工做坐之上,可支撑300亿至万亿参数规模的模子,确保数据一直留存于企业内部。西格尔指出,取公有云API比拟,完全采用当地摆设方案并利用开源模子,最快三个月即可实现投资收受接管。对于合适的使用场景而言,工做坐正正在成为线;免费Token生成器,西格尔注释道,智能体AI最具成本效益的运转体例,就是尽可能切近数据所正在地。持久以来,最强大的前沿模子几乎只能通过公有云拜候。但戴尔正借帮一系列沉磅合做,打破这道壁垒,将先辈模子引入当地或夹杂摆设,以满够数据从权取机能需求。谷歌Gemini系列模子现可通过谷歌分布式云(Google Distributed Cloud)正在戴尔PowerEdge办事器上实现当地化摆设。此外,戴尔还取Palantir合做,将其Foundry及AI平台引入当地摆设场景;同时取SpaceX AI展开合做,将Grok的高级推理取多模态能力带入客户的当地或夹杂。我怎样强调这件事的主要性都不为过,查布拉说道,这些是迄今为止只能正在云端利用的全球顶尖前沿模子……让客户正在模子运转上具有更多选择取矫捷性,正在大会宗旨环节,来自工业和制药范畴的大型企业高管也接踵登台,分享了各自由当地AI根本设备方面的实践经验。礼来制药(Eli Lilly)施行副总裁兼首席消息取数字官迪奥戈·劳(Diogo Rau)引见,公司依托一台配备逾1000块英伟达GPU的戴尔超等计较机,用于模仿复杂卵白质彼此感化以支持药物研发,并以毫秒级速度对出产线进行数字化检测。霍尼韦尔(Honeywell)首席手艺官苏雷什·文卡塔雷亚鲁(Suresh Venkatarayalu)则引见了公司正在工业现场间接摆设AI办事器的实践——正在及时决策至关主要的场景中鞭策自从化运营。为支撑稠密型AI模子取保守营业负载的协同运转,戴尔还颁布发表对旗舰存储阵列PowerStore进行全面硬件取软件升级,推出PowerStore Elite。PowerStore Elite的每秒输入输出操做次数(IOPS)、存储密度和吞吐量均达到上一代产物的三倍,采用全新E3驱动器,去除NVRAM缓存以最大化可用容量,并将戴尔的数据缩减保障比例提拔至业界领先的6!1。问题不只是这个平台今天能做什么,而是这个决策一年后能否仍然准确?负载发生变化时该怎样办?成本布局改变时又该若何应对?查布拉指出,这恰是PowerStore Elite存正在的意义。正在计较层面,戴尔发布了第18代PowerEdge办事器,这也是该公司有史以来推出的产物线最普遍的单办事器系列。新一代办事器相较上一代机能提拔高达70%,办事器整合比例达到13!1,并将全系标配量子平安固件,为应对2027年后量子暗码学合规要求提前结构。针对AI收集架构的物理摆设挑和,戴尔还推出了Dell PowerRack——将AI计较、收集取存储做为可扩展单位进行一体化设想;同时发布了Dell PowerCool CDU-C7000,这是一款紧凑型液冷分派单位,可为英伟达Rubin等高密度GPU供给跨越220千瓦的液冷能力。为帮帮企业加强收集抵御能力,戴尔还发布了CyberDetect——一款AI驱动的阐发东西,可正在字节级别对数据进行深度检测,识别软件形成的数据损坏。该东西切确率高达99。99%,使IT团队正在蒙受后可以或许明白判断哪些数据是清洁的,将软件恢复过程从不确定改变为基于AI驱动的化保障。跟着上述严沉更新连续推向市场,戴尔向企业IT带领者传送的消息十分明白:支持可扩展、成本可预期的AI根本设备曾经预备停当,过去的财政逻辑已不再合用。戴尔科技CEO迈克尔·戴尔(Michael Dell)正在宗旨中暗示:AI不只正正在改变手艺本身,更正在改变手艺的经济逻辑,使其向企业根本设备倾斜。现正在恰是时候,决定若何以最具成本效益的体例,满脚持久所需的Token生成需求。A:戴尔桌面智能体AI(Dell Deskside Agentic AI)是戴尔推出的一套当地化沙箱,专为正在企业内部建立、测试和运转AI智能体而设想。它由英伟达NemoClaw供给支撑,运转于高机能戴尔工做坐上,可支撑300亿至万亿参数规模的模子,确保数据不分开企业内网。取公有云API比拟,完全采用当地摆设并利用开源模子,企业正在两年内最多可节流87%的收入,最快三个月即可收回投资成本。A:PowerStore Elite是戴尔对旗舰存储阵列的全面升级版本。取上一代比拟,其IOPS、存储密度和吞吐量均提拔至三倍,采用全新E3驱动器,并移除了NVRAM缓存以最大化可用容量。此外,数据缩减保障比例提拔至6!1,达到业界领先程度。该产物旨正在同时支撑稠密型AI模子取保守企业营业负载的并交运转需求。A:CyberDetect是戴尔推出的一款AI驱动平安阐发东西,可正在字节级别对数据进行深度检测,精准识别软件形成的数据损坏。其检测切确率高达99。99%,使IT团队正在蒙受后可以或许清晰判断哪些数据是清洁的、能够平安恢复的,从而将灾后恢复过程从依赖经验判断改变为基于AI驱动的化保障,大幅降低恢复工做的不确定性。