甲骨文云2027年上线Cerebras推理服务:面向AI实验室与企业
sina qqZone renren ydCloud 0
当地时间10月27日,Cerebras Systems与甲骨文对外宣布,双方已达成合作,按计划将于2027年在甲骨文云基础设施(OCI)上推出Cerebras的高速AI推理服务,服务对象包括AI实验室、企业以及开发者。按双方说法,推理速度提上去之后,多步骤智能体工作流的延迟会更低,AI应用的响应能力也能随之增强。
Cerebras的晶圆级引擎把计算和内存做在同一块晶圆级处理器上,数据搬运和芯片间通信因此减少,令牌生成速度得以加快,复杂推理任务和智能体应用所需的算力也有了着落。