【CNMO科技消息】据CNMO了解,美国加州的半导体公司Cerebras Systems公布了其第三代晶圆级AI加速芯片“WSE-3”(Wafer Scale Engine 3),其规格参数令人震动,而且在保持功耗和价格不变的情况下,性能实现了翻倍,号称“全球最强”。
据悉,WSE-3采用了台积电5nm工艺,固然没有公布面积,但晶体管数目增加到了夸张的4万亿个,AI核心数目增加到了90万个,缓存收留量达到了44GB,外部搭配内存收留量可选1.5TB、12TB、1200TB。固然核心数目和缓存收留量增加未几,但性能却实现了巨大奔腾,峰值AI算力高达125PFlops,即每秒12.5亿亿次浮点计算,可媲美顶级超算。
WSE-3可以练习相当于GPT-4、Gemini十几倍的下一代AI大模型,能在单一逻辑内存空间内存储24万亿参数,无需分区或重构。四颗并联的情况下,一天内即可完成700亿参数的调教,支持最多2048路互连,一天便可完成Llama 700亿参数的练习。固然WSE-3的具体功耗和价格尚未公布,但根据上一代的情况来看,应该会超过200万美元。
Cerebras Systems公司于2019年推出了第一代WSE-1,基于台积电16nm工艺,面积为46225平方毫米,晶体管1.2万亿个,拥有40万个AI核心和18GB SRAM缓存,支持9PB/s内存带宽和100Pb/s互连带宽,功耗达15千瓦。随后在2021年,该公司推出了第二代WSE-2,升级为台积电7nm工艺,面积保持不变,晶体管数目增加到2.6万亿个,核心数目增加到85万个,缓存收留量增加到40GB,内存带宽达到20PB/s,互连带宽达到220Pb/s。
评论列表 (条)