您现在的位置:首页 >> 环保新闻

为AI狂潮再添动力 英伟达发布新一代芯片H200

时间:2024-02-06 12:19:53

可能:财联社

当地时间周一,半导体大公司英伟达发布了下一代AI(AI)笔记本电脑H200,宗旨培训和地面部队各种AI假设。美股盘中,英伟达跌幅震荡走高,以外涨合共1%。

重新H200笔记本电脑是意味著用于受训最精密大语言学假设H100笔记本电脑的升级产品线,集成了141GB的CPU,来得加擅长开展“推理”。在用于推理或生成疑虑解答时,精度较H100大大提高60%至90%。

据英伟达官方第一时间,基于英伟达的“Hopper”架构的H200也是该该公司第一款适用HBM3eCPU的笔记本电脑,这种CPU速度来得慢速,输出功率大得多,因此来得较难大语言学假设。

英伟达称:“借助HBM3e,英伟达H200以米/秒4.8TB的速度缺少141GB的CPU,与A100比起,输出功率差不多是其两倍,比特率增高了2.4倍。

另外,H200预计将于2024年第一季度并购,将与AMD的MI300X GPU开展竞争。与H200类似,AMD的笔记本电脑比其前身以外来得多的CPU,这并能大语言学假设来GPU推理。

英伟达回应,H200将与H100兼容,这理论上已经在适用H100开展受训的AI该公司,不需要变动他们的服务器系统或软件包来适应H200。

英伟达副总裁伊恩·巴克据称:“为了受训生成式AI和高精度算出应用程序,必须适用高效能GPU。而有了H200,业界领先的AI超级算出平台可以来得慢速地消除一些世界上最重要的挑战。”

英伟达减缓算出顾问产品线主管迪翁·布鲁克斯回应:“想想产品线上打算发生的事情,你会断定大假设体积打算急速波动。这是我们再次引领月所、最伟大应用的又一个例子。”

据宾夕法尼亚州金融机构Raymond James透露,H100笔记本电脑成本只能3320美元,但英伟达对其客户的批量价格仍然平均2.5万至4万美元。这造成了H100商品价格或平均1000%,成为了有史以来最赚的一种笔记本电脑。

而在受训大语言学假设时,需要数千个H100集群工作,这造成了科技大公司、创始该公司和政府机构都在夺取英伟达有限的笔记本电脑用水。

由于对其产品线的效益看来是个无底洞,英伟达月内的营收第一季度,跌幅飙升了230%,股票突破了1.2万亿美元的大关。英伟达预计第三财季营收约为160亿美元,上半年增长170%。

英伟达将在下周向投资者缺少来得清晰的营业额细节,该该公司定于11月21日公布月所财报。

阳了咳痰黄痰正常吗
尿频吃坦洛新怎么样
八子补肾
宝宝喝牛奶腹泻怎么治疗
老是感觉胃烧心是怎么回事