亚马逊新动作:自研AI训练芯片Trainium2或将于下月广泛面市

   时间:2024-11-12 19:29 来源:ITBEAR作者:沈如风

据悉,Trainium2芯片在去年底的AWS 2023 re:Invent大会上首次亮相。与第一代产品相比,新款芯片在训练速度上有了显著提升,最高可达到原先的4倍。同时,其在能效方面也表现出色,提升了多达2倍。Trainium2的内存容量也增至前代的3倍,并能够在EC2 UltraClusters中扩展至多达10万个芯片。这一强大的扩展能力使得Trainium2能够在极短的时间内完成基础模型和大语言模型的训练任务。

Trainium2芯片的开发工作由亚马逊旗下芯片设计部门Annapurna Labs主导。该部门是亚马逊在2015年以3500万美元收购的,如今已成长为亚马逊在AI芯片领域的重要力量。目前,Trainium2芯片正在接受多家AI创新企业及全球知名公司的测试,包括Anthropic、Databricks、Stockmark等AI创企,以及德国电信和日本理光等行业巨头。

亚马逊并非唯一一家致力于自研AI芯片的大型科技企业。微软、谷歌和meta等公司也在积极投入资源,开发各类用于AI推理或训练的芯片。这些企业的共同目标在于减少对英伟达等硬件供应商的依赖,从而掌握更多在AI领域的技术主动权。

 
 
更多>同类内容
推荐图文
推荐内容
点击排行
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群