据悉,Trainium2芯片在去年底的AWS 2023 re:Invent大会上首次亮相。与第一代产品相比,新款芯片在训练速度上有了显著提升,最高可达到原先的4倍。同时,其在能效方面也表现出色,提升了多达2倍。Trainium2的内存容量也增至前代的3倍,并能够在EC2 UltraClusters中扩展至多达10万个芯片。这一强大的扩展能力使得Trainium2能够在极短的时间内完成基础模型和大语言模型的训练任务。
Trainium2芯片的开发工作由亚马逊旗下芯片设计部门Annapurna Labs主导。该部门是亚马逊在2015年以3500万美元收购的,如今已成长为亚马逊在AI芯片领域的重要力量。目前,Trainium2芯片正在接受多家AI创新企业及全球知名公司的测试,包括Anthropic、Databricks、Stockmark等AI创企,以及德国电信和日本理光等行业巨头。
亚马逊并非唯一一家致力于自研AI芯片的大型科技企业。微软、谷歌和meta等公司也在积极投入资源,开发各类用于AI推理或训练的芯片。这些企业的共同目标在于减少对英伟达等硬件供应商的依赖,从而掌握更多在AI领域的技术主动权。