界面新聞?dòng)浾?| 肖芳
界面新聞編輯 | 宋佳楠
在12月2日至6日舉行的2024 re:Invent全球大會(huì)上，亞馬遜云科技宣布，其基于Trainium2的Amazon Elastic Compute Cloud（Amazon EC2）Trn2實(shí)例正式可用，并推出了Trn2 UltraServer，稱可讓客戶以優(yōu)越的性價(jià)比訓(xùn)練和部署最新的人工智能模型，以及未來的大語言模型（LLM）和基礎(chǔ)模型（FM）。同時(shí)，亞馬遜云科技還發(fā)布了新一代Amazon Trainium3芯片。
值得注意的是，蘋果機(jī)器學(xué)習(xí)和人工智能高級總監(jiān)Benoit Dupin現(xiàn)身大會(huì)，并在臺(tái)上講解了蘋果如何使用云服務(wù)。Dupin表示，十多年來，蘋果一直在使用AWS提供Siri、Apple Maps和Apple Music等服務(wù)。其還強(qiáng)調(diào)使用亞馬遜的Inferencia和Graviton芯片為搜索提供服務(wù)，使效率提高了40%。
據(jù)Dupin透露，蘋果目前正在評估亞馬遜云科技的最新AI訓(xùn)練芯片Trainium2，預(yù)計(jì)使用該芯片進(jìn)行預(yù)訓(xùn)練時(shí)效率將提高50%。
不過，蘋果使用Trainium2僅限于AI模型的預(yù)訓(xùn)練階段，不會(huì)用于Apple Intelligence功能。Apple Intelligence功能由蘋果設(shè)備上的芯片或蘋果私有云計(jì)算平臺(tái)上的Apple Silicon 芯片提供支持。
界面新聞了解到，蘋果愿意考慮Trainium2進(jìn)行預(yù)訓(xùn)練，成本是一個(gè)重要因素。目前，市場上大部分公司的AI模型預(yù)訓(xùn)練都在使用英偉達(dá)的GPU芯片，但這種訓(xùn)練方式成本較高，各個(gè)公司都在尋求成本更低的替代方案，云計(jì)算廠商也看中了這一市場需求。
亞馬遜云科技計(jì)算和網(wǎng)絡(luò)副總裁David Brown在演講中表示，Trainium2是專為支持大型、前沿的生成式AI工作負(fù)載而設(shè)計(jì)的，能夠滿足訓(xùn)練和推理的需求，并且更具備性價(jià)比。
具體來說，與當(dāng)前基于GPU的EC2 P5e和P5en實(shí)例相比，最新可用的Amazon EC2 Trn2實(shí)例的性價(jià)比提升30%-40%。其配備16個(gè)Trainium2芯片，可提供高達(dá)20.8 Petaflops浮點(diǎn)算力的性能，非常適合訓(xùn)練和部署具有數(shù)十億參數(shù)的大型語言模型（LLMs）。
全新推出的Amazon EC2 Trn2 UltraServers服務(wù)器機(jī)型配備64個(gè)相互連接的Trainium2芯片，采用NeuronLink超速互連技術(shù)，可提供高達(dá)83.2 Petaflops浮點(diǎn)算力，其計(jì)算、內(nèi)存和網(wǎng)絡(luò)能力是單一實(shí)例的四倍，能夠支持訓(xùn)練和部署超大規(guī)模的模型。
目前，亞馬遜云科技正在聯(lián)合Anthropic打造名為Project Rainier的EC2 UltraCluster，其包含數(shù)十萬顆Trainium2芯片，所達(dá)到的算力比其當(dāng)前一代AI模型訓(xùn)練所需算力高出5倍以上。
亞馬遜云科技推出的新一代AI芯片Trainium3，是首款采用3納米工藝制造的芯片，在性能、能效和密度上都達(dá)到了新的高度。搭載Trainium3的UltraServers性能預(yù)計(jì)將是Trn2 UltraServers的4倍，這意味著其能夠幫助客戶更快速地構(gòu)建更大規(guī)模的模型，并在部署時(shí)提供更優(yōu)的實(shí)時(shí)性能。
有聲音認(rèn)為，亞馬遜云科技推出Trainium系列將對英偉達(dá)GPU芯片形成挑戰(zhàn)，有望爭得更多市場份額。但一位云計(jì)算行業(yè)從業(yè)者表示，兩者的差異非常明顯，Trainium系列芯片則更側(cè)重于對亞馬遜自身業(yè)務(wù)和客戶需求的優(yōu)化，亞馬遜并不會(huì)對外出售該芯片，而英偉達(dá)GPU芯片在科學(xué)計(jì)算、高性能計(jì)算等領(lǐng)域的應(yīng)用更加廣泛，其芯片架構(gòu)和軟件生態(tài)在這些領(lǐng)域的優(yōu)化更為成熟。
隨著AI的大規(guī)模應(yīng)用和對算力需求的進(jìn)一步增長，越來越多的企業(yè)對芯片、服務(wù)器、工具、架構(gòu)、服務(wù)等提出新的定制化要求，云計(jì)算廠商通過自研芯片來訓(xùn)練和部署更大規(guī)模的模型、降低訓(xùn)練成本已是大勢所趨。
除了亞馬遜云科技之外，微軟Azure和谷歌云也在積極探索自研芯片，這也將進(jìn)一步豐富芯片市場，以減少對英偉達(dá)芯片的過度依賴。