優寶購物《ubao.Tw》特貨品商城,黑貓宅配,取貨付款,AWS推出搭載Trainium3晶片的UltraServers,預告Trainium4將支援NVIDIA NVLink Fusion互連技術
Mashdigi

AWS推出搭載Trainium3晶片的UltraServers,預告Trainium4將支援NVIDIA NVLink Fusion互連技術

Mashdigi

AWS宣布推出搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器,目標解決當前AI模型訓練與推論時面臨的成本與算力瓶頸,官方數據顯示,其運算效能較前一代設計提升高達4.4倍,能源效率更提高40%,並且試圖透過更具競爭力的使用價格,讓更多企業能負擔得起訓練大規模AI模型所需的基礎設施。

▲AWS搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器從即日起正式上線
▲AWS搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器從即日起正式上線

單機配置144顆Trainium3晶片、延遲低於10微秒

Amazon EC2 Trn3 UltraServer的核心在於其高度整合架構,單一系統可容納多達144顆Trainium3晶片,提供高達362 FP8 PFLOPs的AI算力,並且從即日起正式上線。

廣告
▲Amazon EC2 Trn3 UltraServer在單一系統可容納多達144顆Trainium3晶片,提供高達362 FP8 PFLOPs的AI算力
▲Amazon EC2 Trn3 UltraServer在單一系統可容納多達144顆Trainium3晶片,提供高達362 FP8 PFLOPs的AI算力
▲以台積電3nm製程打造的AI晶片Trainium3
▲以台積電3nm製程打造的AI晶片Trainium3

為了應對分散式運算的通訊瓶頸,AWS導入新的NeuronSwitch-v1與增強版Neuron Fabric網路技術,將晶片間的通訊延遲壓低至10微秒 (μs)以下,對於需要大量數據流動的代理式AI (Agentic AI)或混合專家模型 (MoEs) 尤其重要。

AWS更指出,透過EC2 UltraClusters 3.0設計,客戶可連接數千台UltraServers伺服器,將其擴展至具備100萬顆Trainium晶片數量的超大運算叢集,規模更是前一代的10倍。

▲搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器
▲搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器
▲Amazon EC2 Trn3 UltraServers伺服器對比前一代Amazon EC2 Trn2 UltraServers伺服器,在相同功耗表現下可處理5倍Token量
▲Amazon EC2 Trn3 UltraServers伺服器對比前一代Amazon EC2 Trn2 UltraServers伺服器,在相同功耗表現下可處理5倍Token量

Decart、Anthropic率先採用,成本降低50%

在實際應用案例中,AWS列舉了多家合作客戶的成效。

其中,專攻生成式AI影片的Decart表示,使用Trainium3進行即時影片生成的推論速度快了4倍,而成本僅為原先使用GPU加速運算的一半。而諸如Anthropic、Karakuri、Ricoh (理光)等客戶,也透過Trainium晶片運算能力成功降低高達50%的訓練與推論成本。

另一方面,AWS更透露與Anthropic合作的「Project Rainier」計畫更新狀況,該計畫已連接超過50萬顆Trainium2晶片,成為全球最大的AI運算叢集之一,規模更是Anthropic訓練上一代模型時的五倍。

▲AWS與Anthropic合作的「Project Rainier」計畫已連接超過50萬顆Trainium2晶片,成為全球最大的AI運算叢集之一,規模更是Anthropic訓練上一代模型時的五倍
▲AWS與Anthropic合作的「Project Rainier」計畫已連接超過50萬顆Trainium2晶片,成為全球最大的AI運算叢集之一,規模更是Anthropic訓練上一代模型時的五倍

預告Trainium4將支援NVIDIA NVLink Fusion互連技術,打破陣營藩籬

在展望未來時,AWS更確認正在開發下一代Trainium4晶片,除了預期效能將再提升6倍 (在FP4運算時)、記憶體頻寬提高4倍、記憶體容量可擴增2倍之外,更說明此晶片將支援NVIDIA NVLink Fusion高速互連技術

意味著未來Trainium4、Graviton處理器將能與NVIDIA GPU在通用的MGX機架內無縫協同運作,打破了過往自研晶片與GPU陣營壁壘分明的界線,為客戶提供更具彈性的混合架構選擇。

▲AWS確認正在開發下一代Trainium4晶片,除了預期效能將再提升6倍 (在FP4運算時)、記憶體頻寬提高4倍、記憶體容量可擴增2倍之外,更說明此晶片將支援NVIDIA NVLink Fusion高速互連技術
▲AWS確認正在開發下一代Trainium4晶片,除了預期效能將再提升6倍 (在FP4運算時)、記憶體頻寬提高4倍、記憶體容量可擴增2倍之外,更說明此晶片將支援NVIDIA NVLink Fusion高速互連技術

更多Mashdigi.com報導:

AWS公布諸多技術合作:TwelveLabs影片理解模型、Visa代理式支付、Lyft司機AI助理登場

觀點/NVIDIA入股Synopsys背後盤算:從EDA到晶圓製造的全面封鎖、CUDA護城河再築高牆

NVIDIA斥資20億美元入股電子設計自動化業者Synopsys,加速晶片設計與數位孿生

其他人也在看

焦點股》華通:AI伺服器營收明年倍增 帶量急拉

HDI板龍頭華通(2313)全力布局AI(人工智慧)市場,推出高層數、高階HDI的AI伺服器、交換器產品,並全面更新資料中心各領域的技術路線圖,提供客戶50層以上的交換器、伺服器板,以及8階HDI的OAM加速卡,展現領先業界的HDI技術實力,法人預估,華通明年來自AI伺服器與資料中心的營收有望倍增,

自由時報 ・ 1 天前發起對話
AWS發表Nova系列新AI模型 (圖)

AWS發表Nova系列新AI模型 (圖)

亞馬遜(Amazon)旗下雲端服務供應商AWS於2日在美國拉斯維加斯舉辦re:Invent年度大會,AWS執行長賈曼(Matt Garman)發表全新Nova 2系列人工智慧(AI)模型,提供客戶更多選擇。

中央社 ・ 6 小時前發起對話

數位口內掃描助癌患術後重建假牙

口腔癌術後患者常因張口幅度受限(僅剩約2公分)而無法順利製作假牙,嚴重影響進食與生活品質;傳統印模技術無法克服這項困難。中山醫學大學附設醫院率先引進「數位口內掃描」技術,透過光學鏡頭以「分區、小角度」方式精準取模,成功為張口受限的病患製作客製化假牙。中山附醫文心院區副院長潘裕華表示,該院引進的數位口掃技術透過光學鏡頭即時擷取三維影像,利用高解析3D掃描及CAD/CAM數位設計,即使患者僅能張口2公分,也能採「分區、小角度」的方式逐步掃描,精準取得高精度的口腔模型,進而製作出符合個人解剖特徵的客製化活動假牙。潘裕華指出,數位口內掃描的引進,在數位流程上能即時修正模型誤差,有效減少患者重複取模與交付次數,大幅縮短製作時間,同時降低感染風險。截至10月底為止,醫療團隊已協助近2 ...

台灣新生報 ・ 19 小時前發起對話

AI與生命事業雙發展主軸確立,天品Q3每股淨利0.8元,孝光閣動工在即

【財訊快報/記者李純君報導】號稱基督教龍巖的天品(6199),近幾年積極跨入科技產業,公司揭露,受惠AI伺服器水冷散熱系統新機種之相關清洗訂單持續挹注,第三季營收來自AI清洗業務的營收明顯較第二季成長約166.87%,展望後續,AI清洗科技業務正成為公司營運成長的關鍵支柱,此外,今日也宣布,公司位於基隆仁愛區的生命事業重大開發案已正式取得建築執照,將於明年第一季全面啟動動工程序。天品近年營運動能強勢回升,2025年前三季累計營收達1.37億元,年增率達100.01%,主要係受惠於生命事業、AI事業雙主軸成長所致,該公司今年第三季稅後獲利4,927.5萬元,年增29.62%,單季每股淨利0.8元;累計今年前三季稅後獲利2,795.7萬元,年減33.88%,每股淨利0.45元。公司提到,自家在AI事業方面,AI伺服器水冷散熱系統新機種之相關清洗訂單持續挹注,來自國際雲端、高效能運算(HPC)等供應鏈的伺服器、BBU等客戶需求穩定放量,堆疊第三季營收來自AI清洗業務的營收明顯較第二季成長約166.87%、續創高峰,顯示AI清洗科技業務正成為公司營運成長的關鍵支柱。天品董事長李振寬表示,今年宣

財訊快報 ・ 1 天前發起對話

Google加速算力建置 光通訊族群一起沾光

Google傳正加速AI算力建置,不僅帶旺相關伺服器代工協力廠,也讓光通訊需求跟著強強滾。供應鏈指出,Google光通訊...

聯合新聞網 ・ 1 天前發起對話

亞馬遜攜手輝達強化AI晶片技術 搶攻雲端市場

亞馬遜(Amazon)在拉斯維加斯舉行的AWS re:Invent雲端大會上,正式宣布與輝達(Nvidia)擴大合作,AWS未來自研AI晶片將導入輝達關鍵技術,進一步強化其在AI基礎建設市場的競爭力。AWS表示,下一代自研晶片Trainium 4將採用輝達核心技術NVLink Fusion,能在不同

自由時報 ・ 8 小時前發起對話
AWS推出Nova 2系列自建模型,開放企業自訓專屬模型、Nova Act實現網頁瀏覽自動化

AWS推出Nova 2系列自建模型,開放企業自訓專屬模型、Nova Act實現網頁瀏覽自動化

AWS於re:Invent 2025大會宣布推出全新自建模型Nova 2系列,其中涵蓋Lite、Pro、Sonic與Omni四種不同定位版本,更推出開放訓練 (Open Training)服務Nova Forge,以及專為構建可靠網頁瀏覽代理人設計的Nova Act服務。

Mashdigi ・ 8 小時前發起對話

焦點股》世芯:下一代AWS晶片出現敵手?跳水重挫

AWS(Amazon Web Services,亞馬遜雲端服務公司)正式發表最新AI加速器Trainium3晶片,同時下一代Trainium4也亮相,Trainium 4將導入支援NVIDIA(輝達)NVLink Fusion高速互連技術,外資解讀Trainium 4將帶進多家IC設計服務商參與,市

自由時報 ・ 6 小時前發起對話
傳限制光阻劑出口 日出招反制…陸晶片陷危機

傳限制光阻劑出口 日出招反制…陸晶片陷危機

中日關係因日本首相高市早苗11月初的「台灣有事論」持續緊繃,在中國禁止中國民眾到日本旅遊及水產品進口後,傳出日本也做出反制,限制晶圓製造所需的光阻劑(中國稱光刻膠)出口到中國,引發中國半導體生產危機。

工商時報 ・ 12 小時前1
房市寒冬熱區突起!591 分享最新房市狀況:北士科議題夯 熱區聚焦地段與品牌

房市寒冬熱區突起!591 分享最新房市狀況:北士科議題夯 熱區聚焦地段與品牌

2025 房市持續受政策調控,591新建案統計,前三季六都加新竹推案年減約 20%,市場步入盤整量縮,區域分化 […]

電腦DIY ・ 8 小時前發起對話
吳建豪暴瘦模樣曝光!模樣完全認不出來 F4演唱會合體倒數獨缺他不參加

吳建豪暴瘦模樣曝光!模樣完全認不出來 F4演唱會合體倒數獨缺他不參加

F4合體登台倒數,成員吳建豪近期在社群曝光一張電梯自拍照,卻因「暴瘦」模樣引發粉絲熱烈討論。他身穿黑色背心準備出門遛狗,手臂線條依舊結實,但臉部明顯消瘦,讓大批歌迷驚訝留言:「不要再瘦了!」、「怎麼突然變老了?」更有人直呼一度認不出他來。

三立新聞網 setn.com ・ 3 小時前10
濱崎步「無人演唱會」震撼全球 英、法媒報導:這件事鬧大了

濱崎步「無人演唱會」震撼全球 英、法媒報導:這件事鬧大了

中日關係因「台灣有事」持續緊繃,近來多位日本藝人在中國活動受影響、演出被取消。11月29日天后濱崎步的上海演唱會,在前一天臨時遭中國取消,不過濱崎步仍對著台下1萬4000個空座位,唱完整場並全程錄製。這起事件不只亞洲國家關注,法國、英國媒體也紛紛報導,直言「上海這件事鬧大了!」

三立新聞網 setn.com ・ 10 小時前373
F4吳建豪暴瘦樣曝光 「臉頰凹陷、面容老化」他道出原因

F4吳建豪暴瘦樣曝光 「臉頰凹陷、面容老化」他道出原因

F4成員今年7月擔任五月天大巨蛋演唱會嘉賓,正式宣告回歸歌壇,不僅會推出新專輯,巡迴演唱會將於年底從上海站開跑,成員之一的吳建豪,近來曬出在電梯的自拍照,不僅臉頰明顯凹陷,身形更是消瘦不已,讓外界擔憂健康是否亮起紅燈,對此,吳建豪發聲說出原因。

中時新聞網 ・ 3 小時前17
于朦朧爆肛門殘液、閹割遭吃!傳被注射11種病毒藥物 生前暴瘦照曝

于朦朧爆肛門殘液、閹割遭吃!傳被注射11種病毒藥物 生前暴瘦照曝

中國男星于朦朧9月離世,官方以蓋牌火速以墜樓結案,留下一團謎霧,傳出其肛門殘留多人體液,驗屍報告顯示全身多處創傷、全口無牙,真相讓人越看越不明,後續更流出于遭杜強掌摑,及生前疑遭割耳朵、上電子腳鐐疑雲。如今陸委會最新報告指出,「數位極權」施行後造成反彈,于朦朧的死亡版本反而越傳越多。而他生前暴瘦如柴疑似被虐照片也流出。甚至傳出他體內被注射11種藥物病毒。蔡維歆

三立新聞網 setn.com ・ 1 天前432
金宇彬戰勝鼻咽癌迎娶申敏兒!她愛喝1茶41歲逆齡像21歲

金宇彬戰勝鼻咽癌迎娶申敏兒!她愛喝1茶41歲逆齡像21歲

韓國演藝圈模範情侶金宇彬與申敏兒,在愛情長跑11年後,今日(11/20)無預警宣布結婚喜訊!金宇彬透過親筆信甜喊:「我要和陪伴我很久的人組建家庭。」兩人挺過男方罹癌低潮,不離不棄的愛情感動無數粉絲。

健康2.0 ・ 8 小時前3
中鋼撿便宜好時機?股價10年新低股東不減反增 他揭後勢:定存股心態要改了

中鋼撿便宜好時機?股價10年新低股東不減反增 他揭後勢:定存股心態要改了

上(11)月金融市場劇烈波動,台股2日以逾200點開高後一路走高,終場加權指數漲221.74點,收在27564.27點,漲幅0.81%,其中台積電(2330)、台達電(2308)等收紅,聯發科(2454)收黑。另一方面,中鋼(2002)近日一度跌到10年新低點,引發百萬股東擔憂。對此,臉書財經粉專「股人阿勳」今(3)日在臉書分析,這一波對很多「拿中鋼當定存股......

風傳媒 ・ 4 小時前20
藍白合也難贏?郭正亮曝「這3縣市」危險了:民進太強

藍白合也難贏?郭正亮曝「這3縣市」危險了:民進太強

2026年縣市長選戰逼近,各陣營積極備戰,民進也陸續拍板地方縣市長提名人選;藍營與白營是否能整合合作,成為外界關注焦點。前民進立委郭正亮指出,國民在彰化、嘉義市及宜蘭面臨嚴峻挑戰,因為這些地區的綠營候選人實力堅強,即便藍白合作,也不見得能逆轉選情。

三立新聞網 setn.com ・ 1 天前130
變天了!全台急凍3天「最冷時間出爐」 雨下最猛地區曝光

變天了!全台急凍3天「最冷時間出爐」 雨下最猛地區曝光

變天了!台北今(3)日一早就溼溼冷冷,許多通勤族都穿起了雨衣、撐起雨傘。對此,氣象粉專「進擊の天氣小編」指出,最冷時間落在週三晚上至週四清晨,可能會下雨的地區也曝光了,提醒民眾多加留意。

三立新聞網 setn.com ・ 8 小時前5
獨家/「老娘不是吃素的」!濱崎步用空場之夜證明什麼是巨星

獨家/「老娘不是吃素的」!濱崎步用空場之夜證明什麼是巨星

日本天后濱崎步上海演唱會被迫取消,上萬名觀眾被迫不能親自欣賞偶像演出。場館不能演出,這本是任何歌手都會離開的舞台,但濱崎步沒有。在空無一人的座位前,她依然握著麥克風,照著原版流程,用百分之百的力量開唱。就如《濱崎步的秘密》傳達的「我沒有力量,是你們讓我站在舞台上。」那一夜濱崎步不只是在表演,更是在證明-真正的巨星,沒有觀眾也會賣力唱完。

三立新聞網 setn.com ・ 2 小時前33
清水地熱、太平山都輸了!宜蘭最夯景點狂吸134萬人,遊客讚:好拍又好玩

清水地熱、太平山都輸了!宜蘭最夯景點狂吸134萬人,遊客讚:好拍又好玩

宜蘭擁有得天獨厚的自然環境與深厚的文化底蘊,從壯麗的山林景緻、綿延的海岸線,再到保存完整的傳統藝術,提供了豐富多元的旅遊體驗。根據交通部觀光署最新數據顯示,2025年1月至9月期間,宜蘭各大景點吸引了

食尚玩家 ・ 8 小時前5
ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86