AWS推出搭載Trainium3晶片的UltraServers,預告Trainium4將支援NVIDIA NVLink Fusion互連技術
AWS宣布推出搭載旗下3nm製程AI晶片Trainium3的Amazon EC2 Trn3 UltraServers伺服器,目標解決當前AI模型訓練與推論時面臨的成本與算力瓶頸,官方數據顯示,其運算效能較前一代設計提升高達4.4倍,能源效率更提高40%,並且試圖透過更具競爭力的使用價格,讓更多企業能負擔得起訓練大規模AI模型所需的基礎設施。
單機配置144顆Trainium3晶片、延遲低於10微秒
Amazon EC2 Trn3 UltraServer的核心在於其高度整合架構,單一系統可容納多達144顆Trainium3晶片,提供高達362 FP8 PFLOPs的AI算力,並且從即日起正式上線。
為了應對分散式運算的通訊瓶頸,AWS導入新的NeuronSwitch-v1與增強版Neuron Fabric網路技術,將晶片間的通訊延遲壓低至10微秒 (μs)以下,對於需要大量數據流動的代理式AI (Agentic AI)或混合專家模型 (MoEs) 尤其重要。
AWS更指出,透過EC2 UltraClusters 3.0設計,客戶可連接數千台UltraServers伺服器,將其擴展至具備100萬顆Trainium晶片數量的超大運算叢集,規模更是前一代的10倍。
Decart、Anthropic率先採用,成本降低50%
在實際應用案例中,AWS列舉了多家合作客戶的成效。
其中,專攻生成式AI影片的Decart表示,使用Trainium3進行即時影片生成的推論速度快了4倍,而成本僅為原先使用GPU加速運算的一半。而諸如Anthropic、Karakuri、Ricoh (理光)等客戶,也透過Trainium晶片運算能力成功降低高達50%的訓練與推論成本。
另一方面,AWS更透露與Anthropic合作的「Project Rainier」計畫更新狀況,該計畫已連接超過50萬顆Trainium2晶片,成為全球最大的AI運算叢集之一,規模更是Anthropic訓練上一代模型時的五倍。
預告Trainium4將支援NVIDIA NVLink Fusion互連技術,打破陣營藩籬
在展望未來時,AWS更確認正在開發下一代Trainium4晶片,除了預期效能將再提升6倍 (在FP4運算時)、記憶體頻寬提高4倍、記憶體容量可擴增2倍之外,更說明此晶片將支援NVIDIA NVLink Fusion高速互連技術。
意味著未來Trainium4、Graviton處理器將能與NVIDIA GPU在通用的MGX機架內無縫協同運作,打破了過往自研晶片與GPU陣營壁壘分明的界線,為客戶提供更具彈性的混合架構選擇。
更多Mashdigi.com報導:
AWS公布諸多技術合作:TwelveLabs影片理解模型、Visa代理式支付、Lyft司機AI助理登場
其他人也在看
焦點股》華通:AI伺服器營收明年倍增 帶量急拉
HDI板龍頭華通(2313)全力布局AI(人工智慧)市場,推出高層數、高階HDI的AI伺服器、交換器產品,並全面更新資料中心各領域的技術路線圖,提供客戶50層以上的交換器、伺服器板,以及8階HDI的OAM加速卡,展現領先業界的HDI技術實力,法人預估,華通明年來自AI伺服器與資料中心的營收有望倍增,
自由時報 ・ 1 天前 ・ 發起對話
AWS發表Nova系列新AI模型 (圖)
亞馬遜(Amazon)旗下雲端服務供應商AWS於2日在美國拉斯維加斯舉辦re:Invent年度大會,AWS執行長賈曼(Matt Garman)發表全新Nova 2系列人工智慧(AI)模型,提供客戶更多選擇。
中央社 ・ 6 小時前 ・ 發起對話數位口內掃描助癌患術後重建假牙
口腔癌術後患者常因張口幅度受限(僅剩約2公分)而無法順利製作假牙,嚴重影響進食與生活品質;傳統印模技術無法克服這項困難。中山醫學大學附設醫院率先引進「數位口內掃描」技術,透過光學鏡頭以「分區、小角度」方式精準取模,成功為張口受限的病患製作客製化假牙。中山附醫文心院區副院長潘裕華表示,該院引進的數位口掃技術透過光學鏡頭即時擷取三維影像,利用高解析3D掃描及CAD/CAM數位設計,即使患者僅能張口2公分,也能採「分區、小角度」的方式逐步掃描,精準取得高精度的口腔模型,進而製作出符合個人解剖特徵的客製化活動假牙。潘裕華指出,數位口內掃描的引進,在數位流程上能即時修正模型誤差,有效減少患者重複取模與交付次數,大幅縮短製作時間,同時降低感染風險。截至10月底為止,醫療團隊已協助近2 ...
台灣新生報 ・ 19 小時前 ・ 發起對話AI與生命事業雙發展主軸確立,天品Q3每股淨利0.8元,孝光閣動工在即
【財訊快報/記者李純君報導】號稱基督教龍巖的天品(6199),近幾年積極跨入科技產業,公司揭露,受惠AI伺服器水冷散熱系統新機種之相關清洗訂單持續挹注,第三季營收來自AI清洗業務的營收明顯較第二季成長約166.87%,展望後續,AI清洗科技業務正成為公司營運成長的關鍵支柱,此外,今日也宣布,公司位於基隆仁愛區的生命事業重大開發案已正式取得建築執照,將於明年第一季全面啟動動工程序。天品近年營運動能強勢回升,2025年前三季累計營收達1.37億元,年增率達100.01%,主要係受惠於生命事業、AI事業雙主軸成長所致,該公司今年第三季稅後獲利4,927.5萬元,年增29.62%,單季每股淨利0.8元;累計今年前三季稅後獲利2,795.7萬元,年減33.88%,每股淨利0.45元。公司提到,自家在AI事業方面,AI伺服器水冷散熱系統新機種之相關清洗訂單持續挹注,來自國際雲端、高效能運算(HPC)等供應鏈的伺服器、BBU等客戶需求穩定放量,堆疊第三季營收來自AI清洗業務的營收明顯較第二季成長約166.87%、續創高峰,顯示AI清洗科技業務正成為公司營運成長的關鍵支柱。天品董事長李振寬表示,今年宣
財訊快報 ・ 1 天前 ・ 發起對話Google加速算力建置 光通訊族群一起沾光
Google傳正加速AI算力建置,不僅帶旺相關伺服器代工協力廠,也讓光通訊需求跟著強強滾。供應鏈指出,Google光通訊...
聯合新聞網 ・ 1 天前 ・ 發起對話亞馬遜攜手輝達強化AI晶片技術 搶攻雲端市場
亞馬遜(Amazon)在拉斯維加斯舉行的AWS re:Invent雲端大會上,正式宣布與輝達(Nvidia)擴大合作,AWS未來自研AI晶片將導入輝達關鍵技術,進一步強化其在AI基礎建設市場的競爭力。AWS表示,下一代自研晶片Trainium 4將採用輝達核心技術NVLink Fusion,能在不同
自由時報 ・ 8 小時前 ・ 發起對話
AWS推出Nova 2系列自建模型,開放企業自訓專屬模型、Nova Act實現網頁瀏覽自動化
AWS於re:Invent 2025大會宣布推出全新自建模型Nova 2系列,其中涵蓋Lite、Pro、Sonic與Omni四種不同定位版本,更推出開放訓練 (Open Training)服務Nova Forge,以及專為構建可靠網頁瀏覽代理人設計的Nova Act服務。
Mashdigi ・ 8 小時前 ・ 發起對話焦點股》世芯:下一代AWS晶片出現敵手?跳水重挫
AWS(Amazon Web Services,亞馬遜雲端服務公司)正式發表最新AI加速器Trainium3晶片,同時下一代Trainium4也亮相,Trainium 4將導入支援NVIDIA(輝達)NVLink Fusion高速互連技術,外資解讀Trainium 4將帶進多家IC設計服務商參與,市
自由時報 ・ 6 小時前 ・ 發起對話
傳限制光阻劑出口 日出招反制…陸晶片陷危機
中日關係因日本首相高市早苗11月初的「台灣有事論」持續緊繃,在中國禁止中國民眾到日本旅遊及水產品進口後,傳出日本也做出反制,限制晶圓製造所需的光阻劑(中國稱光刻膠)出口到中國,引發中國半導體生產危機。
工商時報 ・ 12 小時前 ・ 1
房市寒冬熱區突起!591 分享最新房市狀況:北士科議題夯 熱區聚焦地段與品牌
2025 房市持續受政策調控,591新建案統計,前三季六都加新竹推案年減約 20%,市場步入盤整量縮,區域分化 […]
電腦DIY ・ 8 小時前 ・ 發起對話
吳建豪暴瘦模樣曝光!模樣完全認不出來 F4演唱會合體倒數獨缺他不參加
F4合體登台倒數,成員吳建豪近期在社群曝光一張電梯自拍照,卻因「暴瘦」模樣引發粉絲熱烈討論。他身穿黑色背心準備出門遛狗,手臂線條依舊結實,但臉部明顯消瘦,讓大批歌迷驚訝留言:「不要再瘦了!」、「怎麼突然變老了?」更有人直呼一度認不出他來。
三立新聞網 setn.com ・ 3 小時前 ・ 10
濱崎步「無人演唱會」震撼全球 英、法媒報導:這件事鬧大了
中日關係因「台灣有事」持續緊繃,近來多位日本藝人在中國活動受影響、演出被取消。11月29日天后濱崎步的上海演唱會,在前一天臨時遭中國取消,不過濱崎步仍對著台下1萬4000個空座位,唱完整場並全程錄製。這起事件不只亞洲國家關注,法國、英國媒體也紛紛報導,直言「上海這件事鬧大了!」
三立新聞網 setn.com ・ 10 小時前 ・ 373
F4吳建豪暴瘦樣曝光 「臉頰凹陷、面容老化」他道出原因
F4成員今年7月擔任五月天大巨蛋演唱會嘉賓,正式宣告回歸歌壇,不僅會推出新專輯,巡迴演唱會將於年底從上海站開跑,成員之一的吳建豪,近來曬出在電梯的自拍照,不僅臉頰明顯凹陷,身形更是消瘦不已,讓外界擔憂健康是否亮起紅燈,對此,吳建豪發聲說出原因。
中時新聞網 ・ 3 小時前 ・ 17
于朦朧爆肛門殘液、閹割遭吃!傳被注射11種病毒藥物 生前暴瘦照曝
中國男星于朦朧9月離世,官方以蓋牌火速以墜樓結案,留下一團謎霧,傳出其肛門殘留多人體液,驗屍報告顯示全身多處創傷、全口無牙,真相讓人越看越不明,後續更流出于遭杜強掌摑,及生前疑遭割耳朵、上電子腳鐐疑雲。如今陸委會最新報告指出,「數位極權」施行後造成反彈,于朦朧的死亡版本反而越傳越多。而他生前暴瘦如柴疑似被虐照片也流出。甚至傳出他體內被注射11種藥物病毒。蔡維歆
三立新聞網 setn.com ・ 1 天前 ・ 432
金宇彬戰勝鼻咽癌迎娶申敏兒!她愛喝1茶41歲逆齡像21歲
韓國演藝圈模範情侶金宇彬與申敏兒,在愛情長跑11年後,今日(11/20)無預警宣布結婚喜訊!金宇彬透過親筆信甜喊:「我要和陪伴我很久的人組建家庭。」兩人挺過男方罹癌低潮,不離不棄的愛情感動無數粉絲。
健康2.0 ・ 8 小時前 ・ 3
中鋼撿便宜好時機?股價10年新低股東不減反增 他揭後勢:定存股心態要改了
上(11)月金融市場劇烈波動,台股2日以逾200點開高後一路走高,終場加權指數漲221.74點,收在27564.27點,漲幅0.81%,其中台積電(2330)、台達電(2308)等收紅,聯發科(2454)收黑。另一方面,中鋼(2002)近日一度跌到10年新低點,引發百萬股東擔憂。對此,臉書財經粉專「股人阿勳」今(3)日在臉書分析,這一波對很多「拿中鋼當定存股......
風傳媒 ・ 4 小時前 ・ 20
藍白合也難贏?郭正亮曝「這3縣市」危險了:民進太強
2026年縣市長選戰逼近,各陣營積極備戰,民進也陸續拍板地方縣市長提名人選;藍營與白營是否能整合合作,成為外界關注焦點。前民進立委郭正亮指出,國民在彰化、嘉義市及宜蘭面臨嚴峻挑戰,因為這些地區的綠營候選人實力堅強,即便藍白合作,也不見得能逆轉選情。
三立新聞網 setn.com ・ 1 天前 ・ 130
變天了!全台急凍3天「最冷時間出爐」 雨下最猛地區曝光
變天了!台北今(3)日一早就溼溼冷冷,許多通勤族都穿起了雨衣、撐起雨傘。對此,氣象粉專「進擊の天氣小編」指出,最冷時間落在週三晚上至週四清晨,可能會下雨的地區也曝光了,提醒民眾多加留意。
三立新聞網 setn.com ・ 8 小時前 ・ 5
獨家/「老娘不是吃素的」!濱崎步用空場之夜證明什麼是巨星
日本天后濱崎步上海演唱會被迫取消,上萬名觀眾被迫不能親自欣賞偶像演出。場館不能演出,這本是任何歌手都會離開的舞台,但濱崎步沒有。在空無一人的座位前,她依然握著麥克風,照著原版流程,用百分之百的力量開唱。就如《濱崎步的秘密》傳達的「我沒有力量,是你們讓我站在舞台上。」那一夜濱崎步不只是在表演,更是在證明-真正的巨星,沒有觀眾也會賣力唱完。
三立新聞網 setn.com ・ 2 小時前 ・ 33
清水地熱、太平山都輸了!宜蘭最夯景點狂吸134萬人,遊客讚:好拍又好玩
宜蘭擁有得天獨厚的自然環境與深厚的文化底蘊,從壯麗的山林景緻、綿延的海岸線,再到保存完整的傳統藝術,提供了豐富多元的旅遊體驗。根據交通部觀光署最新數據顯示,2025年1月至9月期間,宜蘭各大景點吸引了
食尚玩家 ・ 8 小時前 ・ 5