可少買82%輝達H20晶片！阿里雲提方案解決GPU浪費
AI模型發展過程不光仰賴算力增長，算力浪費問題也日益突出。大陸科技巨頭阿里巴巴旗下阿里雲提出計算池化解決方案「Aegaeon」，成功入選頂級學術會議SOSP 2025。該方案可解決AI模型服務中普遍存在的GPU資源浪費問題，大幅提升GPU資源利用率，目前其核心技術已應用在阿里雲百鍊平台。換算下來，可幫助廠商少採購82%的輝達H20晶片。
SOSP（操作系統原理研討會）由ACM SIGOPS主辦，被譽為計算機操作系統界的「奧斯卡」，為計算機系統領域頂級學術會議，平均每年收錄的論文數量僅有數十篇，本屆SOSP大會上，系統軟體與AI大模型技術的融合成為新的趨勢。
科創板日報報導，數據顯示，在阿里雲模型市場為期逾三個月的Beta測試中，Aegaeon系統在服務數十個參數量高達720億的大模型時，所需的輝達H20 GPU數量從1,192個減至213個，削減比例高達82%。GPU用量削減82%代表企業硬體採購成本將顯著降低，這對於動輒須使用成千上萬顆GPU的大型模型服務商而言至關重要。
少數熱門模型（如阿里的Qwen）承載了絕大多數用戶請求，而大量不常被調用的「長尾」模型卻各自獨佔著GPU資源。數據顯示，在阿里雲模型市場中，曾有17.7%的GPU算力僅用於處理1.35%的請求，資源閒置嚴重。而Aegaeon系統通過GPU資源池化，打破了「一個模型綁定一個GPU」的低效模式。
報導稱，未來AI的發展將不僅依賴於硬體算力的單純增長，更需要通過系統級的軟體創新來深度挖掘現有硬體的潛力。
百度智能雲AI計算部負責人王雁鵬在去年9月曾表示，2024年大模型市場發展迅速，很多企業加大了在大模型領域的投入，在大模型訓練時遇到了一個共性問題，那就是算力利用率很低。他說，有50%算力被浪費的說法一點都不誇張，如何提升算力的有效利用率，正在成為業界共同的努力方向。
更多udn報導
台男新加坡遭竊7萬！飯店「要他翻垃圾桶」 警竟搜出1物
失蹤逾2年…陸前外長秦剛疑現身！北京活動亮相｢微發福｣
54歲存款百萬簡單生活 她遇1事驚覺：什麼都沒有最可怕
改走夢幻風？火辣女星穿｢蕾絲透視禮服｣翻車 網：糟透了
其他人也在看
庫克：蘋果 AI 加速引進大陸 外界預期還在等監管部門批准
蘋果CEO庫克昨（18）日在上海舉辦的全球財富管理論壇上明確表示，蘋果AI（Apple Intelligence）正在努...
聯合新聞網 ・ 1 天前卡達會談後 巴基斯坦阿富汗同意立即停火繼續會商
（中央社阿富汗史賓波達克20日綜合外電報導）卡達今天宣布，巴基斯坦和阿富汗在卡達首都杜哈會談後同意「立即停火」。在此之前，巴基斯坦空襲又造成至少10名阿富汗人喪生，破壞之前達成的停火協議。
中央社 ・ 7 小時前川普說好的黃金年代呢？近半美國人憂找不到好工作
美聯社與NORC公共事務研究中心的最新調查顯示，民眾來愈來愈擔心在川普總統執政下無法找到足以養家糊口、支付帳單的「好工作...
世界日報World Journal ・ 38 分鐘前美戰爭部長：空襲加勒比海運毒船擊斃3人
就在美國指控哥倫比亞對掃毒毫無作為後，美國戰爭部長（國防部長）赫格塞斯（Pete Hegseth）19日宣布，17日對1艘被情報機構認為涉及加勒比海非法毒品走私的船隻發動空襲。赫格塞斯在X平台上發文表示，該船隻與1個哥倫比亞恐怖組織有關，船上載有「大量毒品」，船上的3名男子全數喪生，美軍則毫髮無傷。
自由時報 ・ 2 小時前聯合國：20名葉門員工遭青年運動挾持
（中央社沙那19日綜合外電報導）聯合國駐葉門辦公室今天表示，葉門什葉派激進團體青年運動昨天突襲沙那的聯合國辦公大樓後，目前仍挾持20名聯合國員工。
中央社 ・ 2 小時前
翻山越嶺入偏鄉 烏干達護理師奉獻自我
關懷弱勢，用行動展現。在非洲撒哈拉以南地區，老年人口快速成長，但伴隨而來的，卻是醫療與社會資源的極度匱乏。在烏干達，一位護理師卡特韋西吉揹起行囊、跋山涉水，只為將醫療帶到最需要的長者身邊。對她來說...
大愛電視 ・ 2 小時前
川普再提台灣「晶片正自台灣回流美國生產」 估關稅為美經濟注入20兆
美國總統川普（Donald Trump）上任後，對各國推行關稅政策，主張「美國優先」，對中國、歐盟等多國加徵關稅，企圖縮減貿易逆差、保護美國製造業。近日他接受專訪提到台灣，表示向藥品和晶片廠除非在美國設廠否則將被徵收高額關稅，企業因此由台灣和全世界回到美國生產。
三立新聞網 setn.com ・ 2 小時前
輝達態度鬆動 傳探勘北市祕密備案
中央和地方總動員留住輝達。北士科T17、T18雖協調中但仍陷僵局，據悉，輝達態度鬆動，傳近日已探勘北市其他備案祕密基地，既非T12基地、也非松南營區，新備案基地為「市有地」，佔地逾4公頃，一旦輝達敲定才會浮上檯面。
工商時報 ・ 4 小時前防對等關稅敗訴 川普提前鬆綁
美國最高法院於11月初將就「對等關稅」舉行聽證會，最近幾周，美國總統川普已將數十種產品從對等關稅中豁免，另外，在美國和他國達成的貿易協議中，也豁免了數百種產品的關稅，範圍從農產品到飛機零件等。《華爾街日報》指，此舉旨在對沖最高法院可能否決「對等關稅」所帶來的法律風險，因為一旦最高法院判決政府敗訴，白宮可能被迫退還大量已徵收的關稅。
中時新聞網 ・ 4 小時前
高教酷斯拉1／苦熬七年官司慘遭駁回 清大併竹教大爆黑箱芭樂票
近期一樁最高行政法院的裁定引起高教圈熱議，原來是一名來自竹教大應用科學系的H教授（化名），她在清大併竹教時填寫了意向志願書，唯一志願便是「清華大學生命科學院分子醫學研究所」，併校後卻被排在「清華大學師資培育中心」，不只專業領域有志難伸，也因為系所發展與專業...
CTWANT ・ 2 小時前別急著領獎！「假財政部」中獎信藏陷阱 連輸錯密碼都能成功登入
近期網路傳出一種冒用「財政部電子發票整合服務平台」的新型詐騙手法，信件以「雲端發票中獎通知」為名，誘導收件人點擊連結、輸入個資甚至信用卡資料，若一不留神，恐讓卡號、密碼全數外洩。
聯合新聞網 ・ 10 小時前川普鬆手 關稅豁免大放水
美國總統川普近幾周已豁免數十項產品的對等關稅，並宣布其他國家若與美國達成貿易協議，可再享有農產品與飛機零件等數百項商品免關稅待遇。顯示川普政府悄悄調整貿易政策，為最高法院關稅官司可能敗訴預作準備。
工商時報 ・ 4 小時前輝達光通訊邁大步！獲甲骨文、Meta等導入 聯鈞、波若威等協力廠吃補
輝達在官網宣布，旗下首款以共同封裝光學（CPO）技術打造的矽光子網路交換器Spectrum-X獲甲骨文、Meta等兩大巨...
聯合新聞網 ・ 2 小時前
影／王世堅「沒出息」聽過沒？匆匆忙忙連滾帶爬…謝金河：聽完整首才知真意「道盡中國年輕人心聲」
王世堅神曲穿透力非同小可！中國網紅創作人王博將王世堅在2017年世大運質詢柯文哲的質詢帶入他的歌曲中，讓這首歌紅遍全世界，現在我已經聽過韓語，日語及英文發聲的曲子，甚至古典管弦樂團也在演奏這首歌，王世堅爆紅的程度更不在話下。
今周刊 ・ 18 小時前
台積電開始量產輝達 Blackwell 晶片 美國AZ廠內部首曝光
財經中心／陳妍霖 莊柏驊 台北報導台積電宣布，輝達的''Blackwell'' AI晶片在美國AZ廠開始量產，現在美國廠內部的畫面，也在脆上瘋傳，被網友大讚說，「可以窺見美國台積電的內部，還有台灣半導體實力的強大」，還說，簡直就像科幻電影。台積電官方發布的美國亞利桑那州廠，廠內畫面首度曝光，台積電美國AZ廠技術員指出，「它們上下左右飛快移動，到工具那裡，然後把它放下，我每天都用它們運送數千片晶圓，到任何地方。」台積電開始量產輝達''Blackwell'' 晶片 美國AZ廠內部首曝光（圖／翻攝自''TSMC'' YouTube）「它只是上下加速，左右竄動，到處去，到工具那裡，放下它，我每天都用它們運送數千片晶圓，到任何地方！」運送晶圓盒的''天車''，在銀色軌道上，自動化高速穿梭，展現驚人效率，有夠震撼，最先進的晶片如何製造？製程也公開。有如科幻片，充滿魔法，有夠壯觀，還大秀''極紫外光''先進技術，影片這兩天在Threads上瘋傳，[[tga]]被網友大讚，「可以窺見美國台積電的內部，還有台灣半導體實力的強大」，但，這也讓各界擔心，美國廠已經在量產輝達AI晶片，最先進製程還會在台灣嗎？台積電開始量產輝達''Blackwell'' 晶片 美國AZ廠內部首曝光（圖／翻攝自''TSMC'' YouTube）雲報政經產業研究院副社長柴煥欣分析指出，「目前亞利桑那州的一廠就是4奈米，二廠的話將會是3奈米，三廠跟四廠則會在2奈米甚至是1.6奈米製程的這樣子一個部分，但是目前的整個的一個建廠進度，也只不過是一廠完工而且進入量產，二廠其實還在興建當中，三廠、四廠的話應該要等到2028到2030年左右，大概才會看到完工，整個的一個建廠進度的話，再搭配到台積電的一個技術藍圖，台積電的大概在1.6奈米的話，應該會在明年開始導入量產，然後2028年的話才會是1.4奈米製程進入量產的一個狀況，但是那個時候的話，其實亞利桑那州的三廠、四廠應該都還沒有正式落成的一個狀況，所以說台積電依然還是可以維持一個N-1的一個世代，落在美國的部分，而台灣還是擁有所謂先進製程的優勢。」柴煥欣進一步分析說，「再次一個世代的話，也就是應該會是1奈米製程的話，台積電規劃應該可能會在2030年才會導入量產，但是那個時候五廠跟六廠應該還沒有正式開始進入建廠的階段，所以說最起碼在1奈米製程的這樣子的一個製程規劃上面的話，台灣還是可以擁有N-1世代的一個製程領先的優勢。」畢竟最大產能在台灣，台灣產線最賺錢，就算川普再怎麼強調''美國製造''，但對台積電來說，最先進製程，還是台灣最有優勢。原文出處：台積電開始量產輝達 Blackwell 晶片 美國AZ廠內部首曝光 更多民視新聞報導台股創新板制度放寬 亞洲創新籌資平台21日啟動子瑜不再怕黃安舉報！出道10年霸氣喊：我來自台灣00940股價慘！專家曝到1時機才會漲：連10元都難
民視財經網影音 ・ 11 小時前
「雙普會」選定布達佩斯！記者提問遭白宮「戰狼小姐姐」怒嗆：你媽選的
美國總統川普16日宣布將與俄羅斯總統普亭會晤，地點選在匈牙利首都布達佩斯，雙方將就俄烏戰爭相關議題進行討論，後續《哈芬登郵報》詢問白宮特別選在布達佩斯會晤有何意義，沒想到人稱「白宮小辣椒」的新聞秘書李威特（Karoline Leavitt）卻回嗆「你媽選的」
三立新聞網 setn.com ・ 4 小時前