8位AI Infra高管覆盤WAIC：當堆砌「暴力美學」觸頂，AI Infra如何求變？

在2024年世界人工智能大會（WAIC）上，來自AI基礎設施領域的八位高層主管罕見地齊聚一堂，對當前產業發展模式進行了深度反思。過去數年，AI基礎設施的成長幾乎完全仰賴一種被稱為「暴力美學」的算力堆疊策略——透過不斷擴充GPU叢集規模、拉高整體算力來推動模型性能的躍進。然而，與會者普遍指出，這種粗放式擴張的邊際效益正在快速遞減，單純堆疊硬體已無法再有效支撐AI效能的持續突破，產業必須從根本尋找新的變革路徑。 所謂「暴力美學」，在AI基礎設施領域指的是以最大化算力規模為核心的發展邏輯。過去幾年間，各大科技公司與雲端服務商無不競相採購最新型GPU，建置動輒數萬張甚至十萬張加速卡的大型叢集，試圖用硬體軍備競賽來拉開競爭差距。然而，隨著運算資源的持續擴張，算力成長所帶來的模型進步幅度已明顯趨緩。與會高管認為，這背後反映的是單純規模擴張的物理與經濟極限，包括電力消耗、散熱成本、通訊延遲以及系統複雜度等問題，都讓「堆越多、跑越快」的公式逐漸失靈。 面對這一瓶頸，與會者強調，下一代AI基礎設施的關鍵不再是比拼算力規模，而是轉向系統效率、軟硬體協同優化以及新型架構的探索。例如，如何透過更聰明的排程演算法，讓現有運算資源的利用率達到極致；如何整合異構計算單元，將CPU、GPU、NPU甚至FPGA等不同加速器進行協同調度，以針對不同運算任務提供最適配的算力；以及如何針對特定模型架構設計專用加速器，從而提升每瓦效能的實際產出。這些「軟性」創新，正逐漸取代單純的硬體軍備競賽，成為業界關注的新焦點。 在跨越多卡、多節點的分散式訓練框架方面，與會高管也指出，現有框架需要更精細的調校，以減少通訊瓶頸與資源浪費。當模型規模達到數千億甚至兆級參數時，節點之間的通訊延遲與頻寬限制往往成為訓練效率的瓶頸。透過更有效的梯度壓縮、異步更新策略以及拓撲優化，可以顯著降低通訊開銷，讓硬體資源的潛力真正釋放。這些技術細節雖然不如採購新硬體來得直觀，卻往往是決定實際訓練速度與成本的關鍵因子。 除了技術層面的反思，WAIC現場的討論也高度聚焦於生態協作的重要性。過去，單一廠商主導的封閉式解決方案長期佔據市場主導地位，客戶往往被綁定在特定硬體與軟體生態中，缺乏靈活性。然而，與會高管觀察到，這種封閉模式正在鬆動，取而代之的是開放標準、互通性與模組化設計的崛起。透過產業聯盟與開源社群的合作，AI基礎設施業者希望建立更靈活的技術棧，讓不同層級的硬體與軟體能無縫銜接，從而降低整體擁有成本，並加速新應用的部署。 與會者舉例指出，開放標準如PCIe、CXL、UCIe等互連技術的演進，正逐步打破不同廠商硬體之間的壁壘；而開源框架如PyTorch、TensorFlow以及統一的編譯器中間表示層，也讓模型開發者能夠更自由地選擇底層硬體。這種生態協作不僅能降低客戶的供應鏈風險，也推動了更多創新業者進入市場，形成良性競爭。業界普遍認為，未來AI基礎設施的競爭，將不再是單一廠商的硬體對決，而是整個生態系統的協作效率與開放程度之爭。 在這股求變的浪潮中，與會高管也提醒，轉型並非一蹴可幾。從粗放式算力堆疊轉向精細化效率優化，需要研發團隊在系統架構、演算法、工程調校等多個面向投入大量資源。同時，開放生態的建立也需要時間來磨合標準與介面，短期內可能仍會出現碎片化問題。但長期來看，唯有擁抱變革的廠商，才能在AI基礎設施的下一個十年中站穩腳步。 WAIC的這場高層對話，無疑為AI基礎設施產業的未來發展揭開了全新篇章。當「暴力美學」的邊際效益觸頂，業界不再迷戀單純的算力規模，轉而追求系統效率與生態協作，這正是產業邁向成熟的重要標誌。從硬體軍備競賽到軟硬體協同優化，從封閉體系到開放標準，AI基礎設施的求變之路，將深刻影響整個人工智慧領域的發展節奏與應用落地。