何夕2077AI硬體

ANE探索蘋果本機訓練

2026年7月31日 00:00

重點摘要

ANE探索蘋果本機訓練。 項目借私有接口訓練神經引擎。端側模型開發多出一條新路。蘋果神經引擎項目累計7.1k。當天新增⚙️22星關注。逆向接口仍存在兼容性風險。

站內 AI 整理稿

蘋果在端側AI的發展近期出現一條值得關注的新路徑:有開源專案設法繞過常規API限制,直接透過私有接口驅動蘋果神經引擎(ANE)進行本機端模型訓練。這個做法讓開發者不再完全依賴雲端算力,也能在裝置上完成部分訓練流程,對於重視隱私的應用場景,或是身處離線環境的使用者來說,等於打開了另一扇門。 過去蘋果的Core ML框架主要負責推論任務,也就是讓已經訓練好的模型在裝置上快速運作。至於訓練這個環節,官方支援並不完整,開發者如果想讓模型學習新資料,多半還是得把資料送到雲端伺服器處理。這條新路線的核心突破在於,它把神經引擎的運算能力從推論延伸到訓練,讓端側AI的界線再往前推了一步。 神經引擎是蘋果自A11 Bionic晶片開始搭載的專用運算單元,專門用來處理機器學習相關任務。它的效能相當可觀,但蘋果對其使用方式設有嚴格限制,開發者只能透過Metal或Core ML等官方框架呼叫。這個專案的運作方式,是直接與神經引擎進行底層溝通,等於繞過蘋果設下的控制層,把硬體的潛力釋放出來。 這個專案在開發者社群已經累積了7.1k star,上線當天就新增22個關注。從數字來看,熱度的成長不算爆炸性,但值得注意的是,追蹤這個專案的人多半是對端側AI、底層硬體架構有深入理解的核心技術族群。對這群人來說,能在蘋果裝置上跑起本機訓練,本身就是一件具有象徵意義的事。 從技術角度來看,這個專案的吸引力在於它打破了過去的既定框架。蘋果的神經引擎效能雖然強悍,但一直以來都被官方限制在特定用途,開發者面對龐大的運算需求只能轉向雲端。現在這條路打通之後,開發者可以在iPhone、iPad或Mac上直接進行模型微調、資料分割等訓練任務,大幅降低對外部伺服器的依賴。 這對某些特定領域的應用特別具有吸引力。像是醫療、金融、企業內部工具等對資料隱私極為敏感的場景,過去必須在雲端算力與資料安全之間做出取捨。有了本機訓練這條路,敏感資料可以在裝置端完成處理,不用離開使用者的掌控範圍。離線環境下的模型更新也變得更加可行,例如偏遠地區的設備,不必等網路連上才能更新模型。 不過,採用這條路線也存在顯而易見的風險。私有接口意味著蘋果隨時可能在新版本系統中調整或封堵,相容性並不穩定。現在能夠順暢運作的程式碼,下一次iOS或macOS更新後可能就無法使用,而且蘋果在文件更新或API改版時,通常不會考慮到這些非官方呼叫的相容需求。對於把這個方案整合進產品線的開發者來說,這是一個必須隨時警惕的不確定因素。 因此,長期依賴這個方向的團隊,需要預先規劃替代策略。最直接的備援方案是退回到CPU與GPU的混合訓練模式,雖然速度可能比不上神經引擎,但至少在官方支援的範圍內,不會因為系統更新而突然失效。另一個方向是設計程式上的降級機制,讓系統偵測到神經引擎無法使用時,自動切換到其他運算資源,避免升級後整個訓練流程直接中斷。 整體來看,ANE本機訓練目前仍處於探索階段,距離成為穩定、可靠的開發選項還有相當長的路要走。但它的出現確實為端側模型訓練開闢了一條新的思考方向,也讓外界重新審視神經引擎的邊界究竟在哪裡。開發者社群對這個專案的高度關注,某種程度上也反映出市場對端側AI能力的期待,已經超出蘋果官方目前提供的框架。 對蘋果而言,這個趨勢或許也傳遞了一個訊號:開發者對本機端訓練的需求是真實存在的。如果未來蘋果願意在官方層面開放更完整的訓練接口,例如擴充Core ML的能力,或提供正式的ANE訓練API,那麼這些先行探索的專案價值,很可能會被進一步放大,甚至催生出新一代的端側AI應用生態。 在那之前,面對這樣一條充滿潛力但根基未穩的技術路徑,開發者只能謹慎評估風險與收益。對於勇於嘗試的團隊來說,這是一個能搶先掌握底層硬體開發經驗的機會;對於追求穩定營運的企業而言,可能還是會選擇觀望,等待蘋果官方表態再做決定。無論最終走向如何,這個專案的出現,已經在蘋果本機AI發展史上寫下一個值得記錄的節點。

Related

相關文章

IT之家AI硬體

訊飛 AI 眼鏡圖賞:輕盈舒適,凝練商務風

首頁 > 智能時代>智能穿戴 訊飛 AI 眼鏡圖賞:輕盈舒適,凝練商務風 2026/8/3 17:01:29 來源:IT之家 作者:汐元 責編:汐元 評論: 今年 5 月,科大訊飛在澳門 BEYOND Expo 2026 上正式發佈了訊飛 AI 眼鏡。這也是科大訊飛的首款 AI 眼鏡,定位為眼前的超級 AI 助理。我們知道科大訊飛在以翻譯為核心的教育、辦公領域一直是強項,這次 AI 眼鏡也是著重主打這個場景。

10 小時前

“榨”出硅的極限:怎麼讓GPU不“閒著”?

GPU運算能力雖持續提升,但常因記憶體頻寬、資料傳輸延遲及模型設計限制導致運算單元閒置。軟體端透過改良模型平行化與動態排程,硬體端則依賴更高頻寬記憶體與異質卸載,共同目標是從系統整合層面榨出更多有效算力,避免晶片浪費。

1 天前
Hugging Face BlogAI硬體

GPU管理:為何閒置GPU如同停飛的飛機

回到文章 GPU管理:為何閒置GPU如同停飛的飛機 團隊文章 發表於2026年7月30日 讚 - Erick Lachmann ErickvL 追蹤 Dharma-AI Gabriel Pimenta de Freitas Cardoso GabrielPimenta99 追蹤 Dharma-AI Gustavo Lucchetti gustavolucchetti 追蹤 Dharma-AI 利用率,而非智慧,才是AI下一個真正的限制。航空業曾付出慘痛代價才學到這點。

4 天前
IT之家AI硬體

擴大 XPU 互連域:消息稱 FuriosaAI 探索 16 卡服務器託盤設計

韓國 AI 晶片新創 FuriosaAI 正朝向擴大 XPU 互連域的目標邁進,近期傳出正在探索可容納 16 張加速卡的伺服器托盤設計。根據曝光的資料,這款伺服器採用雙層主板的「三明治」結構,每層主板各自配置 8 條 PCIe 插槽,總計可插入 16 張卡,且兩塊主板共享同一組散熱器。

5 天前

一句話讓 AI 造出快 6.3 倍的推理引擎,賈揚清離職英偉達官宣二度創業:AI Infra 正從“管算力”走向“造系統”

AI 領域迎來重磅消息:賈揚清正式從英偉達離職,並官宣二度創業。最引人注目的是,他僅憑一句提示,便讓 AI 自主設計出推理速度提升 6.3 倍的引擎,這項成果直指當前 AI 基礎設施(Infra)的轉型核心。業界普遍認為,這不僅是技術突破,更標誌著 AI Infra 的底層命題已發生根本轉變。

5 天前