《iPhone News 愛瘋了》報導，大家有沒有想過，如果把好幾台超級電腦「合體」，會發生什麼驚天動地的事？就像《變形金剛》合體一樣酷！最近國外有位超狂的工程師兼 YouTuber Jeff Geerling，他做了一個大膽的實驗，把 4 部尚未上市的頂規 M3 Ultra Mac Studio 串連在一起，組成了一個擁有 1.5TB 超大記憶體的「AI 運算怪獸」。
這可不是在玩樂高積木，這是一個價值台幣 120 萬的瘋狂計畫，結果竟然發現，這樣的組合在跑 AI 模型時，效能竟然可以打趴許多專業的工作站！
今天就讓我們用最輕鬆的方式，來看看這個讓科技宅都跪著看的超狂實驗吧！
▋ 4 台 Mac Studio 合體！打造私人 AI 超級大腦
想像一下，你的電腦如果開太多網頁會不會卡卡的？那是因為記憶體不夠用。但 Jeff 這次借來的配備簡直是「外星科技」等級！他利用了 macOS 26.2 的新功能（雖然現在還沒這版本，但我們就當作是未來的秘密武器吧！）以及 Thunderbolt 5 的超高速傳輸技術，把四台電腦變成了「一家人」。
▋ 為什麼要這樣做？記憶體是關鍵！
在 AI 的世界裡，「統一記憶體」就像是 AI 的大腦容量。大腦越大，能思考的事情就越複雜。Jeff 這次的組合總共有 1.5TB 的記憶體，這大約是你家電腦（通常是 16GB 或 32GB）的 50 到 100 倍！
這讓他可以運行那個傳說中、參數多到數不清的 Kimi K2 Thinking 模型。這是一個非常巨大的 AI 模型，普通電腦光是打開它可能就會當機，但這個 Mac 叢集卻跑得嚇嚇叫！
▋ 實測數據：速度快到飛起？
為了讓大家更清楚這台「怪獸」有多強，我們整理了一個簡單的規格表，看看 Jeff 到底用了什麼神裝備：
| 硬體配置 | 詳細規格 | 數量 |
|---|---|---|
| 核心主機 (高配) | 32 核心 CPU / 512GB 記憶體 / 8TB 硬碟 | 2 台 |
| 核心主機 (標配) | 256GB 記憶體 / 4TB 硬碟 | 2 台 |
| 總記憶體 | 1.5TB (統一記憶體) | |
| AI 運算速度 | 28.3 tokens/s (Kimi K2 模型) | |
| 總成本 | 約 $40,000 美元 (約台幣 128 萬元) | |
測試結果顯示，這四個節點合作無間，跑出了 28.3 tokens/s 的速度。這代表 AI 每秒可以產生約 28 個字詞的內容，對於這種超大規模的模型來說，這速度已經非常實用了，完全證明了用 Mac 來做 AI 研究是可行的！
▋ 優點與缺點：雖然很強，但也有「痛點」
就像所有的超級英雄都有弱點一樣，這個方案也不是完美的。Jeff Geerling 也很誠實地分享了他的使用心得：
▋ 優點：比買企業級伺服器便宜
雖然 4 萬美金聽起來很貴（可以買一台好車了！），但如果你去買那些專門給大公司用的 Nvidia H100 叢集，那個價格可是這台的好幾倍！所以對於一些小型研究機構來說，這根本是 高 CP 值 的選擇。
▋ 缺點：擴充不容易、軟體還在跟上
目前 Thunderbolt 5 雖然快，但它只能像「接龍」一樣一台接一台（菊花鏈連接），沒有專用的交換機可以把它們全部連在一起，這限制了未來想要加更多台電腦的可能性。而且，軟體部分偶爾還是會出現報錯，畢竟這是很新的嘗試嘛！
▋ 未來展望：M5 Ultra 晶片值得期待
雖然現在還有點小問題，但未來是光明的！隨著蘋果未來可能推出更強的 M5 Ultra 晶片 和更厲害的神經加速器，再加上軟體功能的開放（像是 SMB Direct），這種「Mac 叢集」很有可能會成為許多 AI 研究團隊的新寵兒。
《iPhone News 愛瘋了》表示，看到這裡，你是不是也覺得科技進步的速度快得嚇人呢？雖然我們一般人可能買不起 120 萬的電腦組合，但這種技術的突破，最後都會慢慢下放到我們的手機和筆電上。
如果有一天，你的手機也能擁有現在超級電腦的運算能力，你最想拿它來做什麼事情呢？是打造一個專屬的 AI 管家，還是創造一個虛擬世界？歡迎在心裡跟我們一起想像未來的無限可能！
● Apple 相關內容：Mac Studio AI 運算效能、M3 Ultra 統一記憶體 規格、自建 LLM 運算叢集 成本、Thunderbolt 5 傳輸速度 測試、Kimi K2 模型 Mac 跑分
發表留言