PS5LM Plus dashboard running Qwen 3.8 27B on a PS5 and showing about 20 tokens per second; developer-provided project screenshot.

越獄 PS5 的自製專案 PS5LM Plus,現已能在主機 GPU 上執行 llama.cpp,讓遊戲主機變成本地語言模型推理裝置。這不是 Sony 官方功能:使用者需要越獄環境及相應 homebrew 元件,並自行承擔系統安全、穩定性與保養風險。

PS5LM Plus dashboard 截圖(PS5 運行 Qwen 3.8 27B,約 20 tokens/s)
PS5LM Plus dashboard(PS5 運行 Qwen 3.8 27B,約 20 tokens/s;開發者項目截圖,非獨立測試)

專案頁列出的測試顯示,Qwen3.8-27B 依量化版本及上下文設定,生成速度約為每秒 20.3 至 20.7 tokens;Gemma 4 E4B 約 61 tokens/s;Llama 3.2 3B 約 124 tokens/s。換言之,標題常見的「124 tokens/s」是較細的 3B 模型成績,不能當作 27B 模型的速度。

這項變動的關鍵,是程式以原生應用形式使用主機 GPU 和較大的記憶體池,而不是只在受限的背景 payload 中執行。專案亦提供同區域網路內的網頁介面及相容 API,理論上可由手機或電腦連線使用;實際體驗仍會受模型量化、上下文長度、儲存裝置及主機環境影響。以上數字均為開發者在專案頁公佈,並非獨立實驗室測試。

對玩家而言,這展示了家用主機可否胜任本地 AI 裝置;但它與一般安裝 PC 軟件不同,必須使用越獄主機及額外載入的 homebrew 元件,並非適合一般用家直接照做的官方方案。亦不應將單一專案的跑分理解成 PS5 能取代專用 AI 工作站。

參考資料

封面截圖:PS5LM Plus 專案畫面,來源:PS5LM Plus GitHub;畫面數據由開發者提供,並非獨立測試。

作者: hkaiweb

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

Social Media Auto Publish Powered By : XYZScripts.com