工具

48GB Mac 也能跑大型模型:slotstream 把 SSD 當成 VRAM

本文介紹 slotstream 工具如何在 48GB 記憶體的 Mac 上,利用 SSD 空間擴充可用 VRAM,跑動大型語言模型。

字級

DRAFT — 詳見 issues_found

來源: https://github.com/carloslfu/slotstream