文件
LM Studio 入門指南
您可以在 LM Studio 本地端使用公開可用的大型語言模型 (LLM),例如 Llama 3.1、Phi-3 和 Gemma 2,並利用您電腦的 CPU,以及可選的 GPU。
請再次確認電腦符合最低系統需求。
您有時可能會看到諸如 open-source models
或 open-weights models
之類的術語。不同的模型可能會在不同的許可證和不同程度的「開放性」下發布。為了在本地端運行模型,您需要能夠存取模型的「權重」,這些權重通常以一個或多個以 .gguf
、.safetensors
等結尾的檔案形式發布。
首先,安裝最新版本的 LM Studio。您可以從這裡取得。
完成設定後,您需要下載您的第一個 LLM。
前往「探索」標籤頁下載模型。選擇推薦選項之一,或透過搜尋查詢搜尋模型 (例如 "Llama"
)。如需更多關於下載模型的深入資訊,請參閱這裡。
LM Studio 中的「探索」標籤頁
前往 「聊天」 標籤頁,然後
在 macOS 上使用 cmd
+ L
或在 Windows/Linux 上使用 ctrl
+ L
快速開啟模型載入器
載入模型通常意味著分配記憶體,以便能夠將模型的權重和其他參數容納在您電腦的 RAM 中。
模型載入完成後,您可以在「聊天」標籤頁中開始與模型進行來回對話。
macOS 上的 LM Studio
在 LM Studio Discord 伺服器上與其他 LM Studio 使用者聊天,討論 LLM、硬體和更多內容。