文件

LM Studio 入門指南

您可以在 LM Studio 本地端使用公開可用的大型語言模型 (LLM),例如 Llama 3.1、Phi-3 和 Gemma 2,並利用您電腦的 CPU,以及可選的 GPU。

請再次確認電腦符合最低系統需求


資訊

您有時可能會看到諸如 open-source modelsopen-weights models 之類的術語。不同的模型可能會在不同的許可證和不同程度的「開放性」下發布。為了在本地端運行模型,您需要能夠存取模型的「權重」,這些權重通常以一個或多個以 .gguf.safetensors 等結尾的檔案形式發布。


開始使用

首先,安裝最新版本的 LM Studio。您可以從這裡取得。

完成設定後,您需要下載您的第一個 LLM

1. 下載 LLM 到您的電腦

前往「探索」標籤頁下載模型。選擇推薦選項之一,或透過搜尋查詢搜尋模型 (例如 "Llama")。如需更多關於下載模型的深入資訊,請參閱這裡

undefined

LM Studio 中的「探索」標籤頁

2. 將模型載入記憶體

前往 「聊天」 標籤頁,然後

  • 開啟模型載入器
  • 選擇您下載的模型之一 (或側載的模型)。
  • 選擇性地,選擇載入設定參數。
undefined

在 macOS 上使用 cmd + L 或在 Windows/Linux 上使用 ctrl + L 快速開啟模型載入器

載入模型是什麼意思?

載入模型通常意味著分配記憶體,以便能夠將模型的權重和其他參數容納在您電腦的 RAM 中。

3. 開始聊天!

模型載入完成後,您可以在「聊天」標籤頁中開始與模型進行來回對話。

undefined

macOS 上的 LM Studio


社群

LM Studio Discord 伺服器上與其他 LM Studio 使用者聊天,討論 LLM、硬體和更多內容。