在自己的電腦上運行 AI：ChatGPT 的免費、私密替代方案

你知道嗎？你可以在自己的電腦上運行一個強大的 AI 聊天機器人——免費且完全私密？以下是初學者需要知道的。

基礎知識： 大多數流行的 AI 工具（如 ChatGPT）會將你輸入的所有內容發送到公司的伺服器，通常每月費用約為 20 美元。但還有另一種選擇，稱為 “開放權重”模型——這是一種 AI 程式，公司會發布 AI 學習的所有文件，任何人都可以免費下載並運行。

有兩個免費程式可以實現這一點：

• LM Studio – 初學者友好，具有簡單的點擊設計，可以完全離線運行。
• Ollama – 針對喜歡輸入命令的技術用戶。

為什麼你會想這樣做？

• 隱私： 你的對話保留在你的電腦上。（最近法院命令一家 AI 公司保留用戶的聊天記錄——即使是已刪除的。）
• 成本： 無需每月訂閱。
• 自訂： 你可以調整 AI 以專注於特定任務，如醫學。

你需要什麼硬體？ AI 模型以 參數 衡量（AI 在訓練過程中學習的內部數字——更多參數通常意味著更聰明但更大的模型）。要運行它們，模型必須適合你的電腦的 VRAM（顯示卡上的記憶體）或 Mac 的 統一記憶體（系統共用的記憶體）。

需要知道的關鍵數字：

• 8GB 的 VRAM – 小型模型的最低要求。
• 16GB+ 的 RAM – 建議用於 LM Studio。
• 24GB VRAM 或更多 – 理想的嚴肅用戶。
• 小型 AI 下載範圍約為 4.6GB 到 20GB。

注意： 免費開放模型仍然略遜於最好的付費模型。根據研究公司 Epoch AI，它們平均落後於頂級“封閉”（私有、付費）模型約 四個月。最大的開放模型對普通家用電腦來說太大。

底線： 對於任何想要免費、私密 AI 助手並且已經擁有一台不錯的電腦的人來說，運行本地模型比聽起來更簡單——而且是真正的付費訂閱替代方案。

這是一個 AI 生成的摘要。閱讀原始文章：https://decrypt.co/382295/how-to-run-ai-model-locally-why-you-might-want