รัน AI บนคอมพิวเตอร์ของคุณเอง: ทางเลือกฟรีและเป็นส่วนตัวแทน ChatGPT

คุณรู้หรือไม่ว่าคุณสามารถรันแชทบอท AI ที่ทรงพลังบนคอมพิวเตอร์ของคุณเอง—ฟรีและเป็นส่วนตัวอย่างสมบูรณ์? นี่คือสิ่งที่ผู้เริ่มต้นต้องรู้

พื้นฐาน: เครื่องมือ AI ยอดนิยมส่วนใหญ่ (เช่น ChatGPT) จะส่งทุกอย่างที่คุณพิมพ์ไปยังเซิร์ฟเวอร์ของบริษัท และมักจะมีค่าใช้จ่ายประมาณ 20 ดอลลาร์ต่อเดือน แต่มีอีกทางเลือกหนึ่งที่เรียกว่า "โมเดลน้ำหนักเปิด"—โปรแกรม AI ที่บริษัทเผยแพร่ไฟล์ทั้งหมดที่ AI เรียนรู้มา เพื่อให้ใครก็สามารถดาวน์โหลดและรันได้ฟรี

สองโปรแกรมฟรีทำให้สิ่งนี้เป็นไปได้:

• LM Studio – เหมาะสำหรับผู้เริ่มต้น ด้วยการออกแบบที่ง่ายต่อการคลิกและทำงานได้แบบออฟไลน์
• Ollama – มุ่งเน้นไปที่ผู้ใช้ที่มีความเชี่ยวชาญที่ชอบพิมพ์คำสั่ง

ทำไมคุณถึงต้องการทำเช่นนี้?

• ความเป็นส่วนตัว: การสนทนาของคุณจะอยู่บนคอมพิวเตอร์ของคุณ (ศาลเพิ่งสั่งให้บริษัท AI หนึ่งเก็บบันทึกการสนทนาของผู้ใช้—แม้กระทั่งที่ถูกลบ)
• ค่าใช้จ่าย: ไม่มีค่าบริการรายเดือน
• การปรับแต่ง: คุณสามารถปรับ AI ให้เน้นที่งานเฉพาะ เช่น การแพทย์

ฮาร์ดแวร์ที่คุณต้องการคืออะไร? โมเดล AI วัดจาก พารามิเตอร์ (ตัวเลขภายในที่ AI เรียนรู้ระหว่างการฝึก—พารามิเตอร์มากขึ้นมักหมายถึงโมเดลที่ฉลาดกว่าแต่ใหญ่กว่า) ในการรันโมเดลจะต้องพอดีกับ VRAM ของคอมพิวเตอร์ของคุณ (หน่วยความจำบนการ์ดกราฟิก) หรือ หน่วยความจำรวม ของ Mac (หน่วยความจำที่ใช้ร่วมกันโดยทั้งระบบ)

ตัวเลขสำคัญที่ต้องรู้:

• 8GB ของ VRAM – ขั้นต่ำสำหรับโมเดลขนาดเล็ก
• 16GB+ ของ RAM – แนะนำสำหรับ LM Studio
• 24GB VRAM หรือมากกว่า – เหมาะสำหรับผู้ใช้ที่จริงจัง
• การดาวน์โหลด AI ขนาดเล็กมีขนาดตั้งแต่ประมาณ 4.6GB ถึง 20GB

ข้อจำกัด: โมเดลเปิดฟรียังคงล้าหลังโมเดลที่ต้องจ่ายเงินที่ดีที่สุดเล็กน้อย ตามข้อมูลของบริษัทวิจัย Epoch AI พวกเขาล้าหลังโมเดล "ปิด" (ส่วนตัว, จ่ายเงิน) ชั้นนำประมาณ สี่เดือน โดยเฉลี่ย โมเดลเปิดที่ใหญ่ที่สุดใหญ่เกินไปสำหรับคอมพิวเตอร์บ้านทั่วไป

สรุป: สำหรับใครที่ต้องการผู้ช่วย AI ฟรีและเป็นส่วนตัวและมีคอมพิวเตอร์ที่ดีอยู่แล้ว การรันโมเดลในเครื่องง่ายกว่าที่คิด—และเป็นทางเลือกแท้จริงแทนการสมัครสมาชิกที่ต้องจ่ายเงิน

นี่คือสรุปที่สร้างโดย AI อ่านบทความต้นฉบับได้ที่: https://decrypt.co/382295/how-to-run-ai-model-locally-why-you-might-want