تتيح لك الأدوات المجانية مثل Ollama وLM Studio تشغيل روبوتات الدردشة بالذكاء الاصطناعي على جهاز الكمبيوتر الخاص بك - بدون رسوم شهرية أو مشاركة بيانات.
هل تعلم أنه يمكنك تشغيل روبوت دردشة بالذكاء الاصطناعي قوي على جهاز الكمبيوتر الخاص بك - مجانًا وبشكل خاص تمامًا؟ إليك ما يحتاج المبتدئون إلى معرفته.
الأساسيات: ترسل معظم أدوات الذكاء الاصطناعي الشهيرة (مثل ChatGPT) كل ما تكتبه إلى خوادم الشركة، وعادة ما تكلف حوالي 20 دولارًا شهريًا. ولكن هناك خيار آخر يسمى "نماذج الأوزان المفتوحة" - برامج الذكاء الاصطناعي حيث تنشر الشركة جميع الملفات التي تعلم منها الذكاء الاصطناعي، بحيث يمكن لأي شخص تنزيلها وتشغيلها مجانًا.
يجعل برنامجان مجانيان هذا ممكنًا:
- LM Studio – مناسب للمبتدئين، بتصميم بسيط يعتمد على النقر والإشارة ويمكن أن يعمل بالكامل دون اتصال.
- Ollama – موجه للمستخدمين الأكثر تقنية الذين يفضلون كتابة الأوامر.
لماذا قد ترغب في القيام بذلك؟
- الخصوصية: تبقى محادثاتك على جهاز الكمبيوتر الخاص بك. (أمرت محكمة مؤخرًا إحدى شركات الذكاء الاصطناعي بالحفاظ على سجلات دردشة المستخدمين - حتى المحذوفة منها.)
- التكلفة: لا توجد اشتراك شهري.
- التخصيص: يمكنك تعديل الذكاء الاصطناعي للتركيز على مهام محددة، مثل الطب.
ما هي الأجهزة التي تحتاجها؟ تقاس نماذج الذكاء الاصطناعي بـ
المعلمات (الأرقام الداخلية التي يتعلمها الذكاء الاصطناعي أثناء التدريب - المزيد من المعلمات يعني عادة نموذجًا أذكى ولكنه أكبر). لتشغيلها، يجب أن تتناسب النموذج مع
VRAM لجهاز الكمبيوتر الخاص بك (الذاكرة على بطاقة الرسوميات الخاصة بك) أو
الذاكرة الموحدة لجهاز Mac (الذاكرة المشتركة المستخدمة من قبل النظام بأكمله).
الأرقام الرئيسية التي يجب معرفتها:
- 8 جيجابايت من VRAM – الحد الأدنى للنماذج الصغيرة.
- 16 جيجابايت+ من RAM – موصى به لـ LM Studio.
- 24 جيجابايت VRAM أو أكثر – مثالي للمستخدمين الجادين.
- تتراوح تنزيلات الذكاء الاصطناعي الصغيرة من حوالي 4.6 جيجابايت إلى 20 جيجابايت.
التحذير: لا تزال النماذج المفتوحة المجانية متأخرة قليلاً عن أفضل النماذج المدفوعة. وفقًا لشركة الأبحاث Epoch AI، فهي تتأخر عن أفضل النماذج "المغلقة" (الخاصة، المدفوعة) بحوالي
أربعة أشهر في المتوسط. أكبر النماذج المفتوحة كبيرة جدًا بالنسبة لأجهزة الكمبيوتر المنزلية العادية.
الخلاصة: بالنسبة لأي شخص يريد مساعدًا ذكاءً اصطناعيًا مجانيًا وخاصًا ويمتلك بالفعل جهاز كمبيوتر جيدًا، فإن تشغيل نموذج محلي أسهل مما يبدو - وهو بديل حقيقي للاشتراكات المدفوعة.
هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي. اقرأ المقالة الأصلية على: https://decrypt.co/382295/how-to-run-ai-model-locally-why-you-might-want