لماذا تحولتُ إلى الذكاء الاصطناعي غير المتصل بالإنترنت: مزايا استخدام نماذج اللغة المحلية

أستخدم روبوتات الدردشة القائمة على السحابة منذ فترة طويلة. نظرًا لأن نماذج اللغة الكبيرة تتطلب قوة حوسبة هائلة لتشغيلها، كانت هذه البرامج هي الخيار الوحيد المتاح. ولكن مع LM Studio ونماذج LLM الكمية، يمكنني الآن تشغيل نماذج جيدة دون اتصال بالإنترنت باستخدام الأجهزة التي أمتلكها بالفعل. ما بدأ كفضول حول الذكاء الاصطناعي المحلي تحول إلى بديل قوي لا يكلف شيئًا، ويعمل بدون الحاجة إلى الإنترنت، ويمنحني سيطرة كاملة على تفاعلاتي مع الذكاء الاصطناعي.

أصبح هذا التحول ضروريًا بعد أن اختبرت بنفسي ما يحدث عندما تشارك معلومات حساسة عن طريق الخطأ مع الذكاء الاصطناعي السحابي. لقد انتهى بي الأمر بمشاركة رقم التعريف الشخصي الخاص بي مع ChatGPT خلال ما بدا وكأنه محادثة عادية. جعلتني تلك اللحظة من الإهمال أدرك أنني كنت أتعامل مع الذكاء الاصطناعي السحابي كدفتر ملاحظات رقمي، دون مراعاة الآثار الأمنية. LM Studio يعالج هذه المشاكل الأساسية عن طريق جلب قدرات LLM AI مباشرة إلى سطح المكتب الخاص بك، مما يزيل مخاطر الخصوصية والتكاليف المتكررة.

LM Studio يحل تعقيدات الذكاء الاصطناعي المحلي

تشغيل نماذج LLM المحلية أصبح أسهل من أي وقت مضى!

قبل اكتشاف LM Studio، أمضيت ساعات لا تحصى في التعامل مع الأدوات مفتوحة المصدر التي تم إنشاؤها حديثًا. كنت أجد نفسي منغمسًا في مستودعات GitHub، وأقرأ وثائق فنية طويلة، وأقوم بتكوين بيئات Python التي يبدو أنها تتعطل مع كل تحديث، وأبحث عن النماذج المناسبة في صفحة oobabooga على Hugging Face. بمجرد أن تمكنت من الحصول على إعداد عملي، يتم إهمال الأدوات الأساسية أو تخضع لتغييرات كبيرة، مما يتطلب مني البدء في العملية بأكملها من جديد.

LM Studio غير هذه التجربة تمامًا من خلال تجميع كل شيء في تطبيق سطح مكتب مصقول يجعل تنزيل وتشغيل نماذج اللغة الكبيرة أمرًا بسيطًا مثل تثبيت أي برنامج آخر. لتشغيل الذكاء الاصطناعي دون اتصال بالإنترنت، تحتاج إلى شيئين: نموذج ذكاء اصطناعي كمي وأداة واجهة مثل LM Studio. النماذج الكمية هي إصدارات مضغوطة من نماذج الذكاء الاصطناعي الكاملة التي تحافظ على معظم قدراتها مع استخدام موارد كمبيوتر أقل بشكل كبير. بدلاً من الحاجة إلى أجهزة باهظة الثمن من فئة الخوادم، يمكنك تشغيل نماذج ذكاء اصطناعي متطورة على جهاز كمبيوتر محمول عادي مزود بوحدة معالجة مركزية جيدة وذاكرة وصول عشوائي (RAM) بسعة 16 جيجابايت. مع LM Studio، من المُمكن حتى تشغيل روبوت دردشة يعمل بالذكاء الاصطناعي على أجهزة قديمة!

أحد النماذج الكمية المفضلة لدي لاستخدامها مع LM Studio هو Dolphin3. على عكس نماذج الذكاء الاصطناعي السائدة التي تأتي مع تصفية محتوى واسعة النطاق، تم تصميم Dolphin3 ليكون مفيدًا حقًا دون قيود تعسفية. يستجيب للطلبات التي قد ترفضها النماذج الأخرى ويقدم إجابات مباشرة دون إلقاء محاضرات حول سوء الاستخدام المحتمل. بالنسبة للبحث الشرعي أو العمل القانوني أو المحادثات العميقة والمشورة، سرعان ما أصبح نموذج الذكاء الاصطناعي غير الخاضع للرقابة هذا أحد النماذج المفضلة لدي.

تشغيل Dolphin3 في دقائق

دليل البدء السريع والسهل

إعداد مساعد الذكاء الاصطناعي الخاص بك دون اتصال بالإنترنت لا يتطلب خبرة فنية كبيرة كما تتوقع. العملية برمتها تستغرق حوالي 20 دقيقة، معظمها مجرد انتظار اكتمال التنزيلات.

أولاً، قم بتنزيل LM Studio من موقعه الرسمي وقم بتثبيته كأي تطبيق عادي. البرنامج متوافق مع أنظمة Windows و Mac و Linux، مع أداء أجهزة Apple Silicon Mac بشكل جيد للغاية في مهام استنتاج الذكاء الاصطناعي هذه. بمجرد التثبيت، يفتح LM Studio بواجهة نظيفة مع شريط بحث للعثور على النماذج.

ابحث عن “Dolphin3” وسترى عدة إصدارات متاحة. أوصي بالبدء بالإصدار ذي 8 مليارات معلمة إذا كان لديك 16 جيجابايت من ذاكرة الوصول العشوائي (RAM)، أو الإصدار الأصغر ذي 3 مليارات معلمة لأجهزة الكمبيوتر التي تحتوي على 8 جيجابايت. يتراوح حجم التنزيل من 2 جيجابايت إلى 6 جيجابايت، اعتمادًا على الإصدار الذي تختاره. يعرض لك LM Studio بالضبط مقدار الذاكرة التي يحتاجها كل نموذج، مما يزيل التخمين من توافق الأجهزة.

بعد اكتمال التنزيل، انتقل إلى واجهة Chat في الجزء العلوي الأيمن من الشريط الجانبي، ثم انقر فوق الزر Select a model to load في الجزء العلوي الأوسط من النافذة. ستظهر النماذج التي تم تنزيلها كقائمة منسدلة. حدد Dolphin3 لبدء تحميل النموذج. تستغرق عملية التحميل حوالي ثلاثين ثانية، ثم تكون جاهزًا لبدء الدردشة. تبدو الواجهة مألوفة لأي شخص استخدم ChatGPT، مع وجود مربع رسائل في الأسفل وسجل المحادثات أعلاه.

هنا، طرحت سؤالاً على Dolphin3، وكان الأداء جيدًا. ليس سريعًا بشكل مذهل مثل ChatGPT أو Claude، ولكنه مقبول تمامًا. كما ترون، تمكن من الرد في حوالي 11 ثانية لرد مكون من حوالي 320 كلمة (453 رمزًا)، مما يحافظ على تدفق المحادثة بسلاسة دون تأخير ملحوظ. يحدث كل شيء محليًا، لذا فإن وقت الاستجابة ثابت بغض النظر عن اتصالك بالإنترنت.

عند الانتهاء من محادثتك، يمكنك النقر فوق الزر Eject لإخراج Dolphin3 تمامًا من الذاكرة. يؤدي هذا إلى مسح جميع آثار محادثتك على الفور وتحرير موارد النظام. على عكس الخدمات السحابية التي قد تحتفظ بسجل الدردشة الخاص بك إلى أجل غير مسمى، فإن إخراج النموذج يمنحك تحكمًا كاملاً في متى يتم حذف محادثاتك نهائيًا.

لماذا أحب استخدام Dolphin3

سريع، خاص، وقادر بشكل مدهش

صحيح أنه لن يكون بديلاً ممتازًا لـ ChatGPT في الاستنتاجات المعقدة أو آخر التحديثات المتصلة بالويب، لكنه يعوض ذلك بطرق أخرى. تأتي المحادثات التي تراعي الخصوصية على رأس هذه القائمة، حيث يمكنني مشاركة أعمق أفكاري وهمومي دون القلق بشأن سياسات الاحتفاظ بالبيانات أو مراقبة الشركات. ويشمل ذلك التأملات الشخصية، والمشاكل العاطفية، أو المواقف الحساسة في مكان العمل التي لا أثق بها أبدًا في الخدمات السحابية.

هناك العديد من نماذج لغوية كبيرة (LLMs) أخرى غير متصلة بالإنترنت يمكنك تجربتها الآن، لكنني ما زلت ألتزم بـ Dolphin3 بسبب منهجه في الإشراف على المحتوى. كون النموذج غير خاضع للرقابة لا يعني أنه يتجاهل الأخلاق أو السياق. نظرًا لأنه يعتمد على LLaMA، الذي تم تدريبه على مجموعات بيانات كبيرة ومتنوعة، فإنه لا يزال يعكس فهمًا قويًا للصواب والخطأ. “غير خاضع للرقابة” يعني ببساطة أنه يمكنه التعامل مع الموضوعات التي قد تتجنبها النماذج الأخرى، مثل السياسة المثيرة للجدل أو الأحداث التاريخية الحساسة. على عكس العديد من مساعدي الذكاء الاصطناعي الذين تشعر وكأنهم يراقبون كلماتك باستمرار، يقدم Dolphin3 إجابات صادقة ومباشرة دون قيود غير ضرورية. والنتيجة هي محادثة تشبه التحدث مع صديق واسع المعرفة بدلاً من التفاعل مع روبوت دردشة معقم من قبل الشركات. يمكنك الخوض في موضوعات معقدة وطرح أسئلة غير مريحة دون إثارة محاضرات السلامة.

أحب أيضًا وظيفة RAG التي يوفرها LM Studio مع Dolphin3. إنها تسمح لي بتحليل العقود والمستندات القانونية وسياسات الخصوصية التي تحتوي على معلومات حساسة. غالبًا ما تتضمن هذه المستندات شروطًا سرية أو بنودًا خاصة أو بيانات شخصية لا ينبغي مشاركتها مع الخدمات السحابية. إن وجود مساعد ذكاء اصطناعي يمكنه تحليل اللغة القانونية المعقدة مع الحفاظ على كل شيء محليًا يوفر قيمة هائلة للعاملين لحسابهم الخاص وأصحاب المشاريع الصغيرة مثلي للتعامل مع الوثائق الحساسة.

كما أن المساعدة الموجزة في البرمجة تعمل بشكل جيد أيضًا، خاصةً للحصول على مساعدة سريعة في تصحيح الأخطاء أو شرح أنماط التعليمات البرمجية غير المألوفة. في حين أنني لا أعتمد على الذكاء الاصطناعي المحلي في مشاريع التطوير المعقدة، إلا أنه يتفوق في الأسئلة التقنية المركزة دون تعريض التعليمات البرمجية الخاصة للخوادم الخارجية.

أخيرًا، تعرض حالات السفر ميزة رئيسية أخرى للذكاء الاصطناعي غير المتصل بالإنترنت. أثناء السفر الطويل، أو جلسات العمل عن بعد، أو المناطق ذات الاتصال الضعيف، يثبت وجود مساعد ذكاء اصطناعي يعمل بكامل طاقته أنه لا يقدر بثمن. لقد استخدمت Dolphin3 لصياغة رسائل البريد الإلكتروني وتحليل البيانات وحل المشكلات أثناء عدم الاتصال بالإنترنت تمامًا، وهو أمر مستحيل مع البدائل المستندة إلى السحابة.

ما زلت أستعين بالذكاء الاصطناعي السحابي

لا يمكنني الاستغناء تمامًا عن الذكاء الاصطناعي السحابي، وهذا لم يكن الهدف أصلًا. الحقيقة هي أن تشغيل نماذج قوية حقًا يتطلب استخدام الذكاء الاصطناعي السحابي، فهو الخيار الأمثل. شخصيًا، أستمتع باستخدام Perplexity في الأبحاث والمهام المتصلة بالويب حيث أحتاج إلى معلومات حديثة وقواعد بيانات معرفية واسعة. تتفوق هذه الخدمات في المهام التي تتطلب موارد حسابية هائلة أو بيانات في الوقت الفعلي أو أحدث التدريبات.

الأهم هو إيجاد التوازن الصحيح بين الذكاء الاصطناعي السحابي والذكاء الاصطناعي غير المتصل بالإنترنت لضمان أقصى قدر من الخصوصية والأمان وتقليل الاعتماد على البنية التحتية. أستخدم الخدمات السحابية عندما أحتاج إلى قدرات متطورة أو تكامل البحث في الويب أو عندما لا تكون هناك معلومات حساسة متضمنة. أما بالنسبة لكل شيء آخر، وخاصة المحادثات التي تتضمن بيانات شخصية أو معلومات ملكية أو المواقف التي أحتاج فيها إلى توافر مضمون، فإن إعدادي المحلي يتولى المسؤولية.