تشغيل النماذج على جهازك

انتقل تشغيل النماذج اللغوية الكبيرة محلياً من مشروع هواة إلى خيار إنتاجي مشروع خلال الثمانية عشر شهراً الماضية. وصارت الكتابة العامة عنه غير موثوقة بالطريقة التي تصير بها هذه الأمور دائماً. تبالغ معظم الأدلة في بيع التجربة، وتعتمد المعايير على تهيئات منتقاة، ونادراً ما تتضمّن أرقام المقارنة التكلفة التشغيلية لإدارة بنيتك التحتية. ما يلي هو التصحيح: أرقام حقيقية على جهاز تمثيلي، وحساب لما يعمل فعلاً، والشروط التي يُجدي فيها الاستدلال المحلي أمام API.

جهاز المثال المستخدم في كل المقال محطة عمل Apple Silicon من الجيل الحالي بذاكرة موحّدة سعة 64GB. النوع الذي يكلّف نحو 3,200 دولار ويتاح لمطوّر مستقل جاد أو فريق صغير. ستتدرّج الأرقام بشكل متوقّع للأجهزة الأكبر والأصغر على البنية نفسها. لمحطات NVIDIA أو العتاد المُركّب على الرفوف تختلف الأرقام، لكن الدروس التشغيلية تصمد. وإن أردت اختيار النموذج الفعلي لتشغيله، راجع فئة الأوزان المفتوحة والنماذج اللغوية الصغيرة.

يختبر هذا المقال على Apple Silicon. محطات NVIDIA لها برمجيات مختلفة (vLLM، TensorRT-LLM، exllama) وخصائص إنتاجية مختلفة. تنتقل الدروس التشغيلية رغم أن أرقام الرموز في الثانية المحددة لن تنتقل، فإن كنت تقيّم إعداد NVIDIA، فاقرأ هذا للتوجيه لا للأرقام الدقيقة.

البرمجيات التي تستحق الاستخدام

اختُبرت أربع بيئات تشغيل على مدى ستة أشهر. اثنتان تستحقان الإبقاء.

Ollama هي بيئة التشغيل التي يُوصى بها لأي بادئ اليوم. ملف Go صغير يعمل كخدمة خلفية، يدير تنزيلات النماذج عبر أمر بأسلوب السجلّ، ويعرض واجهة HTTP نظيفة على المنفذ 11434. الإعدادات الافتراضية معقولة ومكتبة النماذج واسعة وحديثة. التثبيت أمر واحد، وبإمكان مستخدم كفء أن ينتقل من البدء البارد إلى محادثة نموذج محلي في أقل من خمس دقائق.

llama.cpp هي بيئة التشغيل للإنتاج. مشروع C++ بنوى مُحسَّنة يدوياً لـ Apple Silicon وNVIDIA وAMD والمعالج. أسرع بكثير من Ollama على النموذج نفسه في بعض التهيئات، ويعرض معاملات يخفيها Ollama. الثمن أنه يحتاج تجميعاً يدوياً، وإدارة يدوية لملفات النماذج، وقراءة توثيق أكثر مما هو ممتع تماماً. Ollama مبني فوق llama.cpp، فهذا ليس رفضاً لـ Ollama بقدر ما هو طبقة مختلفة من المنظومة نفسها.

LM Studio يغلّف llama.cpp في واجهة رسومية لسطح المكتب. الواجهة جيدة لتصفّح النماذج ومقارنتها جنباً إلى جنب. لم تتبنّها benchr لأن النشر بأسلوب الخادم كان مفضّلاً والوجود الدائم في الشريط كان مشتّتاً. للمستخدمين الذين يبدأون بالواجهة الرسومية، هذه أودّ نقطة دخول.

MLX هي إطار تعلّم الآلة الرسمي من Apple بدعم كامل لـ Apple Silicon. ينتج أسرع أرقام رموز في الثانية على بعض النماذج على جهاز الاختبار. لكن المنظومة أحدث، نماذج أقل، وتكاملات أنحف، وحواف خشنة أكثر للالتفاف حولها. إن كنت تشغّل على Apple Silicon فقط وتحتاج أسرع استدلال على الإطلاق، فإن MLX يستحق الوقت؛ ولمنظومة مختلطة عادةً لا يستحقه.

أرقام فعلية، ثلاث درجات تكميم

جُمعت المعايير أدناه على جهاز المثال تحت Ollama بالإعدادات الافتراضية، بتوليد 500 رمز إخراج من أمر بـ 200 رمز، بمتوسط خمس عمليات تشغيل. طول السياق ضُبط على 8K. القيم المُبلَّغ عنها رموز في الثانية على مجرى الإخراج.

الاستدلال المحلي على M3 Max بذاكرة 64GB، إعدادات Ollama الافتراضية، يناير 2026

النموذج	التكميم	الذاكرة المستخدمة	رموز/ث	الجودة مقابل fp16
Llama 3.3 70B	Q4_K_M	52 GB	18.2	هبوط واضح
Llama 3.3 70B	Q5_K_M	60 GB	15.7	هبوط طفيف
Llama 3.3 70B	Q6_K	61 GB (ضيّق)	14.1	بلا هبوط تقريباً
Phi-4 mini 3.8B	Q4_K_M	2.6 GB	220.0	هبوط واضح
Phi-4 mini 3.8B	Q5_K_M	3.1 GB	98.2	هبوط طفيف
Phi-4 mini 3.8B	Q8_0	4.6 GB	83.1	بلا هبوط

بضع ملاحظات على ما تعنيه تلك الأرقام. تهيئة Llama 3.3 70B بتكميم Q6_K تعمل بضيق على جهاز بذاكرة 64GB. يجب إغلاق معظم التطبيقات الأخرى، ويصبح العمل الأمامي الجاد على الجهاز نفسه غير عملي أثناء تشغيل الاستدلال. نسخة Q4_K_M أكثر أريحية بكثير، والهبوط في الجودة حقيقي لكنه ليس مُعطِّلاً لاستخدام المحادثة العادي. للمهام الإنتاجية حيث يهم كل رمز، اجعل Phi-4 mini بتكميم Q5_K_M هو الافتراضي، فهو يحافظ على 98 رمزاً في الثانية بلا تكلفة جودة قابلة للقياس تقريباً.

للمرجعية، يتدفّق Claude Opus 4.7 عبر API بنحو 70-80 رمزاً في الثانية على اتصال جيد. يتفوّق Phi-4 mini المحلي على ذلك في الإنتاجية الخام، لكن فقط لأنه نموذج أصغر بكثير يؤدي مهمة أصغر بكثير.

في القدرة الخام لا تزال API الحدّية تفوز. ما يقدّمه الاستدلال المحلي بدلاً من ذلك هو ما لن تبيعه لك أي API: بياناتك لا تغادر المبنى، وتكلفة لكل رمز تبقى صفراً مهما ضغطت عليها.

نقطة التعادل مع API صعبة التحديد. تعتمد على شكل عبء العمل، وأسعار الكهرباء، ومدى عدوانية استخدامك للعتاد خارج ساعات العمل. عتبة الـ 80-100 دولار شهرياً المذكورة هنا تقدير تقريبي مبني على النقاش المجتمعي العام، ورقمك الخاص قد يكون نصف ذلك أو ضِعفه، تبعاً لكيفية استخدامك للجهاز.

التكلفة مقابل العائد، مكتوبة دون بيع أي شيء

العتاد موزّعاً على أربع سنوات يبلغ نحو 67 دولاراً في الشهر. الكهرباء بالأسعار الصناعية تكلّف نحو 4 دولارات في الشهر للاستدلال المتواصل على هذا العتاد. إجمالي الأساس الشهري: 71 دولاراً قبل استدلال رمز واحد.

للمقارنة، عبء عمل API نموذجي لفريق صغير (لنقل من 80 إلى 140 دولاراً شهرياً) يضع API والعتاد المحلي عند التعادل تقريباً في التكلفة المباشرة. التعادل وحده لا يبرّر الشراء. ما يبرّره هو مجموعة الأشياء التي يشتريها العتاد ولا تستطيع API، وهي ثلاثة. وللصورة الكاملة لتكلفة API، راجع السعر بحسب حالة الاستخدام.

• الخصوصية على البيانات التي يعالجها النموذج. المواد الحساسة (سجلات العملاء، المستندات الداخلية، أي شيء تغطيه قاعدة إقامة بيانات) لا تغادر شبكتك أبداً.
• زمن استجابة صفري تقريباً على الشبكة المحلية. زمن أول رمز على API حدّية من اتصال منزلي نموذجي هو 600 إلى 1,100 مللي ثانية، مقابل نحو 80 مللي ثانية من الجهاز المحلي. عبر سير عمل تفاعلي يتراكم على مدى أدوار كثيرة، هذا ما يفصل جلسة سلسة عن أخرى متلكئة.
• تكلفة هامشية ثابتة بغضّ النظر عن الحجم. يمكن الضغط على النموذج بتصنيفات مجمّعة، وتجارب ضبط دقيق، ومعالجة دفعات ليلية، دون أن يكلّف أي منها سنتاً واحداً إضافياً لكل طلب. وحين تكون التجارب مجانية، تشغّل المزيد منها.

إن كانت هذه الخصائص الثلاث تهم عملك، فإن الإعداد المحلي يسدّد ثمنه حتى عند التعادل في التكلفة المباشرة. وبدونها، ثمة سبب ضئيل لتحمّل العتاد، وتبقى API الخيار الأسهل.

تحفّظ يستحق الذكر بصراحة: لم يختبر المجتمع النماذج المحلية تحت حمل متواصل على مدار الساعة. الأرقام المُبلَّغ عنها هنا تأتي من استخدام تفاعلي على مدى أسابيع، لا من عبء عمل إنتاجي يشغّل آلاف الطلبات في الساعة. ضجيج المروحة والخنق الحراري تحت ذلك النوع من الحمل المتواصل مشكلتان حقيقيتان، وكلتاهما خارج نطاق هذا المقال.

أين يُجدي المحلي

ثلاثة أعباء عمل يكون المحلي فيها الخيار الصحيح في 2026، مُسمّاة تحديداً.

الاستخراج المُهيكل من المستندات الواردة: رسائل الدعم، ومسودات العقود، ونماذج الطلبات، وما شابه. مرّرها عبر Phi-4 mini بتكميم Q5_K_M واحصل على JSON مُهيكل بتكلفة صفرية لكل مستند، بزمن استجابة مقبول وبيانات لا تغادر شبكتك أبداً. تقع الدقة نحو نقطتين مئويتين دون ما تنتجه واجهة Sonnet على المدخل نفسه، وهي مقايضة عادلة لهذا العبء.

إعادة كتابة المحتوى بالجملة مقابل مدوّنة ثابتة، مئات نبذات الميزات وأوصاف المنتجات، وتمريرات النصوص الصغيرة، وأي شيء يتراكم بهدوء لو مُرّرت كل تكراراته عبر API. ينتج النموذج المحلي المسودات وتحرّرها أنت، فالتكلفة الوحيدة وقت تنفقه أصلاً.

التجريب الاستكشافي الذي ستثبّطه ميزانية API. توليد 5,000 مثال اصطناعي لتدريب مصنّف يكلّف نحو 25 دولاراً على API و0 دولار محلياً. عند 25 دولاراً تُؤجَّل التجربة بهدوء؛ وعند 0 تشغّلها ببساطة، وبين الحين والآخر تثمر.

أين ليس المحلي هو الجواب الصحيح

أي شيء يحتاج قدرة حدّية. تبقى النماذج المحلية، حتى أكبرها التي تتسع على جهاز 64GB، خلف Claude Opus 4.7 وGPT-5 بوضوح في الاستدلال الصعب وفهم الكود متعدد الملفات، وفي ذلك النوع من الكتابة الحساسة للنبرة حيث تهم نبرة النموذج. ادفع نموذجاً محلياً من فئة 70B في عمل ينتمي إلى الحدود فتقضي اليوم تصارع الفجوة.

أي شيء كثيف الوسائط. قصة فهم الصور المحلية أضعف بكثير من واجهات البرمجة المغلقة، ولمهام الرؤية يجب ببساطة أن يذهب العمل إلى Gemini 3.1 Pro Preview عبر واجهته. راجع ترتيب القدرات متعددة الوسائط للصورة الكاملة.

أي شيء لا يملك فريقك شهيةً لصيانة إعداده. المحلي يعني التعامل مع التحديثات وتصحيح ضغط الذاكرة، وقراءة سجل التغييرات كلما شحن llama.cpp تغييراً كاسراً. الفريق الذي لا يريد أن يكون فريق العمليات الخاص به ينبغي أن يبقى على API وأن يتجاوز الإعداد المحلي كلياً.

إعداد مرجعي

منظومة استدلال محلي عاملة على هذا النوع من الأجهزة تبدو هكذا. Ollama يعمل كبيئة تشغيل أمامية للعمل العابر. llama.cpp مُجمَّع من المصدر، خلف خادم HTTP صغير بـ Go يتولى المصادقة وإدارة الطابور، للاستدلال الإنتاجي. ثلاثة نماذج محمّلة في التناوب في أي وقت: Phi-4 mini Q5_K_M للعمل عالي الحجم (بطاقة النموذج على Hugging Face)، وLlama 3.3 70B Q4_K_M للمهام الصعبة، وQwen 3 7B Q4_K_M لأي شيء متعدد اللغات. معظم أوزان GGUF المُكمَّمة تأتي مباشرةً من بطاقات نماذج Hugging Face. إجمالي القرص الذي تستخدمه مكتبة النماذج نحو 280GB. تُبقى النماذج الأقدم لأنها تفوز أحياناً في معايير محددة تستحق الاهتمام.

تُدار المنظومة كلها عبر الشبكة المحلية من حاسوب محمول، وعبر نفق خاص عند البعد. محطة عمل تشغّل هذا الحمل كانت عملياً أكثر موثوقية من أي خدمة سحابية بتكلفة مماثلة. أشهر دون إعادة تشغيل غير مخطّطة، مع إعادة تشغيل عرضية سببها تحديث نظام طُبّق في اللحظة الخطأ.

محطة عمل من سلسلة M بذاكرة 64GB هي أرخص جهاز جاد لتشغيل النماذج اللغوية المحلية يمكنك شراؤه في أوائل 2026، ولمعظم المطوّرين المستقلين أو الفرق الصغيرة هي كافية. تشغّل نماذج من فئة 70B بتكميم قابل للاستخدام والنماذج الصغيرة بإنتاجية بمستوى API، وحتى حيث لا تفوز بالدولار الخام تسدّد ثمنها في الخصوصية والتجريب ثابت التكلفة.

إن كنت تتحمّل التكلفة الرأسمالية ولديك أعباء عمل تستفيد من المحلي، بيانات مقيّدة بالخصوصية، ومسارات حساسة لزمن الاستجابة، ومعالجة بالجملة، فالحساب يعمل. اقرن الجهاز المحلي بحساب API حدّية للنداءات التي تحتاج فعلاً قدرة حدّية. للعمل الفردي أو الجاد للفرق الصغيرة في 2026، يصعب التغلّب على هذا الإعداد ذي الطبقتين.

إن لم تتحمّل العتاد، أو إن لم تنطبق أعباء عملك على الفئات أعلاه، فالزم API. راحة عدم إدارة بنيتك التحتية حقيقية وتستحق الدفع عند الحجم الصغير. يقع التقاطع عند نحو 80 إلى 100 دولار شهرياً من إنفاق API، دونها لا يستحق العناء، وبمجرد أن تتجاوزه بوضوح، اجلس واحسب الأرقام لعبء عملك الخاص.