قد لا تستطيع شركة إرسال بعض بياناتها إلى خدمة خارجية. لديها تقارير أو ملفات أو وثائق داخلية تريد تصنيفها أو تلخيصها أو تحويلها إلى معلومات منظمة. لذلك يتكرر السؤال: هل يمكن تثبيت نموذج ذكاء اصطناعي على حاسوب نملكه وتنفيذ العمل داخله؟
الإجابة الصادقة أقل راحة. إذا كانت المهمة محددة —تصنيف وثائق أو استخراج حقول أو إعداد ملخص أولي— فقد تكون نعم. أما تثبيت «ChatGPT خاص» ينجز أي شيء تقريبًا بالجودة والسرعة نفسيهما على حاسوب محمول عادي، فالإجابة في الغالب لا.
بين هذين الطرفين مساحة تتسع بسرعة. تشغيل نموذج محليًا لا يضمن أن يكون جيدًا بما يكفي، أو سريعًا بما يكفي، أو أن النظام ممتثل للأنظمة. لكنه لم يعد يتطلب جهازًا مخبريًا دائمًا كي يقدم فائدة عملية.
هذه الحدود تتحرك بسرعة. نماذج كانت ستبدو ضخمة قبل مدة قصيرة أصبحت، بعد التكميم، مناسبة لوحدة رسوميات استهلاكية. ونماذج أخرى بين أربعة واثني عشر مليار معامل تنجز على حاسوب محمول مهام وثائقية محددة ذات قيمة حقيقية للشركات.
يوضح جهازان أعلنت عنهما Apple في أغسطس مدى اتساع هذا المصطلح. يصل Mac mini بمعالج M6 إلى 32 غيغابايت من الذاكرة الموحدة؛ أما Mac Studio بمعالج M5 Ultra فيصل إلى 512 غيغابايت وعرض نطاق يبلغ 1.2 تيرابايت في الثانية. الأول يغطي النماذج الصغيرة والمتوسطة، والثاني يستطيع إبقاء أوزان بمئات مليارات المعاملات في الذاكرة. توضح المقارنة لماذا لا تكفي عبارة «يشغّل الذكاء الاصطناعي محليًا» لاتخاذ قرار معماري.
لم يعد السؤال هل يمكن تشغيل الذكاء الاصطناعي محليًا، بل أي مهمة، وبأي معدل خطأ، وعلى أي بيانات، وبأي سرعة.
ما المقصود فعلًا بتشغيل نموذج محليًا؟
يتعلم النموذج أثناء التدريب ملايين أو مليارات القيم الرقمية المسماة بالأوزان. وهي حصيلة تعلمه: تعديلات رقمية صغيرة تحدد، مجتمعة، كيف يجيب عن مدخل معين. وما زال تدريب نموذج عام يحتاج إلى بنية تحتية هائلة. أما الاستدلال فهو تحميل تلك الأوزان المتعلمة واستخدامها من دون تدريب النموذج من جديد.
عند تنزيل نموذج مفتوح الأوزان وتشغيله بواسطة llama.cpp أو Ollama أو LM Studio، يمكن أن تتم عملية الاستدلال بالكامل على جهازنا. لا يلزم إرسال النص إلى خوادم مطور النموذج. وفي الاختبار الأولي تبدو التجربة شبيهة بتثبيت تطبيق: تنزيل برنامج، اختيار نموذج، ثم بدء المحادثة.
لكن كلمة «محلي» تجمع عادة ثلاثة أنماط مختلفة:
- على الجهاز، حين يعمل النموذج على حاسوب شخص أو هاتفه؛
- داخل مقر المؤسسة، حين يعمل على خادم تسيطر عليه المؤسسة؛
- في سحابة خاصة، حين تكون البنية بعيدة لكنها معزولة وتدار وفق شروط الشركة.
يمكن للأنماط الثلاثة تجنب إرسال البيانات إلى واجهة عامة، لكنها لا تمنح الضمانات نفسها. قد يحتفظ التطبيق المحلي بالسجل، أو ينزل مكونات، أو يرسل القياسات، أو يزامن مجلدًا مع نسخة احتياطية خارجية. وقد يكون النموذج داخل المكتب بينما تظل خدمة OCR أو قاعدة المتجهات أو المراقبة خارجه.
الاستدلال المحلي يصف مكان تشغيل النموذج، لا المسار الكامل الذي تسلكه البيانات.
تشغيل النموذج لا يعني أن العملية قابلة للتطبيق
توجد ثلاث أسئلة منفصلة لأي عملية محددة:
- هل يتسع النموذج والسياق الحقيقي داخل البنية التحتية الخاضعة للسيطرة؟
- هل زمن الاستجابة والتوازي مقبولان لحجم العمل المتوقع؟
- هل تحقق النتيجة حد الجودة والخطأ المحدد؟
لا يمكن استنتاج سوى السؤال الأول من حجم الذاكرة. فهو يثبت إمكان تحميل النموذج، لا فائدة العملية.
يمكن تقدير السؤال الأول. نموذج يضم 27 مليار معامل يشغل نحو 54 غيغابايت إذا خُصص لكل وزن 16 بت —أي 16 خانة ثنائية—. يوفر التكميم المساحة بتمثيل تلك القيم بتفصيل أقل. يشبه تقريب ملايين الأرقام: يصغر النموذج مقابل فقدان شيء من الدقة. وعند 4 بت ينخفض الحساب النظري إلى 13.5 غيغابايت تقريبًا، مع حاجة الملف الحقيقي وبيئة التشغيل إلى مساحة إضافية.
يشرح Qwen 3.8 27B هذا التحول. تشغل أوزانه الأصلية 55.6 غيغابايت، بينما تشغل نسخة Q4 —مكممة إلى نحو 4 بت لكل وزن— استخدمها Simon Willison قرابة 17 غيغابايت، وتستطيع تحليل الصور وتوليد الشفرة وطلب تنفيذ إجراءات من أدوات أخرى. لكن ذلك لا يعني أن 17 غيغابايت من الذاكرة الكلية تكفي؛ فنظام التشغيل والبرنامج والحسابات الوسيطة وذاكرة السياق تحتاج إلى مساحة أيضًا.
تستحق نافذة السياق اهتمامًا خاصًا. وهي كمية النص التي يستطيع النموذج إبقاءها في اعتباره أثناء الإجابة، وتقاس بوحدات token: أجزاء الكلمات التي يقسم إليها النص. قد يعلن نموذج عن 128 ألفًا أو 256 ألف token من دون أن يستطيع استخدام هذا الحجم عمليًا على حاسوب محمول. ومع نمو المحادثة يحتاج إلى ذاكرة أكبر للاحتفاظ بهذه الأجزاء ووقت أطول لقراءة المدخل كاملًا. الحد الأقصى في ورقة المواصفات ليس السياق التشغيلي للنظام.
يعتمد زمن الاستجابة والقدرة على خدمة عدة طلبات بدرجة كبيرة على عرض نطاق الذاكرة. تحدد السعة ما إذا كانت الأوزان تتسع، ويحدد عرض النطاق سرعة قراءة المعالج لها. إنه الفرق بين حجم رف الكتب وسرعة إخراج الكتب منه. أثناء التوليد يحتاج الجهاز إلى نقل جزء كبير من الأوزان مرارًا، ولذلك تكون وحدة الرسوميات ذات الذاكرة السريعة أسرع عادة من المعالج، حتى لو اتسعت ذاكرة الاثنين للنموذج. تتيح الذاكرة الموحدة في Apple Silicon وبعض معالجات AMD مشاركة الحوض نفسه بين CPU وGPU. وغالبًا تكون وحدة NVIDIA المنفصلة أسرع، لكنها مقيدة بذاكرتها الخاصة، VRAM.
يستطيع llama.cpp أيضًا توزيع النموذج بين CPU وGPU. يفيد ذلك في تجربة أولية، لكن قراءة الأوزان من RAM عبر الناقل قد تخفض السرعة لدرجة تجعل النتيجة غير ممثلة لعملية تفاعلية أو متوازية.
تساعد هذه الأرقام على تحديد نوع الاختبار الذي قد يكون منطقيًا في كل بيئة:
| الذاكرة المتاحة في البيئة | النماذج المكممة التي تتسع عادة | ما الذي يمكن تقييمه |
|---|---|---|
| 16 غيغابايت بلا GPU منفصل | 2B–8B؛ و12B بإعداد ضيق | التصنيف والاستخراج البسيط وجدوى مسار عمل بلا اتصال. قد يبطؤ CPU مع الوثائق الطويلة. |
| 32 غيغابايت عادية أو موحدة | 8B–14B براحة؛ و20B–27B مع تنازلات | الجودة على وثائق حقيقية وRAG —البحث أولًا عن المقاطع المناسبة في وثائق المؤسسة— والمخرجات المنظمة، مع توازٍ محدود. |
| GPU بذاكرة 12–16 غيغابايت | 8B–14B كاملًا على GPU؛ وبعض MoE قرب 20B | زمن استجابة تفاعلي وسياق متوسط. يحتاج 27B غالبًا إلى تكميم أقوى أو نقل طبقات إلى CPU. |
| GPU بذاكرة 24 غيغابايت | 20B–32B عند 4 بت | هل تقلل فئة أكثر قدرة الأخطاء بما يكفي لتبرير زمنها وكلفة تشغيلها؟ |
| ذاكرة موحدة 64–128 غيغابايت أو عدة وحدات GPU | 70B وبعض MoE الأكبر بتكميم قوي | المتانة والسياق والمهام المعقدة على بنية مخصصة، بأداء يعتمد بشدة على المعمارية. |
| ذاكرة موحدة 192–512 غيغابايت أو خادم متعدد GPU | نماذج أكبر من 100B ونماذج MoE كبيرة مكممة | حد تقني لمحطة العمل، لا نقطة بداية لتصميم عملية في شركة. |
تستطيع أجهزة مدمجة بذاكرة موحدة 128 غيغابايت، مثل NVIDIA DGX Spark أو أجهزة Ryzen AI Max+ 395، تحميل نماذج أكبر بكثير. تعلن NVIDIA عن 200B، وعرضت AMD نماذج 128B. هذا إثبات لسعة الذاكرة لا لوعد بتجربة تفاعلية: تحميل نموذج 100B واستخدامه طوال اليوم مسألتان مختلفتان.
تساعد تشكيلة Apple الجديدة أيضًا على فصل السعة عن السرعة. يقدم Mac mini M6 حتى 32 غيغابايت و170 غيغابايت في الثانية، ويصل M5 Pro في الهيكل نفسه إلى 64 غيغابايت و307 غيغابايت في الثانية. أما Mac Studio M5 Ultra فيصل إلى 512 غيغابايت و1.2 تيرابايت في الثانية. لا تلغي الشريحة الأحدث الحد الفيزيائي: إن لم تتسع الذاكرة للأوزان فلن تتسع لها. أعلنت Apple هذه الأجهزة في 25 أغسطس 2026، وستبدأ تسليمها في 22 سبتمبر؛ ولذلك ما تزال أرقام M5 Ultra مواصفات من الشركة المصنعة، لا خبرة مستقلة من المستخدمين.
القدرة نفسها تحتاج إلى بنية أقل مع الوقت
لم يعد عدد المعاملات مقياسًا كافيًا للذكاء. تؤثر جودة البيانات وبنية النموذج والتدريب اللاحق والتعلم المعزز وقدرة النموذج على إنفاق حساب إضافي في الطلبات الصعبة.
ويهم جيل النموذج أيضًا. يعرض AI Index من Stanford مقارنة واضحة: في 2022 كان أصغر نموذج يتجاوز 60% على MMLU يضم 540B معامل. وفي 2024 بلغ Phi-3 Mini الحد نفسه بـ3.8B فقط، أي أقل 142 مرة. لا يمثل MMLU عمل شركة حقيقيًا، لكنه يوضح حركة الحدود.
قدّرت Epoch AI أن التحسينات الخوارزمية خفضت إلى النصف، كل ثمانية أشهر تقريبًا، الحوسبة المطلوبة للوصول إلى مستوى أداء معين في النماذج المدربة مسبقًا. مجال عدم اليقين واسع، وما زال جزء كبير من التقدم يأتي من المزيد من البيانات والحوسبة. لكنه يفسر لماذا لا تكفي مقارنة نموذج 8B حالي بآخر من الحجم نفسه قبل عامين.
تأتي الكفاءة من عدة طرق:
- بيانات أفضل وتدريب لاحق أفضل يستخرجان قيمة أكبر من كل معامل؛
- التكميم يقلل الذاكرة وعرض النطاق مع خسارة تختلف حسب النموذج والمهمة؛
- بنى mixture of experts تقسم النموذج إلى مجموعات متخصصة ولا تستخدم إلا بعضها لكل token، مع ضرورة إبقائها كلها محملة؛
- التوليد التخميني يجعل آلية خفيفة تقترح عدة tokens ليتحقق منها النموذج الرئيسي؛
- البرامج التي تشغل النماذج تستفيد بصورة أفضل من GPU والذاكرة الموحدة وNPU، وهي شرائح مخصصة لتسريع عمليات الذكاء الاصطناعي؛
- النماذج المتخصصة تتخلى عن العمومية لتحل وظيفة محددة بموارد أقل.
تسبب نماذج MoE التباسًا إضافيًا. يملك gpt-oss-20b نحو 21B معامل إجمالًا لكنه يستخدم 3.6B تقريبًا لتوليد كل token. يعمل بجزء من النموذج في كل مرة، لكنه يحتاج إلى إبقاء النموذج كاملًا في الذاكرة: يظل ملف أوزانه المكمم 12.8 غيغابايت، وتضع OpenAI الحد الأدنى للنظام قرب 16 غيغابايت. وينطبق الأمر نفسه على Gemma 4 26B A4B: يستخدم 4B لكل token، لكن يجب إبقاء 26B كلها محملة لاختيار المجموعات المشاركة بسرعة.
ما المهام التي تستحق الاختبار؟
تساعد الاختبارات المعيارية، وهي اختبارات موحدة لمقارنة النماذج، في استبعاد الخيارات ورصد التقدم. لكنها لا تجيب جيدًا عما إذا كان النظام سيستخرج عشرين حقلًا من تقاريرنا، أو يحافظ على تنسيق الإخراج نفسه عبر عشرة آلاف وثيقة، أو يمتنع حين تغيب المعلومة.
| فئة النموذج التقريبية | مهام معقولة للاختبار | المخاطر الواجب قياسها |
|---|---|---|
| 2B–4B | التصنيف وإعادة الصياغة والاستخراج البسيط والإكمال التلقائي والأوامر المتكررة | التعليمات الطويلة والغموض والاستدلال متعدد الخطوات والوثائق الطويلة |
| 8B–14B | التلخيص والاستخراج المنظم والمسودات وRAG والاستفسار عن الوثائق وسكربتات التحليل والرؤية الأساسية | سلاسل الأدوات الطويلة والاستثناءات النادرة والقرارات التي تتطلب خبرة موثوقة |
| 20B–32B | مساعد عام كفء، وبرمجة داخل مستودعات محددة، ورؤية، وأدوات، وتحليل متعدد الخطوات | الوكلاء طويلي التشغيل والسرعة على العتاد المتوسط وموثوقية أفضل الأنظمة المستضافة |
| 70B أو أكثر | متانة أعلى في المهام المفتوحة والمعقدة | الكلفة والزمن والتشغيل، مع استمرار إمكان إنتاج أخطاء مقنعة |
تتداخل هذه الفئات. قد يتفوق نموذج 4B متخصص في تصنيف بعينه على نموذج عام 27B. وقد يكون نموذج كبير بتكميم سيئ أو قالب محادثة خاطئ أو سياق غير كاف أسوأ من نموذج أصغر يُخدَّم جيدًا.
تساعد النماذج الحالية على تثبيت هذه النطاقات، لكنها لا تلغي الحاجة إلى التقييم.
يحتاج Gemma 4 12B، وفق Google، إلى نحو 6.7 غيغابايت لأوزان Q4 قبل إضافة السياق وبيئة التشغيل. يقبل النص والصورة والصوت، وتعرض Google تحليل ملفات محليًا على جهاز بذاكرة 16 غيغابايت. يثبت ذلك أن نموذجًا أوليًا متعدد الوسائط يتسع في عتاد شائع، لا أنه سيلتزم بمخططنا وأدواتنا واستثناءاتنا بالموثوقية المطلوبة.
يتسع gpt-oss-20b في نحو 16 غيغابايت، وهو نصي وموجه إلى الاستدلال والمخرجات المنظمة والأدوات. تجعله بنية MoE أخف حسابيًا من حجمه الكلي. لكنه يحتاج إلى تكامل يطبق الأدوات؛ فتنزيل الأوزان لا يضيف البحث أو تنفيذ الشفرة أو الوصول إلى الملفات وحده.
يعد Qwen 3.8 27B مرجعًا مفيدًا لفئة 20B–32B. هو متعدد الوسائط بترخيص Apache 2.0، وتدخل نسخة مكممة بحجم 17 غيغابايت تقريبًا في GPU بسعة 24 غيغابايت أو جهاز بذاكرة موحدة كافية. في اختبارات Willison فحص مستودعًا، وبنى واختبر أداة، وحدد عناصر في الصور، وقاد وكيل برمجة بسرعة 15–30 token في الثانية —وهو مقياس لسرعة ظهور الإجابة، لا لذكائها—. تثبت النتائج قدرة حقيقية؛ أما موثوقية العملية فيجب قياسها على حالاتنا.
يوضح DeepSeek V4 Flash الطرف الآخر: تجربة تقنية تعتمد على عتاد وتكميم وبيئة تشغيل محددة جدًا. إنه نموذج MoE يضم 284B معامل إجمالًا، وينشّط نحو 13B لكل token، مع نافذة سياق معلنة تبلغ مليون token. تشغل نسخة MLX تجريبية مكممة إلى 2.44 بت مساحة 92.8 غيغابايت، وحققت نحو 32–36 token في الثانية مع سياق قصير على MacBook Pro بمعالج M5 Max وذاكرة 128 غيغابايت، لكن مع خسارة ملحوظة مقارنة بالنموذج المستضاف. وتبلغ أحجام النسخ القريبة من 4 بت نحو 150–170 غيغابايت. لذلك ليس خيارًا محليًا افتراضيًا، بل دليلًا على ما تستطيع محطة عمل بلوغه اليوم.
يمثل المثالان قرارين مختلفين تميل عبارة «الذكاء الاصطناعي المحلي» إلى الخلط بينهما.
وتكشف تجارب المجتمع الصورة نفسها. بعض المستخدمين يصفون سلاسل من عشرات استدعاءات الأدوات على RTX 3090. ويراه آخرون أقرب إلى نموذج مستضاف جيد متوسط الفئة منه إلى أنظمة الصدارة، ويجدون أخطاء مهمة في شفرته. ينشأ هذا التفاوت من اختلاف المهام والمطالبات والتكميمات وبيئات التشغيل والأدوات التي يجب أن يثبتها تقييمنا الخاص.
الاختبار الحاسم للشركة هو حزمة حالات حقيقية خاصة بها، بما فيها الحالات النادرة والأخطاء المكلفة.
مثال: تحليل تقارير طبية من دون إخراجها من المؤسسة
لنفترض أن الهدف ليس التشخيص، بل تحويل تقارير متباينة إلى حقول قابلة للمراجعة: التاريخ، التخصص، الدواء، الفحوص، والإشارات إلى التاريخ المرضي.
قد يكون النموذج الأولي مجرد سحب PDF إلى تطبيق محلي وطلب ملخص. أما النظام التشغيلي فيفصل المسؤوليات. أولًا يحول OCR الصفحات التي لا تحتوي إلا على صورة إلى نص؛ ثم يعيد النموذج الحقول بصيغة JSON، وهي تنسيق منظم يستطيع بقية البرنامج قراءته والتحقق منه:
وثيقة
↓
OCR واستخراج نص محليان
↓
نموذج محلي ← JSON + المقاطع الداعمة لكل حقل
↓
تحققات حتمية
↓
مراجعة بشرية للأخطاء والحالات المشكوك فيها
↓
نظام السجل لدى المؤسسةينبغي أن يسمح النظام للنموذج بإرجاع null عند غياب القيمة، وأن يطالبه بالمقطع المصدر. تتحقق قواعد تقليدية بعد ذلك من التواريخ والرموز والتنسيقات، وتنتج النتيجة نفسها دائمًا عند إدخال البيانات نفسها. وتذهب الحالات الملتبسة إلى المراجعة وفق اختبارات خارجية، لا اعتمادًا على ثقة صياغة النموذج. وتسمح عينة ممثلة بقياس الدقة، وخصوصًا النتائج السلبية الكاذبة: معلومات كانت موجودة في التقرير لكن النظام لم يكتشفها.
قد يكفي نموذج 8B أو 12B إذا كان المخطط ثابتًا والوثائق متوقعة. وقد يحسن 27B التعليمات المعقدة والاستثناءات لكنه يخفض السرعة والتوازي. تحديد حجم البنية التحتية قبل معرفة هامش الخطأ المقبول يعكس الترتيب الصحيح: نحدد أولًا الخطأ المقبول ثم نختبر أصغر نموذج يحققه.
كما يوضح المثال أن الخصوصية لا تعتمد على LLM وحده. يجب فحص OCR والتخزين المؤقت والسجلات والواجهة والنسخ الاحتياطية ووجهة النتيجة.
التشغيل المحلي يقلل أحد أوجه التعرض ولا يمنح استثناءً قانونيًا
حين لا تخرج البيانات من بنية تحتية خاضعة للسيطرة، ينخفض خطر مهم: تسليم المعلومات لطرف ثالث. توصي هيئة CNIL الفرنسية بالنظر في حلول محلية آمنة ومتخصصة عند إدخال بيانات شخصية أو وثائق حساسة. لكنها لا تقول إن تثبيت نموذج يحقق الامتثال.
تظل معالجة البيانات الشخصية معالجة حتى بلا إنترنت. تحتاج المؤسسة إلى غرض محدد وأساس قانوني وتقليل البيانات ومدد احتفاظ وضبط الوصول والأمن وتمكين حقوق الأفراد. وتخضع البيانات الصحية أيضًا لفئات المادة 9 الخاصة من GDPR. وقد يلزم تقييم أثر حسب الحجم والمخاطر والاستخدام.
ويجب فصل ثلاث طبقات قانونية:
- ترخيص النموذج. إتاحة الأوزان للتنزيل لا تعني غياب الشروط. يستخدم Qwen 3.8 وGemma 4 ترخيص Apache 2.0، بينما يجمع gpt-oss بين Apache 2.0 وسياسة استخدامه. لنماذج أخرى تراخيص مجتمعية أو قيود إعادة توزيع أو استخدامات محظورة. ويجب أن تحتفظ النسخة المكممة من طرف ثالث بالترخيص الصحيح وتوثقه.
- حماية بيانات الإدخال. ينطبق GDPR على الغرض والمعالجة، لا على بلد تصنيع GPU. وقد تتضمن المحفوظات وembeddings —تمثيلات رقمية للوثائق تستخدم للبحث فيها— وسجلات التعليمات بيانات شخصية أيضًا.
- تنظيم النظام واستخدامه. يصنف قانون الذكاء الاصطناعي حسب الغرض المقصود. تلخيص الوثائق لمساعدة إنسان ليس كتوصية علاج أو التحول إلى برمجية طبية. وقد تخضع الأجهزة الطبية أو مكونات السلامة أو الأنظمة المشاركة في قرارات معينة لالتزامات عالية المخاطر وقواعد قطاعية.
والاستثناء لبعض البرمجيات الحرة والمفتوحة ليس تصريحًا عامًا؛ فهو لا يغطي بالطريقة نفسها الأنظمة المحظورة أو عالية المخاطر أو الخاضعة للشفافية.
في المجالات الطبية أو الوظيفية أو المالية أو القانونية يجب أن تشمل المراجعة النظام كاملًا وغرضه. السؤال ليس فقط «ما ترخيص Qwen؟»، بل «ما القرار الذي تتخذه عمليتنا، وبأي بيانات، ومن يتحمل مسؤوليته؟».
الأوزان المنزلة ليست نظام إنتاج
سهولة فتح نافذة محادثة قد تخفي العمل اللاحق.
قد تحتاج الشركة إلى مصادقة وصلاحيات وتشفير وعزل شبكة وإدارة أسرار وطوابير وحدود استخدام وسجلات قابلة للتدقيق وتحديثات واختبارات انحدار وإجراء رجوع. وإذا شارك عدة أشخاص جهازًا واحدًا فيجب حساب التزامن؛ فجهاز يخدم محادثة واحدة جيدًا قد يتدهور مع عشر محادثات.
وتأتي النماذج المفتوحة الأوزان عادة بمنتج أقل حولها. ChatGPT ليس ملف أوزان فقط، بل بحث وأدوات وفلاتر وبيئة تنفيذ وإدارة سياق وبنية تحتية وتحديثات. محليًا يجب أن يبني أحد هذه القطع أو يختارها ويحافظ عليها.
هذه السيطرة نفسها جزء من القيمة. يمكن تثبيت إصدار ومنع خروج الشبكة ومراقبة كل استدعاء وإزالة القدرات غير المطلوبة. لكن الكلفة تنتقل من سعر token إلى العتاد والكهرباء والتكامل والأمن والتشغيل.
متى ينسجم مع المعمارية؟
يكون الاستدلال المحلي منطقيًا عادة حين تجتمع عدة شروط:
- البيانات حساسة أو تخضع لمتطلبات صارمة للإقامة والسيطرة؛
- المهمة محددة ويمكن تقييمها بأمثلة حقيقية؛
- يحقق نموذج محلي الجودة المطلوبة، حتى إن لم يكن أفضل نموذج متاح؛
- الحجم مستقر وكافٍ لاستغلال العتاد؛
- للعمل بلا اتصال أو لخفض زمن الشبكة أو تثبيت الإصدار قيمة؛
- تستطيع المؤسسة تشغيل النظام وتحديثه.
ويكون أقل منطقية عند الاستخدام المتقطع، أو الحاجة الدائمة إلى أقصى قدرة، أو أهمية أحدث المعارف، أو غياب فريق للصيانة. قد تكون API مؤسسية متعاقد عليها ومهيأة جيدًا أكثر أمانًا من خادم محلي مرتجل. الموقع الفيزيائي لا يستبدل المعمارية الجيدة.
ستظهر تصاميم هجينة كثيرة. يستطيع نموذج صغير التصنيف أو الصياغة أو إزالة الهوية محليًا، ثم تنتقل الحالات الصعبة إلى نموذج أكبر في سحابة خاصة أو خدمة خارجية حين يسمح القانون. يظل استرجاع الوثائق محليًا ولا يُصعَّد إلا الضروري.
ليست المسألة اختيارًا أيديولوجيًا بين السحابة والسيادة، بل قرار معماري مبني على المخاطر والجودة والزمن والكلفة الكلية.
ما الذي يتغير فعلًا؟
الاتجاه الأهم ليس أن الحاسوب المحمول سيشغل أفضل نموذج في العالم. ستواصل نماذج الصدارة النمو واستهلاك حساب أكبر أثناء الإجابة والاندماج مع أنظمة لا يستطيع حاسوب محمول تقليدها.
الأهم أن مستوى القدرة الذي تعتبره الشركة كافيًا يتسع في نموذج أصغر كل عام.
سنرى نماذج أكثر مصممة للأجهزة منذ البداية: معاملات نشطة قليلة، وتكميم داخل التدريب، وذاكرة سياق أصغر، وتنبؤًا بعدة tokens في الوقت نفسه. سيزيد المصنعون الذاكرة المشتركة وعرض النطاق، وستستفيد برامج الاستدلال من GPU وNPU من دون أن يطور كل مشروع تحسينات خاصة بعتاده.
وسنرى محادثات محلية عامة أقل ووظائف غير مرئية داخل المنتجات أكثر: تصنيف حادثة، أو استخراج فاتورة، أو البحث في الوثائق، أو إعداد رد، أو نسخ اجتماع وتنظيمه. نموذج صغير يحل مهمة واحدة بصورة متوقعة قد يكون أثمن من مساعد عام مبهر في العرض.
سيكون الأثر المعماري هو الأهم للشركات. سيقترب جزء من الاستدلال من البيانات ويصبح طبقة في التطبيق، وتبقى النماذج الأكبر مسار تصعيد للاستثناءات، كما لا نرسل اليوم كل معالجة إلى قاعدة البيانات أو الخدمة نفسها.
لا يلغي الاستدلال المحلي مشكلات الذكاء الاصطناعي الصعبة، بل يغير المشكلة التي تظهر أولًا. لم نعد مضطرين إلى البدء بالسؤال عن وجود جهاز يشغل النموذج. يمكننا البدء بالسؤال الذي كان يجب أن يسبق غيره:
أي جزء محدد من العملية يستحق أن نأتمن عليه هذا النموذج، وكيف سنعرف عندما يخطئ؟
المصادر
- Stanford HAI: Technical Performance, AI Index Report 2025
- Epoch AI: Algorithmic progress in language models
- Qwen 3.8 27B: البطاقة الرسمية والأوزان
- Simon Willison: اختبارات عملية لـQwen 3.8 27B
- LocalLLaMA: تجارب البرمجة الفعلية مع Qwen 3.8 27B
- LocalLLM: النماذج المستخدمة يوميًا
- Google: متطلبات ذاكرة Gemma 4
- Google Developers: تشغيل Gemma 4 12B على الحواسيب المحمولة
- OpenAI: تقديم gpt-oss
- OpenAI: بطاقة نموذج gpt-oss
- llama.cpp: الاستدلال والتكميم على العتاد الاستهلاكي
- NVIDIA: مواصفات DGX Spark
- AMD: تشغيل نماذج كبيرة محليًا على Ryzen AI Max+ 395
- Apple: جهاز Mac mini بمعالجي M6 وM5 Pro
- Apple: جهاز Mac Studio بمعالجي M5 Max وM5 Ultra
- DeepSeek: البطاقة الرسمية والأوزان لنموذج DeepSeek V4 Flash
- MLX Community: تكميم 2.44 بت واختبارات M5 Max
- CNIL: أسئلة وأجوبة عن نشر الذكاء الاصطناعي التوليدي
- المجلس الأوروبي لحماية البيانات: الرأي 28/2024
- المفوضية الأوروبية: دليل قانون الذكاء الاصطناعي
- EUR-Lex: اللائحة العامة لحماية البيانات
