شهدت أداة البرمجة المدعومة بالذكاء الاصطناعي «Junie Local» تسارعًا ملحوظًا على أجهزة Mac المزودة بشريحة M5، حيث ارتفعت سرعة توليد الرموز من حوالي 40 رمزًا/ثانية إلى حوالي 70 رمزًا/ثانية في مهام البرمجة، مع إمكانية الوصول إلى 107 رموز/ثانية في بعض الأحيان. هذه القفزة في الأداء جاءت بفضل استخدام محرك الاستنتاج الجديد Splash ونموذج السحب DFlash2.
تُظهر هذه التحسينات مدى سرعة تطور نماذج اللغات الكبيرة (LLMs)، حيث تمكنت «Junie Local» من الاستفادة من التطورات المجتمعية التي ظهرت خلال شهرين فقط من إطلاقها الأول على Mac M5.
كيف تحقق هذا التحسين الجذري؟
يكمن أحد الأسباب الرئيسية في تبني محرك الاستنتاج Splash، الذي طورته Inco AI. صُمم Splash خصيصًا ليعمل مع نماذج Qwen، ويتميز بقدرته على التحقق من ثمانية رموز مسودة في خطوة فك تشفير واحدة. هذا يقلل بشكل كبير من تكلفة الانتباه مع نمو السياق، مما يحافظ على سرعة فك التشفير. بعد دمج تحسينات int8 من محرك MLX-VLM السابق، أصبح Splash هو المحرك الافتراضي الجديد لـ «Junie Local».
الجانب الآخر من المعادلة هو نموذج السحب DFlash2. في الاستدلال التخميني، تحدد نسبة القبول سرعة فك التشفير. لمعالجة مشكلة «الإفراط في التفكير» في نموذج Qwen 3.8 الأصلي، تم استخدام نموذج Qwen3.8-3.6-27B-blend الأكثر كفاءة. بعد ذلك، تم تدريب نموذج DFlash2 على هذا المزيج باستخدام مسارات ترميز وكيلية متنوعة، مما أدى إلى تحقيق أعلى سرعة ونسبة قبول عند استخدامه للبرمجة مع «Junie Local». المثير للدهشة أن عملية الضبط الدقيق لنموذج السحب لم تتطلب سوى حوالي مليون رمز تم إنشاؤها لتحقيق نسبة قبول مطابقة لـ Inco.
ماذا يعني هذا للمطورين؟
بالنسبة للمطورين الذين يستخدمون «Junie Local» على أجهزة Mac، تعني هذه التحديثات تجربة برمجة أسرع وأكثر سلاسة. التحسينات لا تقتصر على سرعة التوليد فحسب، بل تشمل أيضًا تحسين سرعة التعبئة المسبقة (prefill) من 850 رمزًا/ثانية إلى 1200 رمزًا/ثانية، وتقليل استهلاك الذاكرة إلى حوالي 24 جيجابايت من ذاكرة الوصول العشوائي لسياق 100 ألف رمز. يمكن الآن استخدام هذه الميزات على أجهزة Mac M4 والإصدارات الأحدث التي تحتوي على 64 جيجابايت من ذاكرة الوصول العشوائي، مع ملاحظة أن سرعة التعبئة المسبقة ستكون أبطأ بحوالي أربع مرات على M4 مقارنة بـ M5.
يمكن للمستخدمين الحاليين تحديث «Junie» عن طريق تشغيل أمر `junie update` ثم `ctrl + r` لتحديث محرك الاستنتاج. أما المستخدمون الجدد، فيمكنهم تثبيت «Junie» والنموذج المحلي عبر سطر الأوامر.
المصدر: blog.jetbrains.com