تكشف Google عن Small Ultra-Small و فعالة Open Source Model Gemma 3 270M يمكن تشغيلها على الهواتف الذكية

على”https://x.com/osanseviero/status/1956032217257287688″ الهدف=”_blank” rel=”noreferrer noopener”> الشبكة الاجتماعية x، وأضاف مهندس علاقات مطوري Google Deepmind AI Omar Sanseviero أنه يمكن لـ Gemma 3 270M أيضًا قم بتشغيله مباشرة في متصفح الويب الخاص بالمستخدم ، على Raspberry Pi، و “في محمستك” ، مما يؤكد قدرته على العمل على أجهزة خفيفة الوزن للغاية.

يجمع GEMMA 3 270M بين 170 مليون معلمة تضمين – بفضل مفردات كبيرة تبلغ 256 ألفًا قادرة على التعامل مع الرموز النادرة والمحددة – مع 100 مليون معلمات كتلة المحولات.

وفقًا لـ Google ، تدعم الهندسة المعمارية أداءً قوياً في مهام تتبع التعليمات مباشرة خارج الصندوق مع الحفاظ على صغرها بما يكفي للضغط السريع والنشر على الأجهزة ذات الموارد المحدودة ، بما في ذلك الأجهزة المحمولة.

يرث Gemma 3 270m الهندسة المعمارية ونماذج Gemma 3 الكبيرة ، مما يضمن التوافق عبر نظام GEMMA البيئي. من خلال الوثائق والوصفات الدقيقة وأدلة النشر المتاحة لأدوات مثل Hugging Face و Unloth و Jax ، يمكن للمطورين الانتقال من التجريب إلى النشر بسرعة.

درجات عالية على المعايير لحجمها ، وارتفاع الكفاءة

على معيار Ifeval ، الذي يقيس قدرة النموذج على اتباع التعليمات، سجل Gemma 3 270M التعليمي 51.2 ٪.

النتيجة تضعها أعلى بكثير من النماذج الصغيرة بالمثل مثل SMOLLM2 135M ANDRUCT و QWEN 2.5 0.5B الإرشادات، وأقرب من نطاق الأداء الذي يضم حوالي مليار نماذج معلمة ، وفقًا للمقارنة المنشورة من Google.

ومع ذلك ، كما”https://x.com/maximelabonne/status/1956033482871734689″ الهدف=”_blank” rel=”noreferrer noopener”> الباحثون و”https://x.com/ramin_m_h/status/1956030558275833879″ الهدف=”_blank” rel=”noreferrer noopener”> القادة عند بدء تشغيل منافس الذكاء الاصطناعي”https://venturebeat.com/ai/liquid-ai-wants-to-give-smartphones-small-fast-ai-that-can-see-with-new-lfm2-vl-model/”> سائل الذكاء الاصطناعي أشار إلى ردود على X ، ترك Google Off Liquid الخاص”https://www.liquid.ai/blog/liquid-foundation-models-v2-our-second-series-of-generative-ai-models” الهدف=”_blank” rel=”noreferrer noopener”> تم إصدار طراز LFM2-350M في يوليو من هذا العام ، والذي سجل ضائعًا 65.12 ٪ مع عدد قليل من المعلمات الأخرى (نموذج لغة مماثلة ، ومع ذلك).

واحدة من نقاط القوة المميزة للنموذج هي كفاءة الطاقة. في الاختبارات الداخلية باستخدام النموذج int4 المعتمد على Pixel 9 Pro Soc ، استهلكت 25 محادثات 0.75 ٪ فقط من بطارية الجهاز.

هذا يجعل Gemma 3 270M خيارًا عمليًا لـ AI على الجهاز ، وخاصة في الحالات التي تكون فيها الخصوصية والوظائف غير المتصلة بالإنترنت مهمة.

يتضمن الإصدار كل من نموذج مبني وملفه التعليمات ، مما يمنح المطورين فائدة فورية لمهام متابعة التعليمات العامة.

تتوفر نقاط التفتيش المدربة (QAT) المدربين على دراية بالكمية ، مما يتيح دقة Int4 مع الحد الأدنى من فقدان الأداء وجعل النموذج جاهزًا للبيئات المقيدة للموارد.

يمكن أن تؤدي نسخة صغيرة من GEMMA 3 270M العديد من وظائف LLMS أكبر

تقوم Google بتطوير Gemma 3 270M كجزء من فلسفة أوسع لاختيار الأداة المناسبة للوظيفة بدلاً من الاعتماد على حجم النموذج الخام.

بالنسبة لوظائف مثل تحليل المشاعر ، واستخراج الكيانات ، وتوجيه الاستعلام ، وتوليد النصوص المنظمة ، وفحص الامتثال ، والكتابة الإبداعية ، تقول الشركة إن النموذج الصغير المضبوط يمكن أن يحقق نتائج أسرع وأكثر فعالية من حيث التكلفة من أداء كبير للأغراض العامة.

فوائد التخصص واضحة في العمل السابق ، مثل تعاون ML التكيفي مع SK Telecom.

من خلال ضبط نموذج GEMMA 3 4B لاعتدال المحتوى متعدد اللغات ، تفوق الفريق على أنظمة ملكية أكبر بكثير.

تم تصميم Gemma 3 270M لتمكين نجاح مماثل على نطاق أصغر ، دعم أساطيل النماذج المتخصصة المصممة خصيصًا للمهام الفردية.

تطبيق مولد قصة وقت النوم التجريبي يعرض إمكانات Gemma 3 270M

ما وراء استخدام المؤسسة ، يناسب النموذج السيناريوهات الإبداعية أيضًا. في”https://youtu.be/ds95v-Aiu5E?si=EkfuUG80MzaoIIyD” الهدف=”_blank” rel=”noreferrer noopener”> الفيديو التجريبي المنشور على YouTube، يعرض Google تطبيق مولد قصة وقت النوم مصنوع من Gemma 3 270m و Transformers.js يعمل في وضع عدم الاتصال تمامًا في متصفح الويب ، إظهار براعة النموذج في تطبيقات خفيفة الوزن يمكن الوصول إليها.

يسلط الفيديو الضوء على قدرة النموذج على تصنيع مدخلات متعددة من خلال السماح بالتحديدات للشخصية الرئيسية (على سبيل المثال ، “قطة سحرية”) ، وهي بيئة (“في غابة ساحرة”) ، تطور مؤامرة (“يكشف باب سري”) ، موضوع (“مغامر”) ، والطول المطلوب (“قصير”).

بمجرد تعيين المعلمات ، يولد نموذج GEMMA 3 270M قصة متماسكة وخيال. يستمر التطبيق إلى نسج حكاية قصيرة ومغامرة بناءً على اختيارات المستخدم ، مما يدل على قدرة النموذج على توليد النص الإبداعي المعروف بالسياق.

هذا الفيديو بمثابة مثال قوي على كيفية يمكن لـ Gemma 3 270M خفيفة الوزن ولكنها قادرة على تشغيل تطبيقات سريعة وجذابة وتفاعلية دون الاعتماد على السحابة، فتح إمكانيات جديدة لتجارب الذكاء الاصطناعي على الجهاز.

مفتوح المصدر تحت رخصة مخصصة لـ Gemma

يتم إصدار GEMMA 3 270M بموجب شروط الاستخدام GEMMA ، والتي تسمح باستخدام واستنساخ وتعديل وتوزيع النموذج والمشتقات ، بشرط استيفاء شروط معينة.

وتشمل هذه الأمور المضي قدمًا في سياسة الاستخدام المحظورة في Google ، وتزويد شروط الاستخدام للمستلمين المصب ، وتشير بوضوح إلى أي تعديلات تم إجراؤها. يمكن أن يكون التوزيع مباشرًا أو من خلال الخدمات المستضافة مثل واجهات برمجة التطبيقات أو تطبيقات الويب.

بالنسبة لفرق المؤسسات والمطورين التجاريين ، هذا يعني أنه يمكن تضمين النموذج في المنتجات ، أو يتم نشره كجزء من الخدمات السحابية ، أو تم ضبطه في مشتقات متخصصة ، طالما يتم احترام شروط الترخيص. لا يتم المطالبة بالمخرجات التي تم إنشاؤها بواسطة النموذج بواسطة Google ، مما يمنح الشركات حقوقًا كاملة على المحتوى الذي تنشئه.

ومع ذلك ، يتحمل المطورون مسؤولية ضمان الامتثال للقوانين المعمول بها وتجنب الاستخدامات المحظورة ، مثل توليد محتوى ضار أو انتهاك قواعد الخصوصية.

ال الترخيص ليس مفتوح المصدر بالمعنى التقليدي ، لكنه يمكّن الاستخدام التجاري الواسع دون رخصة منفصلة مدفوعة الأجر.

بالنسبة للشركات التي تقوم ببناء تطبيقات AI التجارية ، فإن الاعتبارات التشغيلية الرئيسية تضمن أن المستخدمين النهائيين ملزمون بالقيود المكافئة ، وتوثيق تعديلات النماذج ، وتنفيذ تدابير السلامة التي تتماشى مع سياسة الاستخدامات المحظورة.

مع تجاوز Gemmaverse 200 مليون تنزيل وتشكيلة GEMMA التي تمتد إلى السحابة وسطح المكتب والمتغيرات المحسنة للهاتف المحمول ، يقوم مطورو Google AI بوضع GEMMA 3 270M كأساس لبناء حلول AI سريعة وفعالة من حيث التكلفة وتركيز الخصوصية ، ويبدو بالفعل بداية رائعة.