تخفيض الشفافية في جوجل من Google يترك مطوري المؤسسات “تصحيح الأخطاء العمياء”

الصورة الائتمان: VentureBeat مع ChatGpt

جوجلقرار حديث بإخفاء الرموز المميزة للمنطق الخام لنموذجها الرئيسي ،”https://venturebeat.com/ai/google-launches-production-ready-gemini-2-5-ai-models-to-challenge-openais-enterprise-dominance/”> Gemini 2.5 Pro، أثار رد فعل عنيف من المطورين الذين كانوا يعتمدون على هذه الشفافية لبناء وتصحيح تطبيقات.

التغيير الذي يردد أ”https://venturebeat.com/ai/heres-how-openai-o1-might-lose-ground-to-open-source-models/”> خطوة مماثلة بواسطة Openai، يحل محل المنطق خطوة بخطوة مع ملخص مبسط. تبرز الاستجابة التوتر الحاسم بين إنشاء تجربة مستخدم مصقولة وتوفير الأدوات التي يمكن ملاحظتها وجديرة بالثقة التي تحتاجها المؤسسات.

نظرًا لأن الشركات تدمج نماذج اللغة الكبيرة (LLMS) في أنظمة أكثر تعقيدًا ومرهقة للمهمة ، فإن النقاش حول مقدار الأعمال الداخلية للنموذج التي يجب أن تتعرض لها قضية مميزة للصناعة.

“خفض أساسي” في شفافية الذكاء الاصطناعي

لحل المشكلات المعقدة ، تولد نماذج الذكاء الاصطناعى المتقدمة مونولوجًا داخليًا ، يشار إليها أيضًا باسم “”https://venturebeat.com/ai/dont-believe-reasoning-models-chains-of-thought-says-anthropic/”> سلسلة الفكر”(COT). هذه سلسلة من الخطوات الوسيطة (على سبيل المثال ، خطة ، مسودة الكود ، التصحيح الذاتي) الذي ينتجه النموذج قبل الوصول إلى إجابته النهائية. على سبيل المثال ، قد تكشف عن كيفية معالجة البيانات ، والتي أجزاء من المعلومات التي يستخدمها ، وكيفية تقييم الكود الخاص بها ، وما إلى ذلك.

بالنسبة للمطورين ، غالبًا ما يكون ممر التفكير هذا بمثابة أداة تشخيصية وتصحيح أساسية. عندما يوفر النموذج إخراجًا غير صحيح أو غير متوقع ، تكشف عملية التفكير عن مكان ضلال منطقه. وصادف أن تكون واحدة من المزايا الرئيسية لـ Gemini 2.5 Pro على Openai’s O1 و O3.

في منتدى مطور الذكاء الاصطناعي من Google ، أطلق المستخدمون إزالة هذه الميزة “”https://discuss.ai.google.dev/t/massive-regression-detailed-gemini-thinking-process-vanished-from-ai-studio/83916″ الهدف=”_blank” rel=”noreferrer noopener”> الانحدار الهائل” بدون ذلك ، يتم ترك المطورين في الظلام. وصف آخر تم إجباره على “تخمين” سبب فشل النموذج ، مما أدى إلى “حلقات محبط للغاية ومتكررة تحاول إصلاح الأشياء”.

إلى جانب تصحيح الأخطاء ، تعد هذه الشفافية أمرًا بالغ الأهمية لبناء أنظمة الذكاء الاصطناعى المتطورة. يعتمد المطورون على سرير الأطفال لضبطه وتعليمات النظام ، والتي هي الطرق الأساسية لتوجيه سلوك النموذج. الميزة مهمة بشكل خاص لإنشاء مهام سير عمل Agentic ، حيث يجب على الذكاء الاصطناعي تنفيذ سلسلة من المهام. لاحظ أحد المطورين ، “ساعدت الأطفال في صياغة سير العمل بشكل صحيح بشكل صحيح.”

بالنسبة للمؤسسات ، يمكن أن يكون هذا التحرك نحو التعتيم مشكلة. نماذج من الذكاء الاصطناعي السوداء التي تخفي تفكيرها تحدد خطرًا كبيرًا ، مما يجعل من الصعب الوثوق بمخرجاتها في سيناريوهات المخاطر العالية. هذا الاتجاه ، الذي بدأه نماذج تفكير O-Series من Openai وتبنيها الآن من قبل Google ، يخلق فتحة واضحة للبدائل المفتوحة مثل المصدر مثل”https://venturebeat.com/ai/deepseek-r1-0528-arrives-in-powerful-open-source-challenge-to-openai-o3-and-google-gemini-2-5-pro/”> Deepseek-R1 و”https://venturebeat.com/ai/alibabas-new-open-source-model-qwq-32b-matches-deepseek-r1-with-way-smaller-compute-requirements/”> QWQ-32B.

النماذج التي توفر الوصول الكامل إلى سلاسل التفكير الخاصة بهم تمنح المؤسسات مزيدًا من السيطرة والشفافية على سلوك النموذج. لم يعد قرار الرصاص CTO أو AI هو النموذج الذي يحتوي على أعلى الدرجات القياسية. إنه الآن اختيار استراتيجي بين نموذج الأداء الأعلى ولكن غير شفاف ونموذج أكثر شفافية يمكن دمجها بثقة أكبر.

استجابة جوجل

رداً على الصراخ ، أوضح أعضاء فريق Google الأساس المنطقي. لوجان كيلباتريك ، مدير منتج كبير في Google DeepMind ،”https://discuss.ai.google.dev/t/massive-regression-detailed-gemini-thinking-process-vanished-from-ai-studio/83916/103″ الهدف=”_blank” rel=”noreferrer noopener”> توضيح أن التغيير كان “مستحضرات التجميل البحتة” ولا يؤثر على الأداء الداخلي للنموذج. وأشار إلى أنه بالنسبة لتطبيق Gemini الذي يواجه المستهلك ، يخفي عملية التفكير المطولة تجربة مستخدم أنظف. وقال: “٪ من الأشخاص الذين سوف يقرؤون أو يقرؤون الأفكار في تطبيق الجوزاء صغير جدًا”.

بالنسبة للمطورين ، كان المقصود من الملخصات الجديدة بمثابة خطوة أولى نحو الوصول إلى آثار التفكير برمجيًا من خلال API ، والتي لم تكن ممكنة من قبل.

اعترف فريق Google بقيمة الأفكار الأولية للمطورين. وكتب كيلباتريك: “أسمع أنك تريد جميعًا أفكارًا خامًا ، والقيمة واضحة ، وهناك حالات استخدام تتطلب منها” ، مضيفًا أن إعادة الميزة إلى استوديو الذكاء الاصطناعى الذي يركز على المطورين هو “شيء يمكننا استكشافه”.

يشير رد فعل Google على رد الفعل العكسي للمطور إلى أن الأرض الوسطى ممكنة ، ربما من خلال “وضع المطور” الذي يعيد إعادة تهيئة الوصول إلى الفكر الخام. لن تنمو الحاجة إلى الملاحظة إلا مع تطور نماذج الذكاء الاصطناعي إلى عوامل أكثر استقلالية تستخدم الأدوات وتنفيذ خطط معقدة متعددة الخطوات.

كما انتهى كيلباتريك في ملاحظاته ، “… يمكنني بسهولة أن أتخيل أن الأفكار الخام تصبح مطلبًا حاسمًا لجميع أنظمة الذكاء الاصطناعى بالنظر إلى التعقيد المتزايد والحاجة إلى التتبع + الملاحظة.”

هل تم المبالغة في الرموز المنطقية؟

ومع ذلك ، يقترح الخبراء أن هناك ديناميات أعمق في اللعب من مجرد تجربة المستخدم. Subbarao Kambhampati ، أستاذ منظمة العفو الدولية في”https://www.asu.edu/” الهدف=”_blank” rel=”noreferrer noopener”> جامعة ولاية أريزونا، أسئلة ما إذا كان “الرموز الوسيطة” التي ينتجها نموذج التفكير قبل الإجابة النهائية يمكن استخدامها كدليل موثوق لفهم كيفية حل النموذج للمشاكل. أ”https://arxiv.org/abs/2504.09762v2″ الهدف=”_blank” rel=”noreferrer noopener”> ورقة وقد شارك مؤخرًا في تأليفه بأنه مجسم “الرموز المتوسطة” كـ “آثار التفكير” أو “الأفكار” يمكن أن يكون لها آثار خطيرة.

غالبًا ما تذهب النماذج إلى اتجاهات لا نهاية لها وغير مفهومة في عملية التفكير. توضح العديد من التجارب أن النماذج المدربة على آثار التفكير الخاطئة والنتائج الصحيحة يمكن أن تتعلم حل المشكلات تمامًا وكذلك النماذج المدربة على آثار التفكير المنسقة جيدًا. علاوة على ذلك ، يتم تدريب أحدث جيل من نماذج التفكير”https://venturebeat.com/ai/open-source-deepseek-r1-uses-pure-reinforcement-learning-to-match-openai-o1-at-95-less-cost/”> التعلم التعزيز الخوارزميات التي تتحقق فقط من النتيجة النهائية ولا تقوم بتقييم “تتبع التفكير” للنموذج.

“إن حقيقة أن تسلسل الرمز المميز المتوسط ​​غالبًا ما تبدو بشكل معقول مثل عمل الخدش البشري بشكل أفضل وتهجئة … لا تخبرنا كثيرًا عما إذا كانت تستخدم في أي مكان بالقرب من نفس الأغراض التي يستخدمها البشر ، ناهيك عما إذا كان يمكن استخدامها كإطار قابلة للتفسير في ما يفكر فيه LLM ، أو كمبرر موثوق للإجابة النهائية” ، يكتب الباحثون.

“لا يمكن لمعظم المستخدمين أن يصنعوا أي شيء من مجلدات الرموز الوسيطة الخام التي تنشرها هذه النماذج” ، قال Kambhampati لـ VentureBeat. “كما نذكر ، ينتج Deepseek R1 30 صفحة من اللغة الإنجليزية الزائفة في حل مشكلة التخطيط البسيطة! شرح ساخر لماذا قرر O1/O3 عدم إظهار الرموز المميزة الأولية في الأصل لأنهم أدركوا أن الأشخاص سوف يلاحظون مدى عدم ترابطهم!”

ومع ذلك ، يقترح Kambhampati أن الملخصات أو تفسيرات ما بعد الواقع من المرجح أن تكون أكثر تفريغًا للمستخدمين النهائيين. وقال “تصبح القضية إلى أي مدى يدلون في الواقع على العمليات الداخلية التي مرت بها LLMs”. “على سبيل المثال ، كمدرس ، قد أحل مشكلة جديدة مع العديد من البدايات الخاطئة والتراجع ، لكن شرح الحل بالطريقة التي أعتقد أنها تسهل فهم الطلاب.”

يعد قرار إخفاء Cot أيضًا بمثابة خندق تنافسي. آثار التفكير الخام هي بيانات تدريب قيمة بشكل لا يصدق. كما يلاحظ Kambhampati ، يمكن للمنافس استخدام هذه الآثار لأداء “التقطير” ، وهي عملية تدريب نموذج أصغر وأرخص لتقليد قدرات واحدة أكثر قوة. إن إخفاء الأفكار الخام يجعل من الصعب على المنافسين نسخ الصلصة السرية للنموذج ، وهي ميزة حاسمة في صناعة كثيفة الموارد.

النقاش حول سلسلة الفكر هو معاينة لمحادثة أكبر بكثير حول مستقبل الذكاء الاصطناعي. لا يزال هناك الكثير لنتعرف على الأعمال الداخلية لنماذج التفكير ، وكيف يمكننا الاستفادة منها ، وإلى أي مدى هم مقدمو النماذج على استعداد للذهاب لتمكين المطورين من الوصول إليها.