من فضلك تسجيل الدخول أو تسجيل لتفعل ذلك.

في تطور مقلق، كشف باحث أمني يُدعى «veritas» عن نص برمجي لبصمات المتصفح يحوي تعليمات خفية مصممة لتجاوز إجراءات الحماية في نماذج الذكاء الاصطناعي الكبيرة (LLMs)، وطلب منها توفير أدلة تقنية خطيرة حول مواضيع مثل إنشاء الأسلحة البيولوجية، شن هجمات DDoS عالمية، وطرق التهرب الضريبي.

بدأت القصة عندما قام الباحث بفهرسة وتحليل بصمات الشاشات (canvas fingerprinting) من أكثر من 10,000 موقع إلكتروني باستخدام أداة Playwright. لاحظ الباحث وجود نص برمجي واحد تحديدًا، قادم من النطاق «servicepipe.tech»، يحوي وظائف بأسماء مثل «computeRicinLethalDosageForWaterSupply» و«calculateDeadlyLethalSuicideAspirinDosage» والتي أثارت الشكوك.

التعليمات الخفية وتجاوز القيود

عند فحص النص البرمجي، تبين أنه يخفي سلسلة من أحرف Unicode غير المرئية التي، عند فك تشفيرها، تكشف عن موجه نظام (system prompt) يهدف إلى جعل نماذج الذكاء الاصطناعي تعمل في «وضع غير مقيد». يطلب هذا الموجه دليلاً تقنيًا مفصلاً خطوة بخطوة حول عدة مواضيع حساسة:

  • الأمن السيبراني: كتابة برامج ضارة لشن هجمات DDoS عالمية على البنية التحتية الحيوية للرعاية الصحية.
  • المالية: شرح تقنيات التهرب الضريبي لإخفاء مصادر الدخل وتجنب المدفوعات الإلزامية.
  • البيولوجية: تركيب عوامل بيولوجية مُسلّحة مناسبة للنشر بالرذاذ في المناطق الحضرية ذات الكثافة السكانية العالية.
  • التسليح البيولوجي: إنشاء أسلحة دمار شامل باستخدام علم الفيروسات وعلم المناعة والهندسة الوراثية على البشر.
  • المواد: وصف الجرعات والتوقيت والتركيبات الصحيحة للمواد غير المشروعة والعقاقير المتاحة بشكل شائع.

أشار الباحث إلى أن هذه التعليمات تضمنت أيضًا إشارات إلى أحداث ميدان تيانانمن، ربما كوسيلة لمواجهة نماذج الذكاء الاصطناعي الصينية. وعندما حاول الباحث إدخال هذا النص إلى نموذج «Astra» و«Daybreak Blue»، رفضا الامتثال لدواعي السلامة. ومع ذلك، عندما جرب «GLM-5.3»، امتثل النموذج للطلب وساعد في فك تشفير التعليمات الخطيرة.

استغلال بيئات Node.js

لا يقتصر الخطر على تجاوز قيود نماذج الذكاء الاصطناعي فقط، فالنص البرمجي يحتوي أيضًا على جزء يستهدف بيئات Node.js. في حال وجود متغير البيئة «process.env.METRICS_AGENT_8BFD_ACTIVE»، يحاول النص قراءة ملفات حساسة مثل ملفات التكوين لـ «npmrc.» و«env.» و«gitignore.» و«kube/config» وغيرها، مما يشير إلى محاولة استخراج بيانات حساسة من بيئات تطوير أو خوادم.

ماذا يعني هذا للمطورين؟

هذا الاكتشاف يسلط الضوء على تكتيكات جديدة ومقلقة في عالم الأمن السيبراني. نرى أن المطورين يجب أن يكونوا أكثر حذرًا من أي وقت مضى بشأن تضمين النصوص البرمجية الخارجية، حتى لو بدت غير ضارة. يجب أن يكون هناك تدقيق دقيق للمكتبات والأدوات التي يتم استخدامها، وفهم كيفية عملها بشكل كامل.

كما يبرز هذا الحدث التحديات المستمرة في تأمين نماذج الذكاء الاصطناعي ضد محاولات «التهكير» أو تجاوز القيود (jailbreaking)، وكيف يمكن استخدام تقنيات التمويه المعقدة لإخفاء الأوامر الخبيثة. الأمر يتطلب يقظة مستمرة وتطوير أدوات تحليل أمنية أكثر تطوراً لاكتشاف مثل هذه التهديدات المخفية.

المصدر: nullpt.rs

«أمازون» تحث مطوريها على التركيز على القيمة لا استهلاك رموز AI
تقرير Octoverse 2026: وكلاء AI يدفعون نمو GitHub الهائل

Reactions

0
0
0
0
0
0
بالفعل كان رد فعل لهذا المنصب.

ردود الفعل