في خطوة تثير جدلاً واسعاً، ظهرت شركات تقنية جديدة تخصصت في إزالة القيود والضوابط الأخلاقية من نماذج الذكاء الاصطناعي المتقدمة، فاتحة الباب أمام استخدامات قد تكون خطيرة.
تُقدم منصة Abliteration.ai، التي استلهمت اسمها من تقنية تُجرّد نماذج الذكاء الاصطناعي من ميلها لرفض المهام الضارة، خدمة تجارية لهذه الغاية. تستضيف المنصة نسخاً معدلة من نماذج الذكاء الاصطناعي مفتوحة المصدر، تم تجريدها من حواجزها الوقائية، بما في ذلك نماذج حديثة مثل GLM-5.3. يمكن للمستخدمين التفاعل مع هذه النماذج عبر متصفح الويب أو من خلال واجهة برمجة التطبيقات (API).
تهدف الشركة، حسب ما أعلنت على وسائل التواصل الاجتماعي، إلى تمكين الأفراد والجهات من إجراء اختبارات اختراق سيبراني هجومية، وتقييمات أمنية، واختبارات للوكلاء الآليين، وهي مهام غالباً ما ترفضها النماذج الأخرى. يستند هذا التوجه إلى مبدأ أمني معروف: لا يمكن الدفاع ضد سلوك لا يمكن محاكاته. فالنموذج الذي يرفض كتابة أكواد استغلال جاهزة، لا يمكنه مساعدة فرق الدفاع في الاستعداد ضد المهاجمين. لكن هذه الإزالة نفسها تسهّل أيضاً تنفيذ مهام أخرى قد تكون خطرة.
ليست تقنية إزالة القيود جديدة في عالم النماذج مفتوحة المصدر، فقد ظل الباحثون والمطورون يقومون بذلك لسنوات، وتستضيف منصات مثل Hugging Face آلاف النماذج المعدلة بهذه الطريقة. لكن Abliteration.ai تنقل هذه الممارسة من نطاق المصادر المفتوحة إلى خدمة تجارية متاحة بسهولة. من خلال استضافة هذه النماذج، تقلل Abliteration.ai من الجهد المطلوب من المستخدمين الذين كانوا سيضطرون سابقاً لتحميل النماذج المعدلة بأنفسهم وتأمين الموارد الحاسوبية اللازمة لتشغيلها.
خلال تجربة أجرتها TechCrunch، تمكنت من إنشاء حساب بسرعة والبدء في استخدام نسخة معدلة من GLM-5.3 مجاناً عبر المتصفح. عند طلب كتابة برنامج Python لسرقة كلمات المرور المحفوظة في Chrome، وبروتوكول مفصل لزراعة مسببات الأمراض البشرية الخطيرة في المنزل، استجاب النموذج للمهام على الفور.
وفقاً لمؤسس مشارك في Abliteration.ai، والذي طلب عدم الكشف عن اسمه الأخير، فإن الشركة أبرمت عدة صفقات مع مقدمي خدمات سحابية كبار، وتعتمد في تمويلها بالكامل على إيرادات العملاء، ولم تجمع أي استثمارات رأسمالية حتى الآن، لكنها في محادثات لجمعها.
من جانبهم، يحذر النقاد من أن إتاحة هذه النماذج المعدلة على نطاق واسع قد تؤدي إلى أضرار حقيقية. ويقول أندرو يون، رئيس الأبحاث في منظمة CivAI غير الربحية المعنية بسلامة الذكاء الاصطناعي، إن تجريد النماذج من قيودها يجعلها أشبه بـ "سيكوباتي"، حيث تستجيب لأي طلب دون تمييز. ويتوقع يون أن نشهد في المستقبل القريب استخدام هذه النماذج المعدلة لأغراض ضارة.
يشير معظم الخبراء الذين تحدثت معهم TechCrunch إلى صعوبة إيقاف هذا التوجه. ومع ذلك، يقترح يون أن تتدخل الحكومات عبر فرض متطلبات على مقدمي الخدمات تتضمن تشغيل مصنفات للكشف عن أنشطة الأسلحة السيبرانية والبيولوجية الضارة وحظرها. كما يطالب بضرورة التحقق من هويات العملاء الذين يستأجرون وحدات معالجة رسومية (GPUs) متقدمة، وحظر الوصول لمن يُشتبه في سوء استخدامه.
تقدم Abliteration.ai لعملائها طبقة إشراف تسمح لهم بإضافة أي قيود يرغبون بها. وتمتلك المنصة نفسها بعض القيود البسيطة؛ ففي الاختبارات، لم يتمكن النموذج من تقديم تعليمات للانتحار، ويقول المؤسس إنه يعمل على تطبيق المزيد من الضوابط لمنع العنف.
فيما يتعلق بممارسات التحقق من الهوية (KYC)، لم تدمج Abliteration.ai سوى تسجيل بطاقة الائتمان المستخدمة لشراء الخدمة، مشيرة إلى أن تحديد من يحصل على الوصول هو مسألة صعبة لا تزال الشركة الشابة تعمل عليها. يتساءل المؤسس عن حدود مسؤولية الشركة في حال أقدم أحدهم على فعل كارثي، وهي أسئلة سيواجهها القطاع والحكومات مع إصدار نماذج أكثر قدرة بأوزان قابلة للتنزيل.
يرى مؤيدو هذه التوجه، ومن بينهم مؤسس Abliteration.ai، أن دمقرطة الوصول إلى النماذج الرائدة غير الخاضعة للرقابة هي أفضل أشكال الدفاع. حيث تسمح النماذج المعدلة للمدافعين بمحاكاة سلوك الجهات الخبيثة، وبالتالي تسريع وتيرة تطوير الدفاعات السيبرانية.
من بين عملاء Abliteration.ai الحاليين، هناك شركات ناشئة في مجال الاختبارات الهجومية مقرها في المملكة المتحدة وأوروبا، وشركات تساعد البنوك وشركات الطيران وغيرها من المؤسسات التي تتعامل مع البنية التحتية الحيوية على تعزيز ممارسات الأمن السيبراني لديها.
في غضون ذلك، لا يزال قطاع الأمن السيبراني يبحث عن المكان المناسب لهذه النماذج في العمليات الدفاعية. تتفق العديد من شركات الاختبار الهجومي التي تحدثت معها TechCrunch مع فكرة أن المهاجمين يجرّدون نماذجهم الخاصة ويستخدمونها لشن هجمات عدائية، مما يعزز حجّة امتلاك المدافعين للأدوات نفسها. لكن هناك خلاف حول مدى أهمية هذه النماذج في العملية.
بينما يؤكد المؤسس على أن تعديل النماذج ضروري لإجراء اختبارات هجومية شاملة للوكلاء، يشير آخرون إلى أنهم لا يستخدمونها في عملهم اليومي، معتمدين بدلاً من ذلك على سهولة ضبط النماذج مفتوحة المصدر، التي تمتلك بالفعل قيوداً قليلة، لأداء اختباراتهم.
ويشير أحمد علي، الرئيس التنفيذي لشركة Fabraix المتخصصة في الاختبار الهجومي للوكلاء، إلى أن شركته تعتمد بشكل أكبر على ضبط النماذج المفتوحة بدلاً من استخدام النماذج المعدلة، مضيفاً أن عملية التجريد قد تزيل بعض المعرفة والقدرات من النموذج.
يوافق أليسيو لوموسيو، كبير المتخصصين التقنيين في Safe Intelligence، على أن انخفاض القدرات ممكن، لكنه لا يزال يعتقد أن النماذج المعدلة يمكن أن تُثير سلوكيات معينة مفيدة في اختبار الأنظمة تحت الضغط.
من جانبه، يذكر ديفيد سلاتر، المؤسس والمهندس المعماري الرئيسي في منصة Armadin للأمن السيبراني، أن النماذج المعدلة ليست جزءًا من عملهم حاليًا، مشيراً إلى أنه حتى الجيل الأخير، لم يكن من الصعب جدًا تجاوز قيود النماذج مفتوحة المصدر للحصول على ما يريدون. ومع ذلك، يضيف أن Armadin تجري أبحاثًا في هذا المجال، ويعتقد أن "دفع المجتمع المفتوح لفهم قدرات النماذج أمر بالغ الأهمية".
ويختتم سلاتر بالقول: "سيحدث هذا خلف الأبواب المغلقة. سيحدث في الخفاء. حدوثه في العلن يمنح الباحثين الأدوات. يمنحنا القدرة على فهم ما هو الحد الفعلي، وفهم الضرر".
