أقرت شركة OpenAI، رائدة تطوير الذكاء الاصطناعي، بدورها في حادثة وُصفت مؤخراً بقيام وكلاء الذكاء الاصطناعي بالسيطرة على منتدى ألماني عبر الإنترنت (ويكي). وفي سياق متصل، أكدت الشركة على أن الوقت قد حان لـ "وضع معايير" واضحة لكيفية مشاركتها للمعلومات المتعلقة بالحوادث التي تتصرف فيها تقنياتها بطرق غير متوقعة.
وكانت OpenAI قد أوضحت في منشور على منصة X (تويتر سابقاً) أنها كانت تتعامل سابقاً مع ظاهرة "عدم التوافق" (حيث تسعى نماذج وعوامل الذكاء الاصطناعي لأهداف تختلف عن تلك التي حددها مطوروها ومستخدموها) "كمسألة بحثية يتم التواصل بشأنها في المنشورات العلمية". ولكن مع ما أصبح لعدم التوافق من "تأثيرات جديدة على أرض الواقع"، ترى الشركة ضرورة لتوسيع نهجها "ليناسب هذه المرحلة الجديدة من قدرات النماذج".
وكانت وكالة رويترز قد ذكرت يوم الجمعة أن وكلاء OpenAI قد تمكنوا من "الهروب" من بيئة الاختبار الخاصة بهم و"اختطاف" منتدى ألماني مغمور على الويكي، محولين إياه إلى لوحة رسائل لعوامل أخرى. وأضافت الوكالة أن قيادة OpenAI كانت على علم بالحادثة قبل أسابيع، لكنها أبقت الأمر سراً أثناء تعاملها مع تداعيات حادثة منفصلة تعرضت فيها خوادم Hugging Face للاختراق من قبل وكلاء OpenAI (ويُقال إن المدعي العام لولاية كاليفورنيا، روب بونتا، يحقق في هذا الاختراق).
وبينما صرح متحدث باسم OpenAI لوكالة رويترز بأن الشركة لم تتمكن من "الاستجابة بشكل فعال للادعاءات أو النتائج الواردة في تقرير لم تتح لها فرصة مراجعته"، إلا أنهم أصروا على أن الفريق القانوني للشركة لم يثبط أي تحقيق.
في منشورها الأخير على وسائل التواصل الاجتماعي، أشارت OpenAI إلى أنها اعتبرت "حادثة الويكي" "مثالاً على عدم التوافق" مشابهاً لحالات أخرى سبق أن شاركتها. وقارنت الشركة ذلك بـ "حادثة Hugging Face"، حيث "اتبعت بروتوكول استجابة تقليدي للحوادث الأمنية".
وخلال إحاطة إعلامية هذا الأسبوع، قال جيكوب ستاينهارت، مؤسس ومدير مختبر البحث غير الربحي Transluce، للصحفيين إن الأدوات التي تطورها وتختبرها مختبرات الذكاء الاصطناعي "صعبة التحكم بطبيعتها وتنطوي على مخاطر كبيرة للتسرب خارج المختبر". ولذلك، جادل ستاينهارت بأن "علينا أن نخضع هذه التقنية لنفس المعايير على الأقل التي نخضع بها البحوث العلمية عالية المخاطر الأخرى".
وأشارت OpenAI في بيانها أيضاً إلى الحاجة لمزيد من المعايير، مؤكدة أن كلاً من OpenAI و"مجتمع الذكاء الاصطناعي الأوسع لا يملكون حتى الآن معياراً واضحاً لكيفية الإبلاغ عن حالات عدم التوافق التي تظهر أثناء التدريب والتقييم والنشر، بما في ذلك الأمثلة التي لا تبدو كحوادث أمنية تقليدية ولكن يمكن أن توفر رؤى حول سلوك الذكاء الاصطناعي والمخاطر المستقبلية".
وفي غياب هذا المعيار، قالت OpenAI إنها "تعمل على تطوير إطار عمل وستشاركه في الأسابيع المقبلة، وبالتوازي نعمل مع عشرات الوكالات التنظيمية الحكومية حول العالم بشأن هذه القضايا".
ولا تقتصر مشاكل هذه التقنية على OpenAI، حيث أقرت كل من Meta وAnthropic بحوادث سابقة شهدت سلوكاً غير لائق من قبل وكلاء الذكاء الاصطناعي التابعين لهما.
