أقرت شركة OpenAI بأن تعاملها مع حادثة اختراق استهدفت مواقع حكومية أسترالية في يونيو الماضي، لم يكن بالمستوى المطلوب، وذلك خلال جلسة استماع برلمانية في سيدني تناولت مخاطر الذكاء الاصطناعي وقدرة الأنظمة المتقدمة على تنفيذ عمليات إلكترونية بصورة مستقلة.وقال جيسون كوون، كبير مسؤولي الإستراتيجية في OpenAI، أمام لجنة برلمانية تضم 12 عضواً من نواب وأعضاء مجلس شيوخ، إن الواقعة «ما كان ينبغي أن تحدث»، معترفاً بأن الشركة كان يتعين عليها التعامل مع الحادثة بصورة أفضل.وأضاف كوون: «نحن آسفون، ونعلم أن أمامنا عملاً يجب القيام به لإعادة بناء الثقة مع الشعب الأسترالي».وكيل ذكاء اصطناعي «خرج عن السيطرة»وتعود الواقعة إلى يونيو، عندما تمكن أحد وكلاء الذكاء الاصطناعي التابعين لـ OpenAI، وفق ما أُبلغت به اللجنة، من الوصول بشكل غير مصرح به إلى بوابة إحصائية خاصة مرتبطة بنظام Medicare، وهو نظام الرعاية الصحية الشامل في أستراليا.ووصف خبراء في الأمن السيبراني الواقعة بأنها من أوائل الحوادث التي يظهر فيها نظام ذكاء اصطناعي متقدم وهو ينفذ عملية اختراق بصورة مستقلة أو شبه مستقلة.وأشارت المعلومات المقدمة إلى أن البيانات التي تمكن الوكيل من الوصول إليها كانت غير حساسة، إلا أن طبيعة الحادثة أثارت مخاوف أوسع بشأن المخاطر المرتبطة بالأنظمة القادرة على استخدام أدوات الإنترنت وتنفيذ سلسلة من المهام دون تدخل بشري مباشر.لماذا تأخرت الشركة في إبلاغ الحكومة؟وواجه كوون أسئلة حادة من أعضاء اللجنة بشأن سبب عدم تواصل OpenAI مباشرة مع الوزراء والمسؤولين الحكوميين فور اكتشاف الاختراق.وأشار إلى أن السلطات الأسترالية لم تُخطر بالحادثة إلا بعد مرور أسابيع، عبر رسالة إلكترونية أُرسلت إلى صندوق بريد عام.وأقر كوون بأن هذا التصرف كان خطأ، قائلاً إنه كان يتعين على الشركة الاتصال مباشرة بالمسؤولين المعنيين، بما في ذلك عبر أرقام هواتفهم المحمولة.وأوضح أن موظفي الشركة تعاملوا في البداية مع الحادثة باعتبارها مشكلة تقنية، ولذلك جرى التواصل مع نظرائهم الفنيين، لكنه أقر بأن ذلك «ليس كافياً».OpenAI تشدد إجراءات المراقبةوقال كوون إن الشركة غيّرت آليات تعاملها مع مثل هذه الحوادث، بحيث أصبح الإبلاغ يبدأ حتى قبل اكتمال الصورة التقنية للحادثة.وأوضح أن OpenAI ستقوم بإخطار الجهة المتضررة فوراً، ثم تعمل معها بصورة مشتركة لفهم ما حدث واحتواء آثاره، بدلاً من انتظار اكتمال التحقيق الداخلي.كما أعلنت الشركة أنها أضافت إجراءات احترازية إضافية إلى بيئات تدريب واختبار نماذج الذكاء الاصطناعي.وقال كوون إن النماذج أصبحت تخضع للمراقبة في الوقت الحقيقي أثناء الاختبارات، مع تشغيل نظام إنذار عند اكتشاف محاولة للتفاعل مع الإنترنت بطريقة لا يُفترض أن يقوم بها النظام.وأضاف أن هذه الإجراءات مكّنت الشركة من إبلاغ حكومة ولاية نيو ساوث ويلز بحادثة اختراق أخرى خلال 48 ساعة من اكتشافها الأسبوع الماضي.فريق خاص في أستراليا لمواجهة مخاطر الذكاء الاصطناعيوكشف أيضاً عن خطط OpenAI لإنشاء فريق عمل محلي في أستراليا، تكون مهمته دراسة كيفية التعامل بصورة أفضل مع المخاطر الناجمة عن تطور قدرات أنظمة الذكاء الاصطناعي.كما أبدت الشركة استعدادها لدعم إطار قانوني يفرض الإبلاغ الإلزامي عن الحوادث المرتبطة بالذكاء الاصطناعي.وقال كوون إن وجود قواعد واضحة من شأنه أن يحدد التوقعات بالنسبة للشركات، مضيفاً أن التجربة الأخيرة أظهرت لـ OpenAI أنها كانت بحاجة إلى التواصل مع عدد أكبر من الأطراف بشأن أفضل الطرق للتعامل مع مثل هذه الحوادث.Anthropic: لم نعثر على اختراقات مماثلةوشارك ممثلون عن شركة Anthropic أيضاً في جلسات الاستماع البرلمانية، وقال ديف أور، رئيس قسم الحماية والسلامة في الشركة، إن Anthropic أجرت مراجعة واسعة النطاق عقب حادثة أخرى ارتبطت بوكلاء OpenAI واختراق منصة Hugging Face في يوليووأوضح أن الشركة راجعت مئات الملايين من سجلات المحادثات بحثاً عن أي مؤشرات على حوادث مماثلة استهدفت مواقع حكومية أسترالية، وأكد أمام اللجنة: «لم نعثر على أي شيء من هذا القبيل، وقد بحثنا بالفعل».مخاوف من تأثير الذكاء الاصطناعي على الفنانينولم تقتصر جلسات الاستماع البرلمانية على الأمن السيبراني، إذ ناقشت اللجنة أيضاً تأثير الذكاء الاصطناعي على قطاعات الإعلام والفنون وحقوق الملكية الفكرية.وحذرت منظمات فنية وإعلامية من أن اعتماد نموذج يسمح باستخدام الأعمال لتدريب أنظمة الذكاء الاصطناعي ما لم يطلب أصحابها صراحةً استبعادها قد يضر بحقوق الفنانين ويؤدي إلى استخدام محتواهم دون حصولهم على مقابل مالي، وقالت أنابيل هيرد، الرئيسة التنفيذية لجمعية صناعة التسجيلات الأسترالية، إن هذا النظام قد يجعل الفنانين «ضحايا» في سباق تطوير الذكاء الاصطناعي.وتستمر جلسات الاستماع البرلمانية الأسترالية حتى (الجمعة)، وسط نقاش متصاعد حول كيفية تحقيق التوازن بين تطوير تقنيات الذكاء الاصطناعي المتقدمة، وحماية الأمن السيبراني والبيانات وحقوق أصحاب المحتوى.
