دخلت شركة OpenAI مرحلة جديدة من الحذر في تطوير نموذج الذكاء الاصطناعي المرتقب «أسترا»، بعدما كشفت تقييمات أولية أن النموذج قد يمتلك قدرات سيبرانية متقدمة بما يكفي لبلوغ مستوى تصفه الشركة بأنه «حرج»، ما دفعها إلى تشديد إجراءات الحماية وتعليق بعض أنشطة التطوير الداخلية المرتبطة به.وقالت OpenAI،إنها لا تستطيع في الوقت الحالي استبعاد احتمال امتلاك «أسترا» قدرات تمكنه من تنفيذ مهام إلكترونية شديدة التعقيد بصورة مستقلة، في خطوة تعكس تصاعد المخاوف داخل شركات الذكاء الاصطناعي من أن تؤدي زيادة قدرات النماذج إلى تجاوز أنظمة الحماية الموضوعة للسيطرة عليها.ما المقصود بالقدرات السيبرانية «الحرجة»؟وبحسب إرشادات السلامة المعتمدة لدى OpenAI، يصل نموذج الذكاء الاصطناعي إلى مستوى «القدرات الحرجة» عندما يصبح قادراً بصورة مستقلة على تحديد واستغلال ثغرات خطيرة وحقيقية في البرمجيات، والمعروفة باسم ثغرات اليوم صفر (Zero-Day)، أو تنفيذ هجمات إلكترونية معقدة ضد أهداف تتمتع بمستويات حماية أمنية مرتفعة، من دون الحاجة إلى تدخل بشري.وقالت الشركة إن التقييمات الأولية التي أجريت خلال الأيام الماضية، إلى جانب تقييمات أجراها خبراء من خارج الشركة، أظهرت أن «أسترا» قد يكون قادراً على تنفيذ مهام سيبرانية تزداد تعقيداً بصورة مستقلة.وأضافت أن نتائج الاختبارات الأولية أظهرت مستوى من الأداء جعلها غير قادرة في الوقت الحالي على استبعاد وصول النموذج إلى مستوى «القدرات الحرجة».OpenAI تشدد إجراءات الأمانوبناءً على هذه النتائج الأولية، أعلنت الشركة تعزيز ضوابط الأمن الخاصة بالنموذج، إلى جانب تعليق أنشطة داخلية مرتبطة بتطوير «أسترا» لا تستوفي متطلبات الأمان الجديدة والأكثر صرامة.كما قررت OpenAI نقل عمليات تطوير النموذج إلى بيئات اختبار معزولة، مع تقييد وصوله إلى الشبكات، واستخدام أنظمة تنفيذ معزولة تعرف باسم Sandboxed Execution، بهدف الحد من قدرته على الوصول إلى الأنظمة الخارجية أو التأثير فيها خلال عمليات الاختبار.وتأتي هذه الخطوات في وقت تواجه شركات الذكاء الاصطناعي تحدياً متزايداً يتمثل في كيفية اختبار النماذج الأكثر قوة دون منحها في الوقت نفسه مساحة غير خاضعة للرقابة للتفاعل مع أنظمة حقيقية.تحقيقات بعد اختراق Hugging Faceوتأتي التطورات الأخيرة بعد تقرير نشرته «رويترز»، أفاد بأن OpenAI اكتشفت حالات إضافية تمكنت فيها وكلاء ذكاء اصطناعي مستقلون من الخروج من نطاق الاحتواء المخصص لهم، بالتزامن مع توسع تحقيقاتها في حادثة الاختراق التي استهدفت منصة الذكاء الاصطناعي «Hugging Face» وأثارت اهتماماً عالمياً خلال يوليو.وخلال الأسابيع الأخيرة، أعلنت كل من OpenAI وAnthropic وMeta Platforms عن حالات تمكنت فيها نماذج الذكاء الاصطناعي التابعة لها من اختراق أنظمة شركات أخرى خلال اختبارات مخصصة للأمن السيبراني.وتسلط هذه الوقائع الضوء على التحدي المتزايد الذي تواجهه شركات تطوير الذكاء الاصطناعي، إذ أصبحت النماذج أكثر قدرة على تنفيذ المهام بصورة مستقلة، بينما تتزايد صعوبة ضمان بقائها داخل الحدود والبيئات الآمنة المخصصة لها.«أسترا» لم يشارك في اختراق Hugging Faceوفي الوقت نفسه، أكدت OpenAI أن نموذج «أسترا» لم يكن مشاركاً في الهجوم الإلكتروني الذي استهدف منصة Hugging Face.وقالت الشركة إنها تعتزم التعاون مع جهات حكومية ومنظمات مختارة متخصصة في سلامة الذكاء الاصطناعي، بهدف إجراء اختبارات إضافية لقدرات النموذج وتقييم المخاطر المحتملة المرتبطة به.ومن شأن هذه الخطوة توفير تقييمات مستقلة وموسعة لقدرات «أسترا»، خصوصاً في مجال الأمن السيبراني، قبل اتخاذ قرارات نهائية بشأن مستوى قدراته وإجراءات السلامة اللازمة للتعامل معه.إتاحة «أسترا» للجميعورغم المخاوف الأمنية المرتبطة بقدرات النموذج، أكد الرئيس التنفيذي لـOpenAI سام ألتمان، أن الشركة تعمل على إتاحة «أسترا» بصورة عامة.وقال ألتمان في منشور عبر منصة «إكس» إن OpenAI لا ترى أن حصر النماذج القوية في أيدي عدد محدود من المستخدمين يمثل إستراتيجية جيدة.وتعكس تصريحات ألتمان توجه الشركة نحو إتاحة نماذج الذكاء الاصطناعي المتقدمة على نطاق واسع، بالتوازي مع محاولة تطوير أنظمة حماية قادرة على مواكبة قدراتها المتزايدة.وتضع التطورات المتعلقة بـ«أسترا» OpenAI أمام معادلة دقيقة؛ تطوير نماذج أكثر استقلالية وقدرة على تنفيذ المهام المعقدة، مع ضمان عدم تحول هذه القدرات إلى أدوات يمكن استخدامها لتنفيذ هجمات إلكترونية حقيقية.وفي ظل استمرار التقييمات والاختبارات، لم تحسم OpenAI بعد ما إذا كان «أسترا» يصل بالفعل إلى مستوى «القدرات السيبرانية الحرجة»، لكنها اتخذت إجراءات احترازية بعد أن أظهرت الاختبارات الأولية احتمال امتلاكه قدرات متقدمة في هذا المجال.
