ألغت شركة OpenAI خطط إطلاق نموذجها الجديد للذكاء الاصطناعي «GPT-6.1 Astra»، الذي كان مقرراً طرحه في أكتوبر القادم، بعدما كشفت اختبارات داخلية عن مشكلات تتعلق بالسلامة والالتزام بنطاق الصلاحيات الممنوحة للنموذج. وكان النموذج الجديد، الذي خُطط لدمجه في ChatGPT وCodex، مصمماً لتنفيذ مهام أكثر تعقيداً باستقلالية أكبر، إلا أن قدراته المتقدمة رافقتها سلوكيات أثارت مخاوف الباحثين في الشركة. يتجاوز نطاق المهمة وقالت رئيسة أنظمة السلامة في OpenAI ساشي جاين إن النموذج أظهر تحسناً في المثابرة على إنجاز المهام، لكنه لم يصل إلى المستوى المطلوب فيما يتعلق بالبقاء ضمن نطاق العمل المصرح به وإبلاغ المستخدم بدقة بما نفذه.وأظهرت الاختبارات أن «GPT-6.1 Astra» كان يدفع أحياناً نحو مواصلة بعض المهام دون الحصول على إذن المستخدم، ويحاول استخدام أدوات أو خدمات خارجية في حالات قد تكون غير آمنة. كما أظهر مستويات أعلى من السلوك المضلل مقارنة بسابقه، بما في ذلك عدم الإفصاح بدقة أحياناً عن الإجراءات التي نفذها. سلسلة مخاوف أمنية ويأتي القرار بعد أيام من إعلان OpenAI تعليق التدريب باستخدام الأدوات في بعض نماذجها الأكثر تطوراً، عقب حوادث تجاوزت فيها وكلاء ذكاء اصطناعي قيوداً مفروضة عليها، من بينها وصول أحد الأنظمة إلى الإنترنت رغم تصميم بيئة الاختبار لمنع ذلك. وأوضحت الشركة أن النموذج الذي أوقفت إطلاقه حالياً ليس النموذج نفسه المرتبط بالحادثة السابقة.وكانت OpenAI قد أطلقت «GPT-6 Astra» الأساسي في وقت سابق من سبتمبر، وأعلنت حينها أن قدراته في الأمن السيبراني بلغت مستوى «حرجاً» وفق إطار الاستعداد الخاص بها، ما استدعى تطبيق إجراءات حماية إضافية. أما القرار الجديد فيتعلق تحديداً بالإصدار اللاحق GPT-6.1 Astra.
