في واقعة أثارت تساؤلات بشأن مخاطر منح أنظمة الذكاء الاصطناعي صلاحيات التفاعل مع المواقع الإلكترونية دون رقابة بشرية مباشرة، كشفت شرطة مدينة فيلادلفيا الأمريكية أن نموذجاً للذكاء الاصطناعي تابعاً لشركة «أنثروبيك»، المطورة لمساعد «كلود»، أرسل بلاغاً كاذباً يتعلق بجريمة قتل لم تُحل، مدعياً امتلاك معلومات قد تساعد المحققين في القضية.وأوضحت الشرطة، في بيان صدر أمس (الجمعة)، أن البلاغ قُدّم في 18 يوليو الماضي عبر موقع إلكتروني مخصص لتلقي معلومات الجمهور عن جرائم القتل غير المحلولة، خلال اختبار آلي كانت تجريه الشركة على أحد نماذجها، دون أن يكون النموذج مكلفاً بتقديم بلاغات جنائية. نموذج «كلود» يتقمص دور شاهد محتمل وبحسب التفاصيل التي كشفتها الشركة، فإن النموذج المستخدم هو «Claude Haiku 4.5»، وكان ينفذ مهمة تجريبية تتضمن التفاعل مع صفحات إلكترونية مختارة عشوائياً، عندما وصل إلى موقع تابع لشرطة فيلادلفيا.وخلال الاختبار، ملأ النموذج استمارة إلكترونية تتعلق بجريمة قتل غير محلولة، وكتب رسالة توحي بأنه شاهد شخصاً تتطابق أوصافه مع شخص ورد ذكره في القضية، وأنه مستعد لتقديم معلومات إضافية للشرطة.وأقرت «أنثروبيك» بأن المعلومات التي أرسلها النموذج كانت مختلقة، موضحة أنه بدا وكأنه ينشئ محتوى تجريبياً لتنفيذ المهمة، وليس بالضرورة أنه كان يحاول تضليل السلطات عمداً.وأشارت الشركة إلى أن التعليمات التي تلقاها النموذج لم تسمح له بتنفيذ أعمال تخريبية أو إنشاء حسابات، لكنها لم تمنعه صراحة من إرسال الاستمارات الإلكترونية. البلاغ يصل إلى البريد المزعج وأكدت شرطة فيلادلفيا أن البلاغ، الذي أُرسل عند الساعة 11:27 مساءً بالتوقيت المحلي، صُنّف تلقائياً ضمن الرسائل المزعجة، ولم يصل إلى مركز الجرائم المختص لمراجعته أو اتخاذ أي إجراءات تحقيق بناءً عليه.وشددت الشرطة على أن إجراءاتها تتطلب مراجعة بشرية للمعلومات الواردة والتحقق من مصداقيتها قبل إحالتها إلى المحققين، وهو ما حال دون تأثير البلاغ المختلق في سير التحقيقات.كما أكدت عدم وجود أدلة على اختراق أنظمتها أو تعرض بياناتها للاختراق نتيجة الواقعة. شهران لاكتشاف الخطأ وانتقادات للشرطة ولم تكتشف «أنثروبيك» الواقعة إلا في 28 سبتمبر الماضي، أي بعد أكثر من شهرين على حدوثها، قبل أن تبلغ شرطة فيلادلفيا رسمياً في 7 أكتوبر، وتعقد اجتماعاً مع مسؤوليها في اليوم التالي.وانتقدت الشرطة التأخر في اكتشاف الحادث وإبلاغ السلطات، معتبرة أن الفاصل الزمني الذي تجاوز شهرين غير مقبول، خصوصاً أن البلاغات المرتبطة بجرائم القتل تتعلق بضحايا حقيقيين وأسر تنتظر معرفة مصير التحقيقات وتحقيق العدالة.وأعلنت الشركة وقف عملية الاختبار الآلي التي أدت إلى الواقعة، وإضافة آليات تحقق جديدة لتقليل احتمالات تكرار مثل هذه التصرفات. تصرفات غير متوقعة تتجاوز البلاغ الكاذب ولم تكن الواقعة الوحيدة التي كشفت عنها «أنثروبيك»، إذ أفصحت عن حالات أخرى تصرفت فيها نماذجها بصورة غير مقصودة أثناء الاختبارات، شملت التفاعل مع مواقع حكومية أمريكية واستغلال ثغرات في بعض الخدمات للحصول على بيانات أو استخدام أدوات بطرق لم تكن متوقعة.وتسلط هذه الحوادث الضوء على تحدٍ متزايد يواجه مطوري أنظمة الذكاء الاصطناعي القادرة على تنفيذ المهام بصورة مستقلة، يتمثل في ضمان التزام النماذج بحدود صلاحياتها، ومنعها من اتخاذ إجراءات فعلية على الإنترنت دون تفويض واضح أو رقابة مناسبة.وأكدت سلطات فيلادلفيا أنها تواصل مراجعة الحادث، إلى جانب دراسة الضمانات التنظيمية والتقنية اللازمة لحماية الأنظمة الحكومية من التصرفات غير المقصودة للذكاء الاصطناعي.
