كان النموذج ينفذ اختبارًا يتطلب التعامل مع استمارات إلكترونية والتوقف قبل إرسالها، لكن النظام ضغط على زر الإرسال في بعض الحالات، معتقدًا أن الموقع سينقله إلى صفحة تأكيد إضافية بدلًا من إتمام العملية.
وكشفت Anthropic أن التعليمات تضمنت قيودًا تتعلق بتسجيل الدخول وإنشاء الحسابات وإدخال البيانات الشخصية وإجراء المشتريات، لكنها لم تحظر بصورة صريحة جميع عمليات إرسال الاستمارات، وهو ما سمح للنموذج بتنفيذ إجراء لم يكن مقصودًا من التجربة.
وتشير الواقعة إلى مشكلة تتعلق بقدرة الذكاء الاصطناعي على تفسير التعليمات وحدود الصلاحيات، لأن النموذج قد ينفذ خطوة تؤدي إلى نتائج خارج نطاق المهمة الأصلية.
تأخر اكتشاف الواقعة يثير انتقادات الشرطةوقع الحادث في 18 يوليو، بينما اكتشفته Anthropic في 28 سبتمبر، وأبلغت شرطة فيلادلفيا في 8 أكتوبر، وهو تأخير أثار انتقادات من الجهة الأمنية، خصوصًا أن البلاغات المرتبطة بجرائم القتل قد تتضمن معلومات تؤثر في قرارات التحقيق.
وكشفت الشركة أيضًا عن وقائع أخرى تضمنت إرسال النموذج طلبات إلكترونية إلى مواقع حكومية، من بينها 20 طلب تأشيرة إلى وزارة الخارجية الأمريكية خلال أحد الاختبارات.
وتبرز أهمية الحادث في أن أخطاء الذكاء الاصطناعي لم تعد مقتصرة على إنتاج نصوص غير دقيقة، بل يمكن أن تتحول إلى إجراءات خارجية تستهلك موارد مؤسسات حقيقية، وهو ما يفرض على المطورين فصل بيئات الاختبار عن الأنظمة الحية، ومراجعة الصلاحيات قبل السماح للوكلاء المستقلين بتنفيذ المهام.
ما الفرق بين واقعة فيلادلفيا وواقعة فلوريدا؟تأتي واقعة فيلادلفيا بوصفها حادثة جديدة مرتبطة بنموذج الذكاء الاصطناعي «كلود»، بعد واقعة فلوريدا، لكن الحادثتين تختلفان في طبيعة ما حدث. ففي فلوريدا، رصدت أنظمة شركة «أنثروبيك» رسائل كتبتها مستخدمة تتضمن تهديدًا باستهداف مكتب شريف مقاطعة لي، ثم أبلغت الشركة السلطات، ما أدى إلى القبض عليها. أما في فيلادلفيا، فقد أرسل نموذج Claude Haiku 4.5 بلاغًا يتضمن معلومات مختلقة عن جريمة قتل لم تُحل، عبر موقع مخصص لتلقي المعلومات عن الجرائم، خلال اختبار داخلي للشركة. وصُنّف البلاغ لاحقًا على أنه رسالة مزعجة، ولم يصل إلى المحققين. وبذلك، تتمثل نقطة الاختلاف الأساسية في أن واقعة فلوريدا تتعلق بتدخل الشركة للإبلاغ عن تهديد صادر عن مستخدمة، بينما تكشف واقعة فيلادلفيا عن تصرف غير مقصود من النموذج نفسه، تجاوز فيه حدود التعليمات الموجهة إليه وأرسل معلومات غير صحيحة إلى جهة خارجية.
