استغرقت Anthropic 81 يومًا لإبلاغ شرطة فيلادلفيا بأن أحد نماذج الذكاء الاصطناعي التابعة لها قدّم بلاغًا كاذبًا عن جريمة قتل عبر نموذج إلكتروني عام.
شرطة فيلادلفيا تصف التأخير الذي استمر شهرين بأنه غير مقبول
قدّم النموذج البلاغ في 18 يوليو. وقالت الإدارة إن التأخير الذي استمر شهرين غير مقبول.
نُشر البلاغ على موقع PhillyUnsolvedMurders.com، وهو منتدى عام لتلقي البلاغات عن جرائم القتل التي لم تُحلّ، التابعة لإدارة شرطة فيلادلفيا، في الساعة 11:27 مساءً يوم 18 يوليو، وفقًا لبيان أصدرته الإدارة يوم الجمعة. وزعم البلاغ أنه وارد من شخص قد تكون لديه معلومات عن جريمة قتل لم تُحلّ.
صنّف النظام البلاغ على أنه رسالة مزعجة. وظل في ذلك المجلد ولم يصل قط إلى المحققين.
قال الرقيب إريك غريب، المتحدث باسم الشرطة، إنه لم يُطَّلع على أي بيانات للمدينة أو للشرطة.
قالت الإدارة إن كل بلاغ يراجعه شخص قبل اتخاذ أي إجراء بشأنه. وأضافت أن البلاغ لم يُرسل إلى مركز الجرائم الآنية لمراجعته.
اكتشفت Anthropic المشكلة في 28 سبتمبر. وأبلغت الشرطة بالحادثة في 7 أكتوبر، وعقد الطرفان اجتماعًا يوم الخميس.
«إن التأخر شهرين في اكتشاف الحادثة وإبلاغ المدينة بها أمر غير مقبول»، حسبما قالت الإدارة. وأضافت أن على Anthropic تعزيز ضماناتها للتأكد من عدم وصول حوادث مماثلة إلى أنظمة المدينة من دون علمها.
قالت الإدارة إن الضمانات التي تتبعها الشرطة حدّت من الأضرار، لكنها لم تخفف من خطورة أن يقدم نظام ذكاء اصطناعي معلومات كاذبة كما لو كانت صادرة عن شخص لديه معرفة بجريمة قتل. وقالت الإدارة إن على شركات التكنولوجيا ضمان ألا تقدم أنظمتها معلومات كاذبة لأجهزة إنفاذ القانون.
تتعاون إدارة شرطة فيلادلفيا مع الفريق التنفيذي لرئيسة البلدية شيريل ل. باركر، وإدارة الشؤون القانونية في المدينة، ومكتب الابتكار والتكنولوجيا فيها. كما ستبحث إدارة باركر ضمانات تنظيمية بالتعاون مع شركاء على مستوى الولاية والمستوى الفيدرالي.
قاد اختبار لمواقع إلكترونية عشوائية نموذج الذكاء الاصطناعي إلى موقع PhillyUnsolvedMurders.com
أبلغت Anthropic الشرطة بأن النموذج كان يختبر تفاعلاته مع مواقع إلكترونية اختيرت عشوائيًا عندما صادف موقع PhillyUnsolvedMurders.com. وملأ النموذج الاستمارة ببيانات كاذبة عن جريمة قتل لم تُحل.
قال غريب إن الشركة أوقفت عملية الاختبار الآلي التي أدت إلى هذا السلوك، وأضافت خطوة للتحقق من صحة الاختبارات المستقبلية.
أبلغت الشركة الشرطة بأنها ستنشر يوم الجمعة تقريرًا عن واقعة فيلادلفيا وغيرها من سلوكيات النماذج غير المقصودة. وقالت الشرطة إنها أعلنت الأمر أولًا «حرصًا على الشفافية والمساءلة الكاملتين للحكومة».
سبق أن اجتازت نماذج Claude اختباراتِها. ففي يوليو، قالت Anthropic إن ثلاثة من نماذج Claude خرجت من بيئات اختبار مؤمّنة واخترقت أنظمة حية لدى ثلاث مؤسسات خارجية، وفقًا لما أورده Cryptopolitan.
نشر أحد النماذج، Mythos 5، حزمة Python خبيثة جرى تنزيلها وتشغيلها على 15 نظامًا حقيقيًا. وأبلغت Anthropic الشركات في 27 يوليو، بعد تسعة أيام من إرسال البلاغ الوارد من فيلادلفيا.
في سبتمبر، عزت الشركة تلك الاختراقات إلى خطأ في الإعدادات ترك أجهزة الاختبار متصلة بالإنترنت. لكنها لم تفسر بالكامل سبب استمرار النماذج في الهجوم بعد ظهور مؤشرات إلى أن الأهداف حقيقية.
لم تكتشف Anthropic حادثة رابعة وقعت في يناير إلا في أغسطس. ولم يسفر فحص نحو 481 مليون محادثة أُجري بعد ذلك عن أي حالات جديدة أشد خطورة.
قال الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إن تطوير الذكاء الاصطناعي ينبغي أن يتباطأ حتى تتمكن المختبرات من بناء ضوابط وقائية أفضل. وقالت OpenAI في 21 يوليو إن أحد نماذجها خرج من بيئته المعزولة إلى أنظمة Hugging Face التشغيلية.
لا تكتفِ بقراءة أخبار العملات المشفرة. افهمها. اشترك في نشرتنا الإخبارية. إنها مجانية.