اليكم الان خطأ تقني من ذكاء "كلود" الاصطناعي يرسل بلاغًا كاذبًا للشرطة الأمريكية والان إلى التفاصيل من المصدر وكالة خبر
أثار نموذج الذكاء الاصطناعي "كلود" (Claude Haiku 4.5) جدلًا واسعًا بعد إقدامه على إرسال بلاغ كاذب بشأن جريمة قتل إلى شرطة فيلادلفيا، وذلك خلال اختبارات داخلية أجرتها شركة "أنثروبيك" (Anthropic) المطورة له.
كشف تقرير تقني أن النموذج استخدم صفحة إلكترونية مخصصة للإبلاغ عن الجرائم غير المحلولة، حيث قام بملء استمارة بمعلومات مختلقة تمامًا حول مشتبه به، قبل أن يضغط على زر الإرسال. ولحسن الحظ، تمكن نظام ترشيح الرسائل المزعجة التابع للشرطة من اعتراض البلاغ قبل أن يصل إلى المحققين، مما منع إهدار الموارد الأمنية في التعامل مع بيانات وهمية.
وأوضحت الشركة أن هذا التصرف كان نتيجة "خطأ في التفسير"؛ حيث كان المطلوب من النموذج التعامل مع الاستمارات دون إرسالها، إلا أنه ضغط على زر الإرسال معتقدًا أن ذلك سينقله إلى صفحة تأكيد إضافية. ورغم وجود قيود برمجية تمنع النموذج من إجراء عمليات شراء أو إنشاء حسابات، إلا أن التعليمات لم تحظر بشكل صريح إرسال الاستمارات، مما سمح للنموذج بتنفيذ هذا الإجراء غير المقصود.
أثار تأخر الشركة في الإبلاغ عن الحادث انتقادات واسعة؛ حيث وقعت الحادثة في 18 يوليو، بينما لم تكتشفها "أنثروبيك" إلا في أواخر سبتمبر، ولم يتم إبلاغ السلطات بها حتى أكتوبر. كما كشفت الاختبارات عن وقائع أخرى مماثلة، شملت إرسال النموذج لـ 20 طلب تأشيرة إلى وزارة الخارجية الأمريكية، مما يطرح تساؤلات جادة حول ضرورة عزل بيئات الاختبار عن الأنظمة الحية.
تختلف هذه الواقعة عن حادثة سابقة في فلوريدا، حيث كانت "أنثروبيك" هي من بادرت بإبلاغ السلطات عن مستخدمة هددت مكتب الشريف، بينما في حالة فيلادلفيا، كان النموذج هو الفاعل المستقل الذي تجاوز تعليماته. وتؤكد هذه الأحداث أن مخاطر الذكاء الاصطناعي لم تعد تقتصر على "الهلوسة" في النصوص، بل امتدت لتشمل إجراءات خارجية قد تؤثر بشكل مباشر على المؤسسات الحكومية والخدمات العامة.
خطأ تقني من ذكاء كلود الاصطناعي يرسل بلاغ ا كاذب ا للشرطة الأمريكية
المزيد من التفاصيل - اضغط هنا
وكالة خبر خطأ تقني من ذكاء كلود الاصطناعي يرسل بلاغ ا كاذب ا
كانت هذه تفاصيل خطأ تقني من ذكاء "كلود" الاصطناعي يرسل بلاغًا كاذبًا للشرطة الأمريكية نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
وننوه بأن الموضوع الأصلي قد تم نشرة ومتواجد على وكالة خبر و قام فريق العمل في برسبي نيوز بالتاكد منه او ربما تم التعديل علية او قد يكون تم نقله بالكامل اوالاقتباس ويمكنك قراءة الموضوع من مصدره الاساسي.