اخبار عربية “أنثروبيك” تكشف سلوكيات غير مقصودة لنموذجها “كلود”
اليكم الان “أنثروبيك” تكشف سلوكيات غير مقصودة لنموذجها “كلود” والان إلى التفاصيل من المصدر بتوقيت بيروت_ beiruttime:
قالت شركة “أنثروبيك” (Anthropic PBC) إن نموذج الذكاء الاصطناعي “كلود” (Claude) نفّذ إجراءات إضافية غير مقصودة على الأنظمة الرقمية لمؤسسات خارجية، من بينها مواقع إلكترونية لبعض الوكالات الحكومية الأميركية، ما دفع إدارة ترمب إلى التحذير من ضرورة تعزيز شركات الذكاء الاصطناعي إجراءات تأمين أنظمتها.
في تقرير يكشف عن حوادث لم يُعلن عنها سابقاً، حددت “أنثروبيك” أربعة أنواع من السلوكيات غير المقصودة التي أظهرها نموذج الذكاء الاصطناعي، تشمل استغلال ثغرات برمجية بسيطة لتنفيذ أوامر، وإرسال نماذج لم يكن ينبغي له تقديمها، وتجاوز القيود للوصول إلى بعض البيانات المتاحة للعامة.
وقالت الشركة إن بعض الحالات شملت مواقع إلكترونية تديرها جهات حكومية على المستويات الفيدرالي والولائي والمحلي، من دون تحديد تلك الجهات. ولم يسمّ التقرير المؤسسات الخارجية المعنية، موضحاً أن ذلك جاء بناءً على طلب بعض الأطراف المتضررة.
اقرأ أيضاً: نماذج “أنثروبيك” تخترق أنظمة 3 مؤسسات خلال اختبارات أمنية
مخاطر أمنية متصاعدة
كشفت “أنثروبيك” ومنافستها “أوبن إيه آي” (OpenAI) خلال الأشهر الماضية عن سلسلة من الحوادث التي تصرفت فيها نماذج الذكاء الاصطناعي التابعة لهما بطرق غير مقصودة، تراوحت بين سلوكيات مماثلة لما ورد في تقرير الجمعة واختراق مواقع إلكترونية تابعة لأطراف ثالثة. وأثارت هذه الإفصاحات مخاوف بشأن المخاطر الأمنية المرتبطة بأحدث تقنيات الذكاء الاصطناعي.
وقالت “أنثروبيك” في التقرير إنها تعتبر هذه السلوكيات أقل خطورة من بعض الحوادث السابقة التي تورطت فيها نماذجها. وأضافت: “كان التأثير الفعلي للحالات التي حددناها حتى الآن ضمن هذه الفئات محدوداً للغاية”.
وفي أحد أمثلة السلوك غير الملائم التي رصدتها الشركة، ذكرت أن نموذج “كلود هايكو 4.5” (Claude Haiku 4.5) أرسل يوم الجمعة بلاغاً إلى قسم شرطة محلي بشأن جريمة قتل، وكتب في النموذج: “قد تكون لدي معلومات بشأن هذه القضية”، و”أتذكر أنني رأيت شخصاً تنطبق عليه الأوصاف في المنطقة”، من دون ملء حقلي الاسم وبيانات الاتصال في الموقع الإلكتروني.
وقالت الشركة إن إدارة شرطة فيلادلفيا كشفت عن هذه الواقعة صباح الجمعة في بيان صحفي.
وأضافت أنثروبيك أنها أطلعت البيت الأبيض على هذه الحالات، وأخطرت كل جهة حكومية معنية بها.
اقرأ أيضاً: ترمب وقادة الذكاء الاصطناعي يوقعون اتفاقاً بشأن معايير القطاع
قوة الذكاء الفائق
قال مسؤولون في إدارة ترمب، الجمعة، إنهم باتوا يُلزمون شركات الذكاء الاصطناعي بإخطار الأطراف المتضررة ومعالجة الحوادث الأمنية المرتبطة بنماذجها.
وجاء في بيان صادر عن “قوة الذكاء الفائق” (Super Intelligence Force)، وهي وحدة حكومية جديدة كلفها الرئيس دونالد ترمب بالإشراف على تطوير الذكاء الاصطناعي وسلامته: “تواصلت أنثروبيك مع قوة الذكاء الفائق في وقت سابق اليوم للكشف عن تفاصيل حوادث سابقة متعددة، اكتشفتها في أواخر سبتمبر، تتعلق بالاستخدام غير المصرح به والاحتيالي لأنظمة حكومية وأنظمة أخرى”.
وأضاف البيان: “أبلغتنا الشركة أن هذه الحوادث وقعت في الماضي، وأن الأنشطة توقفت، ولا يوجد أي نشاط مماثل مستمر”.
اقرأ أيضاً: رئيس “سوفت بنك” يطلق تحذيراً نادراً بشأن مخاطر سلامة الذكاء الاصطناعي
وكان موقع “أكسيوس” (Axios) قد نشر في وقت سابق تقريراً عن هذا الإلزام الحكومي.
وعلى خلفية هذه الحوادث التي كُشف عنها، قالت “أنثروبيك”، الجمعة، إنها فرضت قيوداً على بعض أشكال وصول نماذج الذكاء الاصطناعي التابعة لها إلى الإنترنت خلال مرحلة اختبار عملية تدريبها.
المزيد من التفاصيل من المصدر - (اضغط هنا)
كانت هذه تفاصيل “أنثروبيك” تكشف سلوكيات غير مقصودة لنموذجها “كلود” نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
و ننوه بأن الموضوع الأصلي قد تم نشرة ومتواجد على بتوقيت بيروت_ beiruttime و قام فريق العمل فيبرسبي نيوز بالتاكد منه او ربما تم التعديل علية او قد يكون تم نقله بالكامل اوالاقتباس ويمكنك قراءة الموضوع من مصدره الاساسي.