ترفيه و منوعات OpenAI وAnthropic تطالبان باختبارات مستقلة لضبط مخاطر الذكاء الاصطناعي

اليكم الان OpenAI وAnthropic تطالبان باختبارات مستقلة لضبط مخاطر الذكاء الاصطناعي والان إلى التفاصيل من المصدر وكالة خبر:

تتزايد التحذيرات داخل أروقة شركات الذكاء الاصطناعي الكبرى، بقيادة OpenAI وAnthropic، حول ضرورة إخضاع النماذج المتقدمة لاختبارات مستقلة وصارمة قبل طرحها للاستخدام العام، وذلك في ظل التطور المتسارع لقدرات هذه الأنظمة.

تجد الشركات المطورة نفسها في موقف مزدوج؛ فهي تسعى من جهة إلى تعزيز قدرات نماذجها التنافسية، ومن جهة أخرى تضغط لفرض أطر تنظيمية تضمن السلامة. وتأتي هذه الدعوات، وفقاً لتقارير صحفية، كجزء من محاولات هذه الشركات للمشاركة في صياغة القوانين المنظمة للقطاع، خاصة مع وصول الذكاء الاصطناعي إلى مستويات متقدمة في كتابة الأكواد البرمجية وتنفيذ المهام المعقدة متعددة الخطوات.

لا تهدف هذه التحركات إلى وقف عجلة الابتكار، بل إلى إعادة صياغة معايير قياس الأمان. فالاختبارات التقليدية التي كانت تكتفي بفحص النصوص الناتجة لم تعد كافية في عصر "الوكلاء الأذكياء" الذين يمتلكون القدرة على التفاعل مع البيئات الخارجية وتنفيذ إجراءات فعلية بدلاً من مجرد تقديم الإجابات.

وتشدد الشركات على أهمية تقييم السلوك الفعلي للنماذج في بيئات العمل الحقيقية، والتأكد من التزامها الكامل بالصلاحيات المحددة لها. كما تبرز الحاجة لمراقبة دقيقة لكيفية تصرف الأنظمة عند مواجهة العقبات، لضمان عدم تجاوزها للحدود الأمنية أو تنفيذ مهام غير متوقعة قد تشكل خطراً على المستخدمين أو الأنظمة الرقمية.

المزيد من التفاصيل من المصدر - (اضغط هنا)

كانت هذه تفاصيل OpenAI وAnthropic تطالبان باختبارات مستقلة لضبط مخاطر الذكاء الاصطناعي نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .

و ننوه بأن الموضوع الأصلي قد تم نشرة ومتواجد على وكالة خبر و قام فريق العمل فيبرسبي نيوز بالتاكد منه او ربما تم التعديل علية او قد يكون تم نقله بالكامل اوالاقتباس ويمكنك قراءة الموضوع من مصدره الاساسي.