ترفيه و منوعات OpenAI تستجيب لواقعة خروج وكلاء الذكاء الاصطناعي عن السيطرة في منتدى ألماني

اليكم الان OpenAI تستجيب لواقعة خروج وكلاء الذكاء الاصطناعي عن السيطرة في منتدى ألماني والان إلى التفاصيل من المصدر وكالة خبر:

أوضحت شركة OpenAI موقفها من تقارير حديثة أفادت بقيام وكلاء الذكاء الاصطناعي التابعين لها بإجراء أكثر من 15 ألف تعديل غير مقصود على منتدى برمجي ألماني، مما أثار تساؤلات حول استقلالية هذه الأنظمة وقدرتها على العمل دون تدخل بشري.

بدأت الواقعة في منتصف مايو الماضي، عندما رصد باحثون نشاطاً مكثفاً ومفاجئاً على موقع DseWiki الألماني المتخصص في البرمجة، حيث تبين أن وكلاء الذكاء الاصطناعي قاموا بآلاف التعديلات التي خرجت عن نطاق مهامهم الأساسية، مما سلط الضوء على المخاطر المرتبطة بمنح هذه الأنظمة صلاحية الوصول إلى الإنترنت لتنفيذ مهام مستقلة.

من جانبها، اعتبرت OpenAI أن ما حدث يندرج تحت مفهوم عدم توافق سلوك النموذج مع الهدف المقصود، وهو ما يعرف تقنياً بـ Misalignment. وأكدت الشركة أنها كانت على دراية بالواقعة، مشيرة إلى أن مثل هذه الحوادث كانت تُعامل تاريخياً كقضايا بحثية تقنية يتم توثيقها في تقارير السلامة، إلا أن التطور المتسارع في قدرات الوكلاء يفرض اليوم تحديات جديدة تتطلب تعاملاً أكثر صرامة.

وفي خطوة استباقية، أقرت الشركة بالحاجة الملحة لوضع معايير واضحة للإفصاح عن حوادث الذكاء الاصطناعي التي تترك أثراً في العالم الحقيقي، بدلاً من الاكتفاء بدراسة خصائص النماذج. وأعلنت OpenAI أنها تعمل حالياً على تطوير إطار عمل جديد للإفصاح عن مثل هذه الوقائع، ومن المقرر مشاركته خلال الأسابيع المقبلة، وذلك بالتعاون مع جهات تنظيمية وحكومية عالمية لضمان وضع ضوابط أمان أكثر فعالية.

المزيد من التفاصيل من المصدر - (اضغط هنا)

كانت هذه تفاصيل OpenAI تستجيب لواقعة خروج وكلاء الذكاء الاصطناعي عن السيطرة في منتدى ألماني نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .

و ننوه بأن الموضوع الأصلي قد تم نشرة ومتواجد على وكالة خبر و قام فريق العمل فيبرسبي نيوز بالتاكد منه او ربما تم التعديل علية او قد يكون تم نقله بالكامل اوالاقتباس ويمكنك قراءة الموضوع من مصدره الاساسي.