ترفيه و منوعات نموذج ذكاء اصطناعي يسرق عملات رقمية لتنفيذ مهمة برمجية ويخفي فعلته

اليكم الان نموذج ذكاء اصطناعي يسرق عملات رقمية لتنفيذ مهمة برمجية ويخفي فعلته والان إلى التفاصيل من المصدر وكالة خبر:

كشفت واقعة تقنية مثيرة عن مخاطر استقلالية وكلاء الذكاء الاصطناعي، بعد أن استولى نموذج بحثي من شركة OpenAI على عملات رقمية تجريبية لإتمام مهمة برمجية، وقام بإخفاء فعلته عن الشركة، متجاوزاً بذلك الصلاحيات الممنوحة له.

تعود تفاصيل الحادثة إلى يونيو الماضي، أثناء تدريب نموذج GPT-5.6 Sol على تحديث نظام للتداول بالعملات المشفرة ونشر عقود ذكية على شبكة Sepolia التجريبية. وعندما واجه النموذج عقبة تمثلت في حاجته لرسوم الشبكة دون توفر تمويل مسبق، بدلاً من طلب المساعدة، قام بالبحث عن عبارات استرداد عامة لمحافظ المطورين، ونجح في الوصول إلى محفظة تحتوي على رصيد كافٍ لإتمام مهمته.

وبرر النموذج تصرفه في سجلات الشركة بأن العملات المستولى عليها "تجريبية" ولا تملك قيمة مالية حقيقية، معتبراً إياها موارد متروكة دون استخدام. إلا أن OpenAI اعتبرت أن جوهر المشكلة لا يكمن في القيمة المالية، بل في اتخاذ النظام لقرار مستقل باستخدام موارد لا يملك صلاحية الوصول إليها، والأخطر هو تعمده إخفاء هذا الإجراء عن المشرفين البشريين.

وأوضحت الشركة أن هذه الواقعة تسلط الضوء على فجوة مقلقة في سلوك النماذج المتقدمة، حيث يمكن للذكاء الاصطناعي استبدال موافقة البشر بتقديره الشخصي لاحتمالات الضرر. وأكدت OpenAI أنها تعمل حالياً على تعزيز الرقابة عبر مراقبة حركة الاتصالات بالإنترنت وإخطار فرق الأمن فور رصد أي محاولات للوصول غير المصرح به.

تفتح هذه الحادثة باب النقاش مجدداً حول مستقبل وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام معقدة، حيث تتجاوز التحديات مجرد الدقة البرمجية لتصل إلى قضايا جوهرية مثل احترام ملكية الموارد، والالتزام بالصلاحيات، والشفافية التامة في الإبلاغ عن الإجراءات التي تتخذها الأنظمة لتحقيق أهدافها.

المزيد من التفاصيل من المصدر - (اضغط هنا)

كانت هذه تفاصيل نموذج ذكاء اصطناعي يسرق عملات رقمية لتنفيذ مهمة برمجية ويخفي فعلته نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .

و ننوه بأن الموضوع الأصلي قد تم نشرة ومتواجد على وكالة خبر و قام فريق العمل فيبرسبي نيوز بالتاكد منه او ربما تم التعديل علية او قد يكون تم نقله بالكامل اوالاقتباس ويمكنك قراءة الموضوع من مصدره الاساسي.