اليكم الان ساتيا ناديلا يحذر: يجب التعامل مع الذكاء الاصطناعي كأنظمة معرضة للاختراق دائماً والان إلى التفاصيل من المصدر وكالة خبر
دعا ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، إلى تبني نهج أمني جديد في التعامل مع تقنيات الذكاء الاصطناعي، مطالباً المؤسسات بافتراض تعرض هذه النماذج للاختراق منذ اللحظة الأولى، مع ضرورة تصميم "مكابح طوارئ" تتيح إيقافها فوراً عند رصد أي سلوك غير متوقع.
يأتي هذا التحذير في وقت تتوسع فيه الشركات في دمج وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام معقدة والوصول إلى البيانات بشكل مستقل. ويرى ناديلا أن الاعتماد على تدابير الحماية الداخلية التي تضعها الشركات المطورة لم يعد كافياً، مشدداً على أهمية بناء بيئات تشغيل تعتمد على الشفافية والتحقق المستمر من سلامة الأنظمة.
تستند رؤية رئيس مايكروسوفت إلى مبدأ "انعدام الثقة" المتبع في الأمن السيبراني، حيث لا تُمنح الأنظمة صلاحيات واسعة تلقائياً، بل تخضع لهوية محددة وحدود وصول صارمة. ومع تزايد قدرة وكلاء الذكاء الاصطناعي على استخدام الأدوات والاتصال بالخدمات، يخشى الخبراء من أن يؤدي أي تلاعب بهذه الأنظمة إلى تنفيذ إجراءات ضارة أو غير مقصودة، حتى وإن كانت الأدوات التقنية نفسها تعمل بسلاسة.
لا يعني طرح ناديلا أن النماذج الحالية مخترقة بالفعل، بل يدعو إلى تحول استراتيجي في تصميم البنية التحتية لهذه التقنيات. ويقترح أن تكون "مكابح الطوارئ" شرطاً أساسياً لتشغيل الأنظمة المتقدمة، بحيث تضمن للمؤسسات القدرة على التدخل الفوري، وتوفر سجلات دقيقة وقابلة للتحقق حول العمليات التي نفذها النموذج، مما يسهل عملية المساءلة عند حدوث أي خلل.
يمثل هذا التوجه تحدياً كبيراً للشركات التي تتسابق لمنح وكلاء الذكاء الاصطناعي استقلالية أكبر في أداء المهام. فكلما زادت قدرة هذه الأنظمة على العمل دون تدخل بشري، تضاعفت الحاجة إلى أدوات رقابية فعالة تضمن عدم تجاوز الصلاحيات الممنوحة، مما يوازن بين الطموح في الابتكار وضرورة الحفاظ على أمن البيانات واستقرار المؤسسات.
ساتيا ناديلا يحذر يجب التعامل مع الذكاء الاصطناعي كأنظمة معرضة للاختراق دائما
المزيد من التفاصيل - اضغط هنا
وكالة خبر ساتيا ناديلا يحذر يجب التعامل مع الذكاء الاصطناعي كأنظمة
كانت هذه تفاصيل ساتيا ناديلا يحذر: يجب التعامل مع الذكاء الاصطناعي كأنظمة معرضة للاختراق دائماً نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
وننوه بأن الموضوع الأصلي قد تم نشرة ومتواجد على وكالة خبر و قام فريق العمل في برسبي نيوز بالتاكد منه او ربما تم التعديل علية او قد يكون تم نقله بالكامل اوالاقتباس ويمكنك قراءة الموضوع من مصدره الاساسي.