اليكم الان هجوم “شات جي بي تي” الصادم.. اختراق أم دعاية؟ والان إلى التفاصيل من المصدر سما نيوز
سمانيوز /متابعات /وائل زكير
لم يعد الذكاء الاصطناعي مجرد أداة تساعد المبرمجين وخبراء الأمن الإلكتروني، بل بدأ يدخل مرحلة أكثر تعقيداً، بعدما كشفت تجربة لشركة “أوبن أيه آي” أن أحد نماذج “شات جي بي تي” المتخصصة في الأمن السيبراني تمكن من تنفيذ هجوم إلكتروني خلال اختبار استهدف منصة Hugging Face، ما فتح باباً واسعاً للنقاش حول حدود قدرات هذه الأنظمة.
القصة التي بدت في بدايتها كاختراق إلكتروني غامض، تحولت لاحقاً إلى تجربة أمنية أثارت الجدل؛ إذ أعلنت منصة Hugging Face تعرضها لهجوم نفذته، بحسب الرواية الأولية، جهة تستخدم ذكاءً اصطناعياً متطوراً، قبل أن يتضح أن الأمر مرتبط باختبار أجرته “أوبن أيه آي” لقياس قدرات نماذجها الجديدة في اكتشاف الثغرات وتنفيذ مهام الاختراق.
وخلال التجربة، نفذ النظام آلاف الإجراءات بسرعة كبيرة وبقدر محدود من التدخل البشري، ما دفع خبراء التقنية إلى طرح سؤال أكبر: هل نحن أمام جيل جديد من أدوات الأمن الإلكتروني التي ستساعد في حماية الأنظمة، أم أمام قدرات قد تتحول إلى سلاح بيد المهاجمين؟
ماذا حدث داخل الاختبار؟
رغم أن اكتشاف الثغرات الأمنية ورفع الصلاحيات والوصول إلى قواعد البيانات بدا كأنه نتيجة لقدرات غير مسبوقة للذكاء الاصطناعي، فإن ما حدث كان نتيجة اختبار صُمم بعناية من قبل البشر.
فقد جرى توجيه النماذج لتنفيذ مهام هجومية، مع تعطيل بعض وسائل الحماية بهدف قياس أقصى قدراتها، كما أُتيح لها الوصول إلى بيئة احتوت على ثغرة حقيقية. لذلك، لم يكن الأمر نتيجة خلل برمجي مفاجئ، بل نتيجة ظروف اختبار محددة أدت في النهاية إلى تنفيذ اختراق فعلي لمنصة Hugging Face.
وتكشف هذه التجربة أن النماذج الحديثة أصبحت قادرة على تنفيذ عمليات إلكترونية معقدة ومتعددة المراحل، والعثور على مسارات هجوم جديدة حتى دون امتلاك الشفرة المصدرية للأنظمة المستهدفة.
بين التحذير والدعاية
أثار الحادث انقساماً بين المتخصصين. فبينما اعتبره البعض دليلاً على التطور السريع لوكلاء الذكاء الاصطناعي وقدرتهم على تنفيذ مهام معقدة بشكل مستقل، رأى آخرون أن طريقة عرض القصة تحمل جانباً دعائياً يهدف إلى إبراز قوة نماذج “أوبن أيه آي” الجديدة.
وتصور “أوبن أيه آي” الحادثة على أنها نتيجة لقدرة النماذج على التركيز الشديد لتحقيق هدف الاختبار، لكن خبراء يرون أن المشكلة الأساسية تكمن في طريقة تصميم بيئة الاختبار وإجراءات الأمان، وليس في أن الذكاء الاصطناعي “قرر” الهجوم من تلقاء نفسه.
ومع ذلك، فإن قدرة نموذج على اكتشاف ثغرات أمنية غير معروفة، ورفع مستوى الصلاحيات، والتنقل داخل الأنظمة، تمثل القدرات التي تسعى شركات الذكاء الاصطناعي إلى تقديمها لعملائها في مجال الأمن السيبراني، ولكن لاستخدامها في الجانب الدفاعي.
هل أصبح الذكاء الاصطناعي “هاكر”؟
لا يعني ما حدث أن الذكاء الاصطناعي خرج عن السيطرة، لكنه يكشف تحولاً مهماً في طبيعة الهجمات الإلكترونية. فالنماذج الحديثة أصبحت قادرة على تحليل الأنظمة، واستخدام الأدوات الرقمية، وتنفيذ سلسلة طويلة من الخطوات لتحقيق هدف محدد.
ويحذر خبراء الأمن من أن الاعتماد على البيئات المعزولة (Sandbox)، وهي مساحات اختبار مغلقة تمنع البرامج من الوصول إلى الأنظمة الحقيقية، قد لا يكون كافياً وحده مع تطور قدرات الذكاء الاصطناعي، ما يتطلب تطوير وسائل حماية أكثر تقدماً،
ويأتي هذا الحادث كأحدث حلقة في سلسلة من الوقائع التي أثارت القلق بشأن تطور قدرات أنظمة الذكاء الاصطناعي ومدى قدرتها على تنفيذ مهام معقدة بطرق قد لا تكون متوقعة دائماً.
وفي دراسة حديثة، توصل معهد أمن الذكاء الاصطناعي (AISI) في بريطانيا إلى أن بعض نماذج الذكاء الاصطناعي المتقدمة تركز بشكل كبير على تحقيق الأهداف المطلوبة منها، إلى درجة أنها لجأت إلى أساليب غير متوقعة خلال الاختبارات للوصول إلى النتائج المطلوبة.
وحذر المعهد من أن النموذج الذي يسعى لتحقيق هدف معين باستخدام وسائل غير مقصودة أو غير مصرح بها قد يؤدي إلى نتائج ضارة، خصوصاً عند استخدامه في مجالات حساسة وعالية المخاطر، وفقا لـ “BBC”.
وقال دور ساريغ من شركة Pillar Security إن حادثة OpenAI وHugging Face تمثل مثالاً على مشكلة أوسع، موضحاً أن البيئات المعزولة وحدها لا تشكل حاجزاً أمنياً كافياً أمام الذكاء الاصطناعي القائم على الوكلاء المستقلين.
وكشف آلان وودوارد، أستاذ الأمن السيبراني في جامعة ساري، إن OpenAI ارتكبت خطأً كبيراً، بينما حذرت كاتي موسوريس من شركة Luta Security من أن قطاع الذكاء الاصطناعي يطور تقنيات متقدمة قبل امتلاك وسائل كافية لاحتوائها.
وأضافت أن وجود أفضل العقول في مجال تطوير الذكاء الاصطناعي لا يعني بالضرورة القدرة على استخدام هذه التقنيات بأمان كامل.
المخاوف القانونية
لا تزال التداعيات القانونية للحادثة غير محسومة؛ فبحسب موقع TechCrunch، يرى بعض الخبراء أن تصرفات النماذج قد تكون مخالفة لقانون الاحتيال وإساءة استخدام الحاسوب الأمريكي (CFAA).
وأشار الباحث ميكا كارول من “أوبن أيه آي” إلى أن هذه القضية تسلط الضوء على استمرار مشكلة “عدم توافق” الذكاء الاصطناعي مع الأهداف الموضوعة له، والتي قد تصبح من أبرز التحديات في المستقبل مع زيادة استقلالية هذه الأنظمة.
معركة الأمن السيبراني الجديدة
رغم الجدل والإحراج الذي سببه الحادث، فإنه منح “أوبن أيه آي” دليلاً عملياً على قدرات نماذجها في مجال الأمن السيبراني، وهي قدرات تسعى الشركة إلى توظيفها في حماية المؤسسات من الهجمات الرقمية.
ويأتي ذلك وسط منافسة قوية مع شركة Anthropic على سوق الأمن السيبراني المدعوم بالذكاء الاصطناعي، حيث تعمل الشركات على تطوير نماذج قادرة على اكتشاف الثغرات ومساعدة المؤسسات في مواجهة الهجمات المتزايدة.
وتروج الشركتان للفكرة نفسها وهي أن الذكاء الاصطناعي قد يكون الأداة الوحيدة القادرة على مواجهة مهاجمين يستخدمون التكنولوجيا ذاتها.
وفي هذا السباق، يمثل تقديم دليل على القدرات الهجومية للذكاء الاصطناعي ورقة قوية، حتى لو جاء ذلك من خلال حادثة اختبارية. فهي في الوقت نفسه تكشف تحديات أمنية حقيقية، وتمنح الشركات دليلاً على قوة تقنياتها.
هجوم “شات جي بي تي” الصادم.. اختراق أم دعاية؟ سما نيوز.
هجوم شات جي بي تي الصادم اختراق أم دعاية
المزيد من التفاصيل - اضغط هنا
سما نيوز هجوم شات جي بي تي الصادم اختراق أم دعاية
كانت هذه تفاصيل هجوم “شات جي بي تي” الصادم.. اختراق أم دعاية؟ نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
وننوه بأن الموضوع الأصلي قد تم نشرة ومتواجد على سما نيوز و قام فريق العمل في برسبي نيوز بالتاكد منه او ربما تم التعديل علية او قد يكون تم نقله بالكامل اوالاقتباس ويمكنك قراءة الموضوع من مصدره الاساسي.