اخبار عربية الأخطاء ترافق الارتقاء.. الذكاء الاصطناعي "يبيع الوجبات" ويخسر الدولارات

اليكم الان الأخطاء ترافق الارتقاء.. الذكاء الاصطناعي "يبيع الوجبات" ويخسر الدولارات والان إلى التفاصيل من المصدر هسبريس:

لم يكن اختبار قدرات الذكاء الاصطناعي داخل غرفة مختبر أو على شاشة حاسوب هذه المرة؛ بل داخل غرفة أخبار، حيث أُسندت إلى وكيل ذكي مهمة تبدو بسيطة: إدارة آلة لبيع الوجبات الخفيفة والمشروبات.

لكن هذه التجربة، التي أجرتها  مؤخرا صحيفة “وول ستريت جورنال” بالتعاون مع شركة “أنثروبيك”، كشفت أن انتقال الذكاء الاصطناعي من مرحلة الإجابة عن الأسئلة إلى مرحلة اتخاذ القرارات وتنفيذها في العالم الحقيقي يفتح الباب أمام أخطاء غير متوقعة.

وأطلقت الصحيفة على الوكيل اسم “كلاوديوس”، وهو نظام قائم على نموذج “كلود” التابع لشركة “أنثروبيك”، وتولى النظام إدارة عملية البيع والتعامل مع الموظفين عبر منصة “سلاك”؛ بما في ذلك متابعة المخزون، وتحديد الأسعار، والرد على طلبات الزبائن.

في البداية، بدا الأمر أشبه بتجربة بسيطة لمعرفة ما إذا كان بإمكان وكيل ذكاء اصطناعي إدارة نشاط تجاري صغير؛ لكن التجربة سرعان ما تحولت إلى اختبار أكثر تعقيدا لطريقة تعامل هذه الأنظمة مع البشر والمال والقرارات اليومية.

من إدارة المبيعات إلى خسارة المال

وجد العاملون في الصحيفة طرقا للتفاعل مع النظام واستغلال بعض نقاط ضعفه، إذ بدأ “كلاوديوس” في تقديم منتجات مجانا، والدخول في صفقات لم تكن منطقية من الناحية التجارية.

ووصل الأمر إلى تقديم جهاز “بلايستيشن 5” مجانا؛ فيما طلب النظام، في إحدى مراحل التجربة، شراء سمكة حية، في سلوك يعكس الصعوبة التي تواجهها النماذج الذكية عندما تنتقل من تنفيذ التعليمات النصية إلى التعامل مع سياقات بشرية معقدة.

ومع مرور الوقت، أصبحت الآلة مصدر خسائر بدلا من تحقيق الأرباح، بعدما أثرت قرارات الوكيل في الأسعار والمبيعات والمخزون، ولم يكن العاملون يتعاملون مع نظام مصمم خصيصا لإجراء المقالب؛ بل مع نموذج ذكاء اصطناعي يحاول، حسب التعليمات الموجهة إليه، أداء دور مدير نشاط تجاري حقيقي.

عندما يصبح الذكاء الاصطناعي “وكيلا”

تكمن أهمية التجربة في أنها تعكس تحولا أوسع في صناعة الذكاء الاصطناعي؛ فالنماذج السابقة كانت تستخدم أساسا للإجابة عن الأسئلة، وكتابة النصوص، وتحليل المعلومات أو اقتراح حلول. أما ما يُعرف بـ”وكلاء الذكاء الاصطناع”»، فيُصمم لتنفيذ سلسلة من المهام واتخاذ قرارات على أساس الهدف الذي يُعطى له.

وهذا يعني أن المستخدم لا يطلب من النظام فقط أن يخبره بكيفية القيام بشيء ما؛ بل يمنحه صلاحية القيام به؛ وهنا تظهر المشكلة التي أبرزتها تجربة “وول ستريت جورنال”: تنفيذ مهمة محددة لا يعني بالضرورة أن النظام يفهم جميع المصالح والقيود والسياقات المرتبطة بها، فالوكيل يمكن أن يكون قادرا على تحليل الأسعار والمخزون والرسائل؛ لكنه قد يواجه صعوبة عندما يتعمد البشر تضليله أو الضغط عليه أو إدخاله في محادثات متناقضة.

البشر كانوا جزءا من الاختبار

لم تكن المشكلة مرتبطة بالنظام وحده؛ فقد اكتشف موظفو الصحيفة أن بإمكانهم التأثير في قرارات الوكيل عبر المحادثات والطلبات المختلفة.

وبذلك، تحولت التجربة إلى مواجهة غير مباشرة بين الذكاء الاصطناعي والذكاء البشري: النظام يحاول إدارة نشاط تجاري وفق قواعده وتعليماته؛ بينما يحاول البشر اكتشاف الطرق التي يمكن من خلالها دفعه إلى اتخاذ قرارات غير متوقعة.

وتكشف هذه النقطة عن تحدٍّ أساسي أمام الجيل الجديد من الذكاء الاصطناعي: البيئة الحقيقية أكثر فوضى من بيئة الاختبارات.

في المختبر، يمكن للمطورين تحديد المهمة والبيانات والقواعد. أما في الحياة اليومية، فإن المستخدمين يمكن أن يطرحوا أسئلة غير متوقعة، ويقدموا معلومات مضللة، ويغيروا أهدافهم، ويحاولوا استغلال النظام.

“النجاح” لا يعني غياب الأخطاء

وعلى الرغم من الخسائر التي سجلتها التجربة، فإنها لا تقدم بالضرورة دليلا على فشل وكلاء الذكاء الاصطناعي، فعلى العكس، تكشف التجربة أن هذه الأنظمة أصبحت قادرة على التعامل مع مهام متعددة ومترابطة بدرجة تجعل اختبارها في بيئات حقيقية ضروريا؛ لكنها توضح في الوقت نفسه أن منح نظام ذكي صلاحية التصرف باستقلالية يتطلب وجود حدود واضحة وآليات للمراقبة والتدخل البشري.

لا تكمن المشكلة فقط في قدرة الذكاء الاصطناعي على اتخاذ القرار، وإنما في معرفة متى ينبغي السماح له باتخاذه، ومتى يجب أن يتوقف ويطلب تدخلا بشريا.

من آلة بيع إلى الشركات والبنوك

قد تبدو قصة آلة البيع تجربة طريفة؛ لكنها تحمل دلالة أكبر بكثير من حجمها.

إذا كان وكيل ذكاء اصطناعي يمكن أن يتسبب في خسائر داخل نشاط تجاري صغير بسبب سوء فهم السياق أو تعرضه للتلاعب، فإن السؤال يصبح أكثر أهمية عندما يتعلق الأمر بأنظمة تدير عمليات شراء، أو حسابات مصرفية، أو خدمة زبناء، أو أنظمة معلومات داخل شركات كبرى.

ولهذا، فإن السباق الحالي في صناعة الذكاء الاصطناعي لا يتعلق فقط بجعل النماذج أكثر ذكاء وقدرة على تنفيذ المهام، وإنما أيضا بجعلها أكثر قابلية للضبط والمراقبة.  وتشير تجربة “وول ستريت جورنال” إلى مفارقة مهمة: كلما أصبح الذكاء الاصطناعي أكثر استقلالية، أصبح الخطأ المحتمل أكثر تكلفة.

وهكذا، ربما لا يكون السؤال الأساسي في المرحلة المقبلة هو: “هل يستطيع الذكاء الاصطناعي القيام بالمهمة؟”، وإنما: “هل يمكننا الوثوق به عندما نمنحه صلاحية القيام بها بمفرده؟”.

الأخطاء ترافق الارتقاء.. الذكاء الاصطناعي "يبيع الوجبات" ويخسر الدولارات Hespress - هسبريس جريدة إلكترونية مغربية.

المزيد من التفاصيل من المصدر - (اضغط هنا)

كانت هذه تفاصيل الأخطاء ترافق الارتقاء.. الذكاء الاصطناعي "يبيع الوجبات" ويخسر الدولارات نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .

و ننوه بأن الموضوع الأصلي قد تم نشرة ومتواجد على هسبريس و قام فريق العمل فيبرسبي نيوز بالتاكد منه او ربما تم التعديل علية او قد يكون تم نقله بالكامل اوالاقتباس ويمكنك قراءة الموضوع من مصدره الاساسي.