مايكروسوفت تكشف نقاط ضعف الذكاء الاصطناعي: هل نماذج GPT عرضة للتلاعب؟
مايكروسوفت تكشف عن بيئة 'سوق ماجنتيك': تحديات وكلاء الذكاء الاصطناعي في الأسواق الواقعية

تحديات وكلاء الذكاء الاصطناعي وسلوكهم في سوق ماجنتيك
أطلقت مايكروسوفت، بالتعاون مع باحثين من جامعة ولاية أريزونا، بيئة محاكاة مبتكرة لوكلاء الذكاء الاصطناعي تُعرف باسم "سوق ماجنتيك" (Magentic Marketplace). تهدف هذه البيئة إلى دراسة وتحليل سلوك وكلاء الذكاء الاصطناعي في ظروف سوقية واقعية، وقد كشفت الأبحاث الأولية عن تحديات ونقاط ضعف غير متوقعة في النماذج الحالية. فقد تبين أن هذه النماذج قد تكون عرضة للتلاعب وتظهر كفاءة منخفضة عند مواجهة خيارات متعددة أو عند الحاجة إلى التعاون الفعال دون توجيهات واضحة.
تضمنت التجارب الأولية في "سوق ماجنتيك" تفاعل 100 وكيل عميل مع 300 وكيل تجاري. في هذا السيناريو، يحاول وكيل العميل طلب وجبة بناءً على تعليمات المستخدم، بينما يتنافس وكلاء المطاعم المختلفة لتقديم أفضل عرض. لاحظ الباحثون انخفاضًا كبيرًا في كفاءة وكلاء العملاء مع ازدياد عدد الخيارات المتاحة، مما يشير إلى أن النماذج الحالية قد تواجه صعوبة في التعامل مع كم كبير من البدائل بشكل فعال. كما واجه وكلاء الذكاء الاصطناعي تحديات في التنسيق لتحقيق هدف مشترك، حيث بدوا غير قادرين على تحديد الأدوار التعاونية المطلوبة من كل وكيل. وقد تحسن الأداء بشكل ملحوظ عندما تم تزويد النماذج بتعليمات أكثر وضوحًا وصراحة حول كيفية التعاون، مما يؤكد الحاجة إلى تطوير قدراتهم الجوهرية في هذا المجال لتعزيز كفاءتهم ومرونتهم في بيئات معقدة.
ديناميكيات السوق ومفارقة الاختيار في بيئة Magentic Marketplace
تعتبر "سوق ماجنتيك" بيئة محاكاة مفتوحة المصدر، تتيح دراسة ديناميكيات السوق الرئيسية، بما في ذلك فائدة الوكلاء، التحيزات السلوكية، القابلية للتلاعب، وكيف تشكل آليات البحث نتائج السوق. تُظهر التجارب أن النماذج الرائدة يمكن أن تقترب من الرفاهية المثلى ولكن فقط في ظل ظروف بحث مثالية، حيث تتدهور الأداء بشكل حاد مع زيادة حجم الخيارات، وتظهر جميع النماذج تحيزًا شديدًا للاقتراح الأول، مما يمنح سرعة الاستجابة ميزة تتراوح من 10 إلى 30 ضعفًا على الجودة. كما كشفت التجارب أن تقديم المزيد من الخيارات لوكلاء الذكاء الاصطناعي قد يؤدي إلى نتائج عكسية، وهي ظاهرة تُعرف بـ "مفارقة الاختيار"، حيث تزيد الخيارات من تعقيد عملية اتخاذ القرار وتؤدي إلى اختيارات ذات جودة أقل.
المصدر: Microsoft Research، أكتوبر 2025
النماذج المختبرة وأهمية البحث مفتوح المصدر
تم اختبار نماذج رائدة مثل GPT-4o، وGPT-5 (نموذج مستقبلي)، و جيميني-2.5-فلاش ضمن هذه البيئة المحاكاة. ترى إيجي كامار، المدير الإداري لمختبرات واجهات الذكاء الاصطناعي في مايكروسوفت للأبحاث، أن هذا النوع من الأبحاث حيوي للغاية لفهم القدرات الحقيقية لوكلاء الذكاء الاصطناعي وتحديد كيفية تأثيرهم على التفاعل والتفاوض في العالم الحقيقي. الجدير بالذكر أن الكود المصدري لبيئة "سوق ماجنتيك" متاح للعامة، مما يسهل على المجموعات البحثية الأخرى تبني الكود لإجراء تجارب جديدة أو إعادة إنتاج النتائج، والمساهمة في فهم أعمق للذكاء الاصطناعي وتطبيقاته المستقبلية.
رابط مستودع: Magentic Marketplace على GitHub