استقالة قائد السلامة في OpenAI: الثقافة مكسورة وعصر التجربة انتهى
استقالة قائد السلامة في OpenAI: الثقافة مكسورة وعصر التجربة والخطا انتهى
بعد ايام من فصل الباحثين الثلاثة انفجرت ازمة جديدة فرجل تقارير السلامة نفسه استقال فديفيد روبنسون الذي قاد مراجعات السلامة لاثني عشر اصدارا غادر الشركة بعد ثلاث سنوات ونصف ونشر مقالا في مجلة اتلانتيك بعنوان ثقافة الشركة مكسورة حسب رويترز واسو شيتد برس.
ماذا قال بالضبط؟ ان شركات الذكاء الاصطناعي ومنها شركته ليست حذرة بما يكفي وان زمن التجربة والخطا انتهى وان الانظمة المتقدمة تحتاج ضمانات بمستوى الطاقة النووية والطيران.
جوهر الاتهام: النشر التكراري صار خطرا
اعتراض روبنسون ليس على قاعدة مفقودة بل على الثقافة نفسها فالشركة تعتمد النشر التكراري اي اطلاق النظام اولا ثم اصلاح مشاكل السلامة لاحقا وهذا كان مقبولا مع انظمة ضعيفة لكنه يزداد خطورة كلما زادت استقلالية الانظمة لان الفشل قد يتفاقم قبل ان تلحق الشركة باصلاحه حسب ملخصات المقال في الصحف.
وهو رابع المغادرين من فريق السلامة في اسبوع واحد تقريبا مع الباحثين الثلاثة المفصولين حسب التغطيات الصحفية والشركة ردت بانها تواصل تعزيز ممارسات السلامة والامن.
تحذير اشد: خمسون بالمئة؟
في نفس اليوم نشر باحث سلامة اخر عمل في الشركة وفي معهد السلامة البريطاني مقالا في مجلة تايم قال فيه ان التحذيرات الحالية تقلل من خطورة الموقف وانه يرى احتمالا بنحو خمسين بالمئة لفناء البشر بسبب انظمة اذكى من الانسان وان افعالنا في سنتين الى عشر قادمة ستحدد النتيجة حسب الايريش اجزامينر.
كيف تقرا هذه الارقام؟ هي تقديرات شخصية لخبراء لا قياسات علمية فقيمتها في وزن صاحبها لا في دقتها ولا تبن اي رقم كحقيقة بل انقله منسوبا لصاحبه دائما.
اسئلة شائعة عن الاستقالة
من هو ديفيد روبنسون؟
الإجابة: قائد في فريق انظمة السلامة قاد تقارير السلامة لاثني عشر اصدارا على مدى ثلاث سنوات ونصف حسب الصحف.
ما الفرق بينه وبين المفصولين؟
الإجابة: هو استقال طوعا ونشر نقدا علنيا بينما الثلاثة فصلتهم الشركة لمخالفة سياسات المعلومات حسب بياناتها.
هل توقفت الشركة عن التطوير؟
الإجابة: لا بل اوقفت تدريب اقوى نماذجها مؤقتا والغت اصدارا واحدا بينما تستمر الاصدارات الاخرى حسب التقارير.
الخلاصة
اهم نتيجة هي ان الازمة صارت ثقافية لا اجرائية باستقالة رجل التقارير نفسه واهم نصيحة هي فرق بين التقدير الشخصي والحقيقة العلمية عند قراءة ارقام الفناء وسنتابع رد الشركة واي استقالات جديدة في تحديث مرتبط.
