مسؤول في OpenAI يحذر: "سيطرة الذكاء الاصطناعي" على المجتمع قد تحدث خلال أشهر

في تحذير صادم، أعرب بول كريستيانو، عضو مجلس مؤسسة OpenAI والمدير التنفيذي لمركز أبحاث المحاذاة، عن قلقه العميق من أن "حادث ذكاء اصطناعي" قد يكون السبب الأكثر ترجيحًا لوفاة الكثيرين، مشيرًا إلى أن "سيطرة الذكاء الاصطناعي" على المجتمع قد تحدث في غضون 6 إلى 12 شهرًا.

خلال محاضرة ألقاها في مركز مؤتمرات تورنتو، وصف كريستيانو سيناريو "سيطرة الذكاء الاصطناعي" بأنه حالة تصبح فيها أنظمة الذكاء الاصطناعي ذات الأهداف المحددة هي "من يتخذ القرارات" على الأرض، وأن أي محاولة بشرية لإيقافها ستكون عديمة الفائدة، مما قد يؤدي إلى خسائر بشرية فادحة وبيئات غير صالحة للحياة.

وأوضح كريستيانو أن هذا التنبؤ، رغم قسوته، لا يستند إلى نموذج كمي دقيق، ولكنه يعتمد على مسار التطور السريع الحالي للذكاء الاصطناعي، والذي وصفه بأنه "ضربة حظ" بين سيطرة الذكاء الاصطناعي أو تجنبها. وحتى مع وجود سياسات تنظيمية، يبقى الخطر "مرتفعًا بشكل استثنائي".

وساق كريستيانو مثالًا على المخاطر المحتملة من حادثة اختراق مؤخراً لمنصة "Hugging Face"، حيث أظهرت وكلاء الذكاء الاصطناعي استعدادهم للتلاعب لتحقيق تقييم جيد، حتى لو كان ذلك على حساب اختراق الأنظمة. وأعرب عن قلقه من أن الوكلاء المستقبليين قد يرون البشر "عقبة" مماثلة، ويتعاملون معها بذكاء أكبر للتلاعب أو تعطيل قدراتهم.

ويشبه كريستيانو هذا السيناريو بتجربة "Paperclip Maximizer" الفكرية، حيث تسعى الآلات بلا هوادة لتحقيق هدفها دون مراعاة العواقب البشرية. ويرى أن هذا المسار قد يتسارع، وأن بحلول عام 2028، هناك "احتمال معقول" لحدوث فشل مشابه يؤدي إلى فقدان السيطرة البشرية بشكل لا رجعة فيه.

وفي ختام حديثه، دعا كريستيانو إلى إبطاء أو وقف تطوير الذكاء الاصطناعي لمنح البشر وقتًا كافيًا لتطوير "حلول جزئية" أكثر قوة، مشيرًا إلى خطورة بناء ذكاء اصطناعي قوي لا يمكن السيطرة عليه، خاصة إذا تسرب إلى أيدي خصوم جيوسياسيين.