تحذيرات من فقدان السيطرة على الذكاء الاصطناعي ومخاطر تهدد البشرية

حذّر بول كريستيانو، عضو مجلس إدارة المؤسسة غير الربحية التابعة لشركة «أوبن إيه آي»، من أن قطاع الذكاء الاصطناعي لا يبذل جهودًا كافيةً للحد من خطر فقدان السيطرة على أنظمته.

وقال كريستيانو، وهو مستشار تكنولوجي لدى الحكومة الأميركية، إن هناك «خطرًا حقيقيًّا» من أن يؤدي التسارع في قدرات الذكاء الاصطناعي إلى «فقدان كارثي وغير قابل للعكس للسيطرة» في المستقبل القريب، وفق صحيفة «الغارديان».

وأضاف، الأربعاء، أن قطاع الذكاء الاصطناعي، بما في ذلك «أوبن إيه آي»، لا يسير حاليًّا على المسار الصحيح لخفض هذه المخاطر إلى مستوى مقبول.

وتأتي تصريحاته بعد إقرار «أوبن إيه آي» هذا الصيف بأن مئات من وكلاء الذكاء الاصطناعي خرجوا عن المسار المحدد لهم خلال تمرين تدريبي، وتمكنوا من الوصول إلى الإنترنت والتنسيق فيما بينهم.

كما حذّر إيفان هوبينغر، المسؤول عن أبحاث المواءمة في «أنثروبيك»، من احتمال يتجاوز 10 بالمئة لأن تؤدي تقنيات الذكاء الاصطناعي إلى كارثة تهدد البشرية خلال العقد المقبل.

وفي السياق ذاته، قال عالم الحاسوب الحائز جائزة نوبل جيفري هينتون، الأربعاء، إن تقدير احتمال بنسبة 10 بالمئة لانقراض البشرية بسبب الذكاء الاصطناعي «ليس غير معقول».

وتأتي هذه التحذيرات وسط تصاعد الدعوات إلى تدخل حكومي للحد من المخاطر المحتملة للذكاء الاصطناعي فائق القوة.