علماء يحذّرون: الذكاء الاصطناعي قد يطوّر نفسه أسرع من قدرة البشر على السيطرة عليه
حذّر باحثون في الذكاء الاصطناعي من شركات «أوبن إيه آي» و«أنثروبيك» و«مايكروسوفت» و«ميتا» من احتمال أن تتمكن الأنظمة المتقدمة من تطوير نفسها بوتيرة تتجاوز قدرة البشر على فهمها وضبطها، بحسب تقرير نشرته صحيفة «وول ستريت جورنال».
ويدعو الباحثون إلى تعزيز الرقابة على استخدام الذكاء الاصطناعي في تطوير أجيال جديدة منه، وسط مخاوف من تسارع قد يختصر سنوات من التقدم التقني في أشهر أو أقل.
كيف يمكن للذكاء الاصطناعي تطوير نفسه؟
تقوم الفكرة على استخدام أنظمة الذكاء الاصطناعي لكتابة البرمجيات وإجراء التجارب والمساعدة في تصميم أنظمة أكثر تطوراً. وقد تساهم هذه الأنظمة الجديدة، بدورها، في تسريع تطوير الجيل التالي.
ويُعرف هذا الاحتمال باسم «التحسين الذاتي المتكرر»، إذ تتعاقب عمليات التطوير وتتسارع مع تحسّن قدرات الأنظمة المشاركة فيها.
وتوضح «أنثروبيك» أن أدوات الذكاء الاصطناعي تؤدي بالفعل دوراً متزايداً في البرمجة والأبحاث داخل الشركة، لكن البشر ما زالوا يحددون اتجاه العمل ويقيّمون النتائج. أما التطوير الذاتي الكامل والمتواصل، فلم يتحقق بعد، ولا يُعدّ مساراً حتمياً.
لماذا يثير هذا الاحتمال مخاوف الباحثين؟
قد يساعد تسريع الأبحاث على تحقيق اكتشافات علمية وتطوير تقنيات مفيدة. لكن القلق يتمثل في احتمال تقدّم قدرات الأنظمة بسرعة تفوق أدوات اختبارها ومراقبتها، ما قد يصعّب اكتشاف الأخطاء أو التدخل في الوقت المناسب.
وفي طرح منفصل، دعا كبير العلماء في «أوبن إيه آي»، ياكوب باتشوكي، إلى معايير سلامة أقوى وتعاون دولي لمواكبة الأنظمة الأكثر قدرة.
ويتعلق التحذير بمخاطر مستقبلية محتملة وبالحاجة إلى الاستعداد لها؛ ولا يعني أن أنظمة الذكاء الاصطناعي الحالية أصبحت خارج السيطرة البشرية.
🛈 تنويه: موقع "سيدر نيوز" غير مسؤول عن هذا الخبر شكلاً أو مضموناً، وهو يعبّر فقط عن وجهة نظر مصدره أو كاتبه.
