سباق عمالقة التقنية نحو الذكاء الاصطناعي الفائق يثير مخاوف فناء البشر

يتصاعد القلق داخل أوساط البحث والتكنولوجيا من السرعة التي تتقدم بها مختبرات الذكاء الاصطناعي الكبرى نحو بناء أنظمة أكثر استقلالا وقدرة، بعدما عاد باحثون ومسؤولون في شركات أمريكية إلى التحذير من احتمال أن تتحول نماذج “فائقة الذكاء” مستقبلا إلى خطر يصعب احتواؤه، يصل في أكثر السيناريوهات تشاؤما إلى تهديد وجود البشر أنفسهم. ولا تتعلق هذه المخاوف بالأنظمة المتاحة حاليا، بحسب الباحثين الذين يقودون النقاش، وإنما بما قد يحدث إذا نجحت الشركات في تطوير نماذج تتجاوز القدرات البشرية في مجالات واسعة، وتصبح قادرة على اتخاذ قرارات وتنفيذ مهام معقدة خارج نطاق الإشراف المباشر. وكان مئات الخبراء في الذكاء الاصطناعي ومسؤولي القطاع، بينهم قيادات في أبرز مختبرات البحث الأمريكية، قد وقعوا سنة 2023 “إعلانا بشأن خطر الانقراض المرتبط بالذكاء الاصطناعي”، دعوا فيه الحكومات إلى التعامل مع هذه المخاطر بالجدية نفسها المخصصة للأوبئة والأسلحة النووية. ويتجدد النقاش في مرحلة تتسابق فيها الشركات على تطوير نماذج أكثر تطورا، وسط انتقادات من داخل القطاع نفسه لما يعتبره بعض الباحثين اندفاعا تجاريا وتقنيا قد يسبق بناء الضمانات الكفيلة بالتحكم في الأنظمة الجديدة. سيناريوهات من المختبر إلى الحرب النووية يرى ستيوارت راسل، أستاذ علوم الحاسوب بجامعة كاليفورنيا في بيركلي وأحد أبرز الأصوات في نقاش سلامة الذكاء الاصطناعي، أن الخطر الأكبر سيظهر إذا أصبح نظام مستقبلي فائق الذكاء يعتبر البشر عائقا أمام تحقيق أهدافه. وقال راسل إن نظاما خرج عن السيطرة قد يستخدم الروبوتات في “تصنيع ونشر عوامل ممرضة جديدة”، كما قد يحاول إقناع أشخاص بإشعال حرب نووية، بما في ذلك عبر اختراق أنظمة الإنذار المبكر والتلاعب بالمعلومات التي تعتمد عليها. ولا يقدم الباحث هذه السيناريوهات باعتبارها وصفا لقدرات الذكاء الاصطناعي الحالي، إذ أكد أن المخاوف تتعلق بمراحل أكثر تقدما من التكنولوجيا، حين تصبح الأنظمة قادرة على تنفيذ أفعال قاتلة لا يستطيع الإنسان فهمها أو توقعها بالسرعة الكافية. وذهب راسل إلى طرح احتمال أكثر تطرفا يتعلق بقدرة نظام فائق الذكاء على القيام بأفعال تتجاوز التصورات البشرية، مثل التأثير في تركيبة الغلاف الجوي، مستندا إلى فكرة أن الإنسان قد يجد نفسه في مواجهة نظام أكثر ذكاء منه بكثير. ومع ذلك، يرى الباحث أن الخطر الأقرب زمنيا ليس تمرد آلة مستقلة، وإنما سوء استخدام البشر لهذه الأدوات، إذ حذر من أن العام أو العامين المقبلين قد يشهدان توظيف الذكاء الاصطناعي في أعمال إرهابية أو هجمات شديدة الخطورة. ويضع هذا التمييز النقاش أمام مستويين مختلفين، خطر قريب مصدره مستخدمون بشر يستغلون قدرات النماذج، وخطر بعيد يتصل باحتمال تطوير أنظمة تستطيع التحرك باستقلالية تتجاوز قدرة الإنسان على ضبطها. باحثون يغادرون السباق ويحذرون من نتائجه تزداد حدة المخاوف مع صدور تحذيرات من موظفين وباحثين عملوا داخل الشركات التي تقود تطوير الذكاء الاصطناعي. وأعلن الباحث جاكوب كوكسون، البالغ 27 عاما، استقالته من شركة “Anthropic”، وكتب أن المخاطر “مفهومة جيدا”، لكنه اعتبر أن المختبرات الكبرى أصبحت حبيسة سباق هدفه الوصول أولا إلى الأنظمة الأكثر تقدما. وأوضح كوكسون أن كل شركة تعتقد أن المنافسين قد لا يتصرفون بمسؤولية، فتصل إلى نتيجة مفادها أن عليها مواصلة التطوير بنفسها بدلا من ترك السبق لمختبر آخر قد يكون أقل حذرا. وكانت “Anthropic” قد حذفت خلال العام الجاري من ميثاقها الخاص بالسلامة التزاما سابقا بوقف تطوير نماذجها إذا عجزت عن التحكم في مخاطرها، وبررت موقفها بأن تجميد العمل من جانب واحد قد يتيح لمنافسين أقل تشددا في إجراءات الأمان الاستحواذ على موقع متقدم. كوكسون، الذي سبق له العمل في “OpenAI” المطورة لـ”ChatGPT”، وجه انتقادات شديدة إلى الشركتين، وقال إن بعض الأشخاص الذين يبنون هذه الأنظمة يؤمنون فعليا بأنها قد تقتل البشر قبل نهاية العقد الحالي. كما اتهم “Anthropic” و”OpenAI” بالمجازفة عبر السعي إلى تطوير نماذج تستطيع تحسين قدراتها بنفسها، معتبرا أن وتيرة المنافسة الحالية تجعل قرارات التوقف أكثر صعوبة كلما ازدادت قيمة السبق التقني. وتعززت المخاوف بعد حادثة مرتبطة بتقنية تابعة لـ”OpenAI”، قالت المعطيات الواردة بشأنها إنها تمكنت، أثناء العمل خارج إشراف بشري، من اختراق منصة “Hugging Face”، وهي مستودع واسع لنماذج الذكاء الاصطناعي. وكتب إيفان هوبينغر، المسؤول عن السلامة لدى “Anthropic”، أن القلق من إمكانية تسبب الذكاء الاصطناعي في قتل البشر ليس فرضية هامشية لدى العاملين في المجال، قائلا إن هذا الاحتمال يؤخذ بجدية داخل بعض دوائر تطوير النماذج المتقدمة. دعوات إلى الإبطاء قبل فقدان السيطرة رغم حدة هذه التحذيرات، لا يرى جميع الباحثين أن فقدان السيطرة أصبح أمرا محتوما. وقال حسين عباس، أستاذ علوم الحاسوب بجامعة نيو ساوث ويلز في كانبيرا، إن الوضع “ما يزال قابلا للسيطرة ويمكن إدارته”، لكنه حذر من أن استمرار الحكومات في مراقبة السباق دون بناء قواعد تنظيمية سريعة قد يزيد المخاطر. ودعا عباس إلى اعتماد تنظيم “مرن” وقابل للتحديث باستمرار، لأن التكنولوجيا تتطور بوتيرة تجعل القوانين الجامدة عرضة للتجاوز في وقت قصير. وفي يوليو الماضي، وقع أكثر من ألف موظف في قطاع التكنولوجيا، بينهم الرئيس التنفيذي لـ”Anthropic”، دعوة إلى واشنطن لدعم تباطؤ منسق في تطوير أكثر أنظمة الذكاء الاصطناعي تقدما، في محاولة لمنع تحول المنافسة التجارية إلى عامل يدفع الشركات نحو إطلاق قدرات لم تخضع لاختبارات كافية. ويأتي هذا النقاش بينما تستعد “Anthropic” و”OpenAI”، بحسب المعطيات المتداولة، لدخول البورصة، وهو ما يضيف إلى السباق بعدا استثماريا قد يزيد الضغط على الشركات لتحقيق نمو سريع والمحافظة على التفوق أمام المنافسين. في المقابل، يرى بعض المنتقدين أن التحذيرات الكارثية نفسها تخدم صورة شركات الذكاء الاصطناعي، لأنها تصور نماذجها باعتبارها تقنيات ذات قدرات هائلة قد تجذب المزيد من الاستثمارات. ويعتقد آخرون أن التركيز على احتمال انقراض البشرية يصرف الانتباه عن أخطار قائمة بالفعل، بينها فقدان الوظائف، والتأثيرات الاجتماعية للاعتماد الواسع على الأتمتة، واحتمال أن تميز بعض الأنظمة ضد الأقليات أو فئات معينة بسبب طبيعة البيانات التي تدربت عليها. ويبقى التنظيم الحكومي أكثر عناصر الملف حساسية، خصوصا في الولايات المتحدة التي عارضت حتى الآن إقامة إطار عالمي صارم قد يحد من الابتكار أو يبطئ الشركات الأمريكية. غير أن القدرات المتزايدة لبعض النماذج في مجال الاختراق دفعت واشنطن إلى إعادة النظر في حجم المخاطر، بعدما تأخر إطلاق إصدارات متقدمة من تقنيات “Anthropic” و”OpenAI” لأسباب مرتبطة بالأمن القومي. وقال الرئيس الأمريكي دونالد ترامب إن واشنطن لا تريد تقييد شركات الذكاء الاصطناعي إلى درجة تجعل الولايات المتحدة تتراجع خلف الصين، في تصريح يعكس الصراع بين مطلب السلامة والرغبة في الاحتفاظ بالصدارة التكنولوجية. أما راسل فيرى أن انتظار وقوع حادث كبير قبل التحرك قد يكون رهانا بالغ الخطورة، محذرا من أن الحكومات قد تحتاج إلى “كارثة بحجم تشيرنوبل” حتى تتخذ قرارات أكثر صرامة. ودعا أستاذ جامعة بيركلي إلى فرض نظام تراخيص على تطوير أقوى أنظمة الذكاء الاصطناعي، على غرار التنظيم المعمول به في الطيران والطب، بحيث لا يسمح بتشغيل تقنيات ذات قدرات شديدة الخطورة قبل إثبات إمكانية التحكم فيها. وتكشف هذه التحذيرات عن مفارقة أصبحت ملازمة لسباق الذكاء الاصطناعي، فالشركات تتنافس للوصول إلى أنظمة أكثر قدرة واستقلالا، بينما يخرج من داخل القطاع نفسه من يطالب بإبطاء الخطوات قبل الوصول إلى مرحلة تصبح فيها العودة إلى الوراء أكثر صعوبة. The post سباق عمالقة التقنية نحو الذكاء الاصطناعي الفائق يثير مخاوف فناء البشر appeared first on Hespress – هسبريس جريدة إلكترونية مغربية.

كاتي فورستر من اليابانمصدر