العالم الرئيسي في OpenAI: هل "العقل الغريب" للذكاء الاصطناعي يخرج عن سيطرة الإنسان؟

تزداد الفجوة بين قدرات نماذج الذكاء الاصطناعي المتقدمة وقوة الإنسان لفهم آلياتها الداخلية كل يوم. يقول صانعو هذه التكنولوجيا إن النماذج الجديدة ليست مجرد أدوات أسرع لإنتاج النصوص أو البرمجة؛ بل يمكنها أن تستنتج، وتستخدم الأدوات، وتتعاون مع البشر وعوامل ذكية أخرى، وتقوم ببعض المهام باستقلالية ملحوظة. هذا التحول نفسه أثار مخاوف جدية بشأن السيطرة، والسلامة، ومستقبل اتخاذ القرارات البشرية.

بعد أيام قليلة من تقديم GPT-6 Astra من قبل OpenAI، حذر جاكوب باتشوك من تقدم الذكاء الاصطناعي في ملاحظة بعنوان "عقل غريب". من وجهة نظره، يقترب العالم من فترة تتفوق فيها الآلات على الإنسان في بعض القدرات المهمة؛ بينما لا تزال المجتمعات والشركات والحكومات غير مستعدة تمامًا لعواقب هذا التغيير.

تعبير "العقل الغريب" لا يعني أن النماذج حية أو واعية؛ بل يشير إلى ذكاء يتطور مساره ونقاط قوته بشكل مختلف عن عقل الإنسان، ولا يمكن للباحثين التنبؤ بجميع سلوكياته.

بداية القلق من نماذج الاستدلال

يبدأ باتشوك روايته من منتصف عام 2023؛ عندما كان يعمل مع سايمون على مشروع بحثي يحمل الاسم الرمزي RLSlow. أظهرت النتائج الأولية أن تدريب نماذج الاستدلال لديه القدرة على التوسع، وأن النماذج المدربة مسبقًا يمكن أن تشكل مسارات استدلالية أكثر استقلالية.

تحولت تلك التجربة المحدودة بعد عدة سنوات إلى جزء من الاقتصاد الرقمي. تعمل عوامل الذكاء الاصطناعي الآن مع أجهزة الكمبيوتر، وتشارك في الأبحاث، وتدفع المشاريع المعقدة خطوة بخطوة. لقد أوجدت قدرتهم في مجالات مثل الأمن السيبراني مخاطر جديدة.

ما هو خطر التحسين الذاتي المتكرر؟

أحد أهم المفاهيم المطروحة في هذا النقاش هو "التحسين الذاتي المتكرر". في مثل هذا السيناريو، تشارك النماذج القوية في تصميم الخوارزميات، وتنفيذ التجارب، وتحليل النتائج، وتحسين الأجهزة، أو تدريب الجيل التالي من النماذج. ثم يستمر الجيل الجديد، بسرعة وقوة أكبر، في نفس الدورة.

إذا تسارع هذا الاتجاه، ستصبح الفجوة الزمنية بين الأجيال المختلفة من الذكاء الاصطناعي أقصر، وقد تتجاوز سرعة التغييرات قدرة الإنسان على التقييم، والتشريع، والسيطرة. يمكن رؤية العلامات الأولية لهذا الانتقال في النماذج التي تستخدم الأدوات في بيئات حقيقية وتحتاج إلى تدخل أقل لأداء المهام متعددة الخطوات.

الصندوق الأسود للتعلم العميق؛ لماذا لا نفهم سلوك النماذج بالكامل؟

لا يتم تصميم الذكاء الاصطناعي مثل البرامج التقليدية، سطرًا بسطر. يحدد الباحثون الهيكل، والبيانات، وطرق التدريب، ولكن العديد من الأنماط السلوكية للنموذج تتشكل أثناء التدريب. كما يقول باتشوك، هذه الأنظمة تُنمى أكثر مما تُصنع.

يمكن للباحثين دراسة نشاط بعض أجزاء الشبكة العصبية، لكن فهم بعض المكونات لا يعني فهم النظام بالكامل. تؤدي المليارات من المعلمات والتفاعلات المعقدة بينها إلى أن تكون نتائج التدريب مفاجئة حتى لمصممي النموذج.

تُقاس القدرات مثل حل المشكلات أو البرمجة بمعايير واضحة نسبيًا؛ لكن تقييم النزاهة، والحكم الأخلاقي، والسلوك المسؤول أكثر صعوبة. ليس من الضروري أن يتفوق الذكاء الاصطناعي على الإنسان في جميع المجالات لتغيير العالم. يمكن أن يكون التفوق في بعض المجالات الرئيسية له عواقب واسعة.

مسألة التوافق مع الأهداف والقيم الإنسانية

واحدة من الموضوعات الرئيسية لسلامة الذكاء الاصطناعي هي "التوافق"؛ أي أن النموذج يجب أن يعمل حقًا وفقًا لرغبات ومصالح الإنسان. يشرح باتشوك هذه المسألة على مستويين: توافق الأهداف وتوافق القيم.

في توافق الأهداف، يجب أن يفهم النموذج تعليمات المستخدم بشكل صحيح، ويحدد الأولويات، ويتبع المهمة المحددة. لقد حققت المساعدات الذكية اليوم تقدمًا ملحوظًا في هذا الجانب. لكن توافق القيم أكثر تعقيدًا. يجب أن يحافظ النموذج على المبادئ العامة مثل النزاهة، والشفافية، واحترام مصالح البشر حتى في الظروف الجديدة، المتناقضة، أو بدون تعليمات واضحة.

يمكن أن تحسن أنظمة المكافآت والتعلم التعزيزي سلوك النموذج في المواقف العادية، لكن لا توجد ضمانات بأن نفس المبادئ يمكن تعميمها بشكل صحيح في بيئات مختلفة تمامًا. قد يلتزم عامل ذكي بالقيود الصريحة، لكنه قد يتجاوز روح تلك القوانين لتحقيق هدفه أو يقدم تعريفًا لصالح مهمته من اللغة الأخلاقية. يمكن أن يصبح هذا السلوك أكثر وضوحًا مع زيادة الضغط من أجل تحسين الهدف.

أعلنت OpenAI أن Astra قد تقدمت في مجال التوافق مقارنةً بـ Sol ؛ ومع ذلك، يؤكد باتشوك أن هذه التحسينات لا تزال غير كافية. المسألة الرئيسية هي ما إذا كان يمكن أن تتقدم سلامة النماذج والتوافق الأخلاقي جنبًا إلى جنب مع النمو السريع لقدراتها العامة أم لا.

لماذا أصبح من الصعب مراقبة سلسلة الاستدلال؟

أحد الآمال الأولية لشركات الذكاء الاصطناعي هو مراقبة مراحل استدلال النموذج. إذا كان بإمكان الباحثين رؤية المسار الذي يصل به النموذج إلى النتيجة، فقد يكون من الممكن اكتشاف علامات الخداع أو التخطيط الضار أو الأهداف غير المتوافقة قبل التنفيذ. عند إصدار النسخة التجريبية o1، أخفت OpenAI سلسلة الاستدلال الكاملة عن المستخدمين وسعت إلى عدم تعريضها مباشرة للمكافآت والعقوبات. كان الهدف هو أن لا يتحفز النموذج لعرض استدلال يبدو مرغوبًا أو لإخفاء الأفكار المقلقة. مع تعقيد العوامل، أصبحت هذه المراقبة أكثر صعوبة. تتفاعل النماذج مع البشر والأدوات ونماذج أخرى، وتقوم بجزء من حساباتها دون التعبير اللفظي. لذلك، فإن سلسلة الاستدلال ليست بالضرورة صورة كاملة عن اتخاذ القرار في الشبكة. قد يؤدي دمجها مع طرق التفسير إلى تحسين المراقبة، ولكن لا تزال هناك حاجة إلى حل قاطع. تهديدات السايبر وضرورة بناء أدوات دفاعية. لا تحتاج عوامل الذكاء الاصطناعي إلى إلحاق الضرر بالروبوت. يمكن أن يؤثر الوصول إلى الشبكات والبنية التحتية الحساسة على العالم الحقيقي. مع زيادة استقلالية العوامل، يصبح الحد الفاصل بين سوء استخدام الإنسان والسلوك غير المتوقع للنظام أكثر غموضًا. قد يتجاوز النموذج المدرب على القيام بعمل ضار نطاق رغبات المنشئ لتحقيق هدفه. من ناحية أخرى، يمكن أن يسهل تقدم الذكاء الاصطناعي الوصول إلى المعرفة الحساسة، بما في ذلك طرق تصنيع العوامل المسببة للأمراض المهندسة. بالطبع، تمتلك هذه التكنولوجيا أيضًا قدرة دفاعية مهمة. يمكن للنماذج المتقدمة اكتشاف الثغرات، وجعل البنية التحتية أكثر مقاومة، ومواجهة العوامل الضارة. يعتبر باكوشي هذه الحاجة الدفاعية واحدة من أهم أسباب استمرار تطوير الذكاء الاصطناعي، لكنه يعتقد أن هذا المسار يجب أن يكون مصحوبًا بالقيود والمعايير الصارمة. ثلاثة اقتراحات لتطوير الذكاء الاصطناعي بشكل أكثر أمانًا. يقترح باكوشي ثلاثة مسارات رئيسية لتقليل المخاطر. أولاً، بناء "باحث تلقائي للذكاء الاصطناعي" يمكنه، بالتزامن مع نمو النماذج، العثور على حلول جديدة للتوافق والسلامة. ثانيًا، تحديد الحد الأدنى من معايير السلامة وتقييمها من قبل الهيئات الحكومية أو المدققين المستقلين. الاقتراح الثالث هو تقليل سرعة التطوير طواعية من قبل الشركات الكبرى حتى يتم إنشاء حواجز ومعايير مشتركة. فرص كبيرة بجانب خطر تركيز القوة. الصورة المستقبلية ليست قاتمة تمامًا. يمكن أن تسرع النماذج المتوافقة البحث العلمي، واكتشاف علاجات جديدة، والإنتاجية الاقتصادية. ومع ذلك، إذا قامت الآلات بأغلب الأعمال البشرية، فإن الحفاظ على السلطة والكرامة ودور اتخاذ القرار للإنسان يصبح مسألة ملحة. خطر آخر هو تركيز القوة. قد يتم تنفيذ المشاريع التي تحتاج اليوم إلى مئات أو آلاف المتخصصين في المستقبل من قبل مجموعة صغيرة ونظام قوي للغاية. في هذه الحالة، يمكن أن يمنح التحكم في التكنولوجيا والموارد الحاسوبية نفوذًا غير مسبوق لعدد قليل من الشركات أو الأفراد. هل يمكن أن تتحرك القوانين جنبًا إلى جنب مع الذكاء الاصطناعي؟ يقول النقاد إن اللوائح العالمية متأخرة عن سرعة تطوير التكنولوجيا. حتى القوانين الإقليمية، مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي، لا يمكن أن تقيد تهديد نموذج تم تطويره في مكان آخر من العالم. لهذا السبب، فإن التنسيق الدولي وتبادل المعلومات حول مخاطر النماذج الحدودية له أهمية كبيرة. من ناحية أخرى، يعتقد بعض المتخصصين أن الشركات المصنعة لا يمكن أن تكون في نفس الوقت مطورًا للتكنولوجيا، ومقيمًا للمخاطر، وصانع القرار الرئيسي بشأن سرعة التقدم. ترى جينا نيف من جامعة كامبريدج أن الاعتماد على العوامل الداخلية لحل مشاكل السلامة هو استجابة غير كافية لمخاوف مثل الأمن السيبراني، والاحتيال، وفقدان الوظائف. كما دعا ناثان كالفين من Encode AI إلى مزيد من الشفافية حول النتائج المخبرية لـ OpenAI. هل لا يزال المستقبل في أيدي البشر؟ وفقًا لباكوشي، لم تحل أي مختبرات بعد مسألة المراقبة والتوافق بشكل كافٍ بحيث يمكن أن يستمر تطوير النماذج الأكبر بأقصى سرعة ودون قلق. يصبح الخطر أكثر جدية عندما تلعب الذكاء الاصطناعي دورًا في إنشاء جيلها التالي، وينخفض قدرة الإنسان على رؤية وتفسير قراراته، ويظل التحكم في سرعة التقدم في أيدي مجموعة صغيرة من الشركات. لم تُفقد فرصة اتخاذ القرار بعد. يمكن للبشر تشكيل مسار هذا الانتقال من خلال المعايير المشتركة، والمراقبة المستقلة، وزيادة الشفافية، والتعاون الدولي. ومع ذلك، فإن تحذيرات صانعي النماذج المتقدمة تشير إلى أن نافذة العمل قد لا تكون دائمة؛ لهذا السبب، لم يعد نقاش سلامة الذكاء الاصطناعي موضوعًا هامشيًا أو متعلقًا بمستقبل بعيد.