أول ورقة بحثيّة من “أوبن أي آي” لمعالجة مخاطر الذّكاء الاصطناعي

قام فريق شركة “OpenAI”، الذي يركز على معالجة المخاطر التي تشكلها نماذج الذكاء الاصطناعي المتقدمة، أمس، بنشر أول ورقة بحثية له.

Super excited about our new research direction for aligning smarter-than-human AI:

We finetune large models to generalize from weak supervision—using small models instead of humans as weak supervisors.

Check out our new paper:https://t.co/8zxKf5LcAL pic.twitter.com/p2UucndvnP

— Jan Leike (@janleike) December 14, 2023

على مدى السنوات الأربع المقبلة، ستتمكن النماذج من الوصول إلى 20 في المئة من السعة الحاسوبية التي “ضمنتها الشركة حتى الآن”، والتي يقال إنها تبلغ قيمتها مليارات الدولارات.

ويهدف الفريق إلى تطوير طرق جديدة لمنع نماذج الذكاء الاصطناعي المتقدمة من توليد معلومات تضر بالمجتمع، فيما الأساليب الحالية للإشراف على نماذج الذكاء الاصطناعي ما زالت تعتمد على البشر.

ويتمثل قلق “OpenAI”، وفقاً لموقع “siliconangle”، في أن المدخلات البشرية قد لا تكون كافية لتنظيم شبكة عصبية مستقبلية افتراضية تتمتع بقدرات تفكير خارقة. فمثل هذه الشبكة العصبية ستولد مخرجات قد يكون من الصعب على المهندسين فهمها، مثل ملف يحتوي على ملايين الأسطر من التعليمات البرمجية، فقد يصبح التحقق يدوياً بحثاً عن المخاطر أمراً مستحيلاً.

هذا هو التحدي الذي تسعى الورقة البحثية التي نشرها اليوم فريق في “OpenAI” إلى التصدي له. وفي هذا الإطار، تقترح الورقة معالجة القيود المفروضة في الإشراف اليدوي على نموذج الذكاء الاصطناعي من خلال أتمتة العملية. تجادل شركة “OpenAI” أيضاً بأنه من الممكن منع الشبكة العصبية المتقدمة من توليد مخرجات ضارة من خلال شبكة عصبية ثانية أقل تقدماً.

ولكن من المرجح أن تظهر مشكلة عندما يطرح المستخدم سؤالاً معقداً للغاية بالنسبة لنموذج الذكاء الاصطناعي الأقل تقدماً. إذا أجابت الشبكة العصبية المتقدمة على السؤال إجابة صحيحة، ولكن النموذج الأقل تقدماً يعتقد أن الإجابة غير صحيحة، فقد يمنع إخراج الإجابة.

طور باحثو “OpenAI” خوارزمية لمواجهة هذا التحدي. وكتبوا في تدوينة مصاحبة للورقة البحثية “نحن نستخدم طريقة بسيطة تشجع النموذج القوي على أن يكون أكثر ثقة، والاختلاف بثقة مع النموذج الأضعف إذا لزم الأمر”.

طبق الباحثون الطريقة المذكورة على التجربة التي استخدموا فيها نموذج ذكاء اصطناعي على قدم مساواة مع “GPT-2” للإشراف على “GPT-4”. انخفضت جودة مخرجات النموذج الأخير، ولكن بدرجة أقل من ذي قبل.

أصدرت “OpenAI” مجموعة من ملفات التعليمات البرمجية مفتوحة المصدر المصممة لمساعدة المطورين على اختبار وتحسين طريقتها للإشراف الآلي على الذكاء الاصطناعي.

بالإضافة إلى ذلك، تطلق الشركة برنامج منح بقيمة 10 ملايين دولار لدعم الأبحاث في هذا المجال. وستدعم “OpenAI” أيضاً المشاريع البحثية التي تستكشف طرقاً أخرى للإشراف على نماذج الذكاء الاصطناعي المتقدمة.