يقول ألتمان: “أعتقد أن ذلك يسمح لنا بأن نكون أكثر تفكيرًا وترويًا بشأن القضايا الأمنية”. جزء من استراتيجيتنا هو هذا: التغيير التدريجي في العالم أفضل من التغيير المفاجئ. أو ، كما قالت نائبة رئيس OpenAI ميرا موراتي عندما سألتها عن عمل فريق الأمان الذي يقيد الوصول المفتوح إلى البرامج ، “إذا كنا سنتعلم كيفية نشر هذه التقنيات القوية ، فلنبدأ عندما تكون المخاطر منخفضة جدًا.
بينما GPT-3 نفسها يعمل على 285000 نواة وحدة المعالجة المركزية في مجموعة أجهزة الكمبيوتر العملاقة في أيوا ، ويعمل OpenAI من منطقة Mission في سان فرانسيسكو ، في مصنع للأمتعة تم تجديده. في تشرين الثاني (نوفمبر) من العام الماضي ، قابلت إيليا سوتسكفر هناك ، محاولًا الحصول على شرح عادي لكيفية عمل GPT-3.
قال سوتسكفر باهتمام وهو يميل إلى الأمام على كرسيه: “هذه هي الفكرة وراء GPT-3”. لديه طريقة مثيرة للفضول للإجابة على الأسئلة: بضع بدايات خاطئة – “يمكنني أن أقدم لك وصفًا يطابق تقريبًا الوصف الذي طلبته” – تقاطعه فترات توقف تأملية طويلة ، كما لو كان يخطط للإجابة بأكملها مسبقًا.
قال أخيرًا: “الفكرة وراء GPT-3 هي طريقة لربط فكرة حدسية عن الفهم بشيء يمكن قياسه وفهمه ميكانيكيًا ،” وهذه هي المهمة التي تتنبأ بالكلمة التالية في النص. أشكال أخرى من الذكاء الاصطناعي تحاول ترميز المعلومات حول العالم: استراتيجيات الشطرنج الكبرى ، مبادئ علم المناخ. لكن ذكاء GPT-3 ، إذا كان الذكاء هو الكلمة الصحيحة ، يأتي من الأسفل إلى الأعلى: من خلال الفعل الأساسي للتنبؤ بالكلمة التالية. لتدريب GPT-3 ، يُعطى النموذج “موجه” – بضع جمل أو فقرات من نص من مقال صحفي ، على سبيل المثال ، أو رواية أو ورقة علمية – ثم يُطلب منه اقتراح قائمة بالكلمات المحتملة التي يمكن أن تكتمل التسلسل مرتبة حسب الاحتمال. في المراحل الأولى من التدريب ، الكلمات المقترحة هراء. اطلب من الخوارزمية بعبارة مثل “حذف الكاتب آخر كلمة من الكلمة الأولى. . . “” والتخمينات ستكون نوعًا من تيار من الهراء: “قمر صناعي” “” جرو “” “سياتل” “لذلك”. ولكن في مكان ما في القائمة – ربما آلاف الكلمات في القائمة – تظهر الكلمة المفقودة الصحيحة: “فقرة”. ثم يقوي البرنامج أي اتصالات عصبية عشوائية تولد هذا الاقتراح المعين ويضعف أي اتصالات تولد تخمينات غير صحيحة. ثم ينتقل إلى الموجه التالي. بمرور الوقت ، مع التكرارات الكافية ، يتعلم البرنامج.
في كانون الثاني (يناير) الماضي ، أضافت OpenAI ميزة تسمح للمستخدمين بإعطاء تعليمات GPT-3 المباشرة كموجه ، بدلاً من مجرد مطالبتهم بتطوير مثال لمقطع نصي. على سبيل المثال ، باستخدام وضع “تعليمات” ، أعطيت GPT-3 موجهًا: “اكتب مقالًا عن دور ما وراء القص في عمل إيتالو كالفينو”. مرة أخرى ، قدم البرنامج خمس فقرات محددة تبدأ على النحو التالي :
يُعتبر المؤلف الإيطالي إيتالو كالفينو خبيرًا في ما وراء القص ، وهو نوع من الكتابة يكسر فيه المؤلف الجدار الرابع لمناقشة فعل الكتابة نفسه. بالنسبة لكالفينو ، فإن ما وراء القص هو وسيلة لاستكشاف طبيعة الواقع وكيف يمكن للقصص تشكيل تصوراتنا عن العالم. غالبًا ما تتضمن رواياته هياكل مرحة ومتاهة تتلاعب بالحدود بين الواقع والخيال. في حالة إذا كان المسافر في ليلة شتاء ، على سبيل المثال ، تتم مقاطعة القارئ باستمرار من خلال مناقشات على مستوى ميتا حول فعل القراءة وطبيعة سرد القصص. . . .
يمكنك إعطاء GPT-3 نفس الموجه بالضبط مرارًا وتكرارًا ، وفي كل مرة ستولد استجابة فريدة ، بعضها أكثر إقناعًا من البعض الآخر ، ولكن جميعها تقريبًا واضحة بشكل ملحوظ. يمكن أن تتخذ التعليمات الإرشادية جميع أنواع الأشكال: “أعطني قائمة بجميع مكونات صلصة البولونيز” ، “اكتب قصيدة عن قرية ساحلية فرنسية بأسلوب جون آشبري” ، “اشرح الانفجار العظيم بلغة 8 سوف يفهم البالغ من العمر عامًا. ‘ بدا من المستحيل تقريبًا أن تتمكن الآلة من إنشاء مثل هذا النص الواضح والمتجاوب استنادًا بالكامل إلى التدريب الأولي على التنبؤ بالكلمة التالية.
لكن للذكاء الاصطناعي تاريخ طويل في خلق وهم الذكاء أو الفهم دون تسليم البضائع فعليًا. في ورقة نوقشت كثيرا نشرت العام الماضي ، قالت أستاذة اللسانيات في جامعة واشنطن إميلي بندر ، والباحث السابق في Google Timnit Gebru ومجموعة من المؤلفين المشاركين ، إن نماذج اللغة الكبيرة هي مجرد “ببغاوات عشوائية”: أي أن البرنامج يستخدم التوزيع العشوائي لإعادة دمج الجمل ببساطة كتبها البشر. أخبرني بيندر مؤخرًا عبر البريد الإلكتروني: “ما تغير ليس خطوة فوق عتبة الذكاء الاصطناعي”. وبدلاً من ذلك ، كما تقول ، فإن ما تغير هو “الأجهزة والبرامج والابتكارات الاقتصادية التي تتيح تراكم مجموعات البيانات الضخمة ومعالجتها” – فضلاً عن الثقافة التكنولوجية التي “يمكن للأشخاص الذين يقومون ببناء وبيع مثل هذه الأشياء أن يفلتوا من بناء لهم في قواعد بيانات غير منظمة. ”
