سباق تسلح وكرة مدمرة
وقد عملت شركات منافسة مثل OpenAI على أدوات مماثلة ولكنها لم تعلن عنها بعد. وهذا يشبه سباق التسلح، حيث من المتوقع أن تحقق هذه الأدوات الكثير من الإيرادات في غضون سنوات قليلة إذا تقدمت كما هو متوقع.
ويعتقد أن هذه الأدوات يمكنها في نهاية المطاف أتمتة العديد من المهام الوضيعة في الوظائف المكتبية. يمكن أن تكون أيضًا أداة مفيدة للمطورين حيث يمكنها “أتمتة المهام المتكررة” وتبسيط أعمال ضمان الجودة والتحسين الشاقة.
لقد كان هذا منذ فترة طويلة جزءًا من رسالة Anthropic للمستثمرين: يمكن لأدوات الذكاء الاصطناعي الخاصة بها التعامل مع الكثير من الأعمال المكتبية بشكل أكثر كفاءة وبتكلفة معقولة من البشر. يعد الاختبار العام لميزة استخدام الكمبيوتر خطوة نحو تحقيق هذا الهدف.
نحن بالطبع على دراية بالجدل الدائر حول هذه الأنواع من الأدوات، بين “إنها مجرد أداة من شأنها أن تجعل وظائف الناس أسهل” و”سوف تجعل الناس عاطلين عن العمل في كل قطاع مثل كرة الهدم” – وكلاهما يمكن أن تحدث الأشياء إلى حد ما. إنها مجرد مسألة ما هي النسبة، ويمكن أن تختلف حسب الوضع أو القطاع.
ومع ذلك، هناك العديد من المخاوف المشروعة فيما يتعلق بانتشار هذه التكنولوجيا على نطاق واسع. لا شك أن منظمة أنثروبيك حاولت توقع بعض هذه القضايا من خلال وضع الضمانات منذ البداية. أعطت الشركة بعض الأمثلة في منشور مدونتها:
لقد قامت فرقنا بتطوير أدوات التصنيف وطرق أخرى للإبلاغ عن هذا النوع من الإساءات والتخفيف منها. ونظراً للانتخابات الأميركية المقبلة، فإننا في حالة تأهب تحسباً لمحاولات ارتكاب انتهاكات يمكن أن يُنظر إليها على أنها تقوض ثقة الجمهور في العمليات الانتخابية. على الرغم من أن استخدام الكمبيوتر ليس متقدمًا بما فيه الكفاية وغير قادر على العمل على نطاق من شأنه أن يشكل مخاطر متزايدة مقارنة بالإمكانيات الحالية، إلا أن لدينا تدابير معمول بها لمراقبة الوقت الذي يُطلب فيه من كلود المشاركة في الأنشطة المتعلقة بالانتخابات، بالإضافة إلى أنظمة لإبعاد كلود من أنشطة مثل إنشاء المحتوى ونشره على وسائل التواصل الاجتماعي، أو تسجيل نطاقات الويب، أو التفاعل مع المواقع الإلكترونية الحكومية.
قد لا تكون هذه الضمانات مثالية، حيث قد تكون هناك طرق مبتكرة للتحايل عليها أو قد لا يتم اكتشاف عواقب أو انتهاكات أخرى غير مقصودة.
حاليًا، تقوم Anthropic باختبار استخدام الكمبيوتر لتحديد المشكلات التي تنشأ والعمل مع المطورين لتحسين قدراته وإيجاد استخدامات إيجابية.
