أوضح روهيت براساد ، نائب الرئيس الأول وكبير علماء الذكاء الاصطناعي ، بحماس يوم الأربعاء: “بدلاً من قراءة صوت أليكسا للكتاب ، إنه صوت جدة الطفل”. أليكسا ، خلال كلمة رئيسية في لاس فيجاس. (يمتلك مؤسس أمازون جيف بيزوس صحيفة واشنطن بوست).
العرض كانت النظرة الأولى على ميزة Alexa الجديدة ، والتي – على الرغم من أنها لا تزال قيد التطوير – ستسمح للمساعد الصوتي بإعادة إنتاج أصوات الأشخاص من مقاطع صوتية قصيرة. وقال براساد إن الهدف هو بناء ثقة أكبر مع المستخدمين من خلال غرس الذكاء الاصطناعي “بالسمات الإنسانية للتعاطف والعاطفة”.
الميزة الجديدة يمكن أن “تجعل [loved ones’] ذكريات الماضي ، “قال براساد. لكن في حين أن احتمال سماع صوت قريب متوفى قد يمس القلب ، فإنه يثير أيضًا عددًا لا يحصى من قضايا السلامة والأخلاق ، كما قال الخبراء.
وقالت راشيل توباك ، المديرة الإدارية لشركة SocialProof Security ومقرها سان فرانسيسكو ، لصحيفة The Washington Post: “لا أعتقد أن عالمنا جاهز لتكنولوجيا استنساخ الصوت سهلة الاستخدام”. وأضافت أن مثل هذه التكنولوجيا يمكن أن تستخدم للتلاعب بالجماهير من خلال مقاطع صوتية أو فيديو مزيفة.
وأضاف توباك ، الخبير في الأمن السيبراني: “إذا كان بإمكان مجرم الإنترنت إعادة إنتاج صوت شخص آخر بسهولة ومصداقية باستخدام عينة صغيرة من الصوت ، فيمكنه استخدام عينة الصوت لانتحال شخصية أشخاص آخرين”. “يمكن لهذا الممثل السيئ بعد ذلك خداع الآخرين ليعتقدوا أنهم الشخص الذي ينتحلونه ، مما قد يؤدي إلى الاحتيال وفقدان البيانات والاستيلاء على الحساب وما إلى ذلك.”
قالت تاما ليفر ، أستاذة دراسات الإنترنت في جامعة كيرتن في أستراليا ، إن هناك خطر عدم وضوح الخطوط الفاصلة بين ما هو بشري وما هو ميكانيكي.
“لن تتذكر أنك تتحدث في أعماق منطقة أمازون … و خدمات جمع البيانات سواء كان ذلك يتحدث مع جدتك أو صوت جدك أو صوت أحبائك المفقود.
وقالت ليفر “إنها تشبه إلى حد ما حلقة من مسلسل بلاك ميرور” سلسلة الخيال العلمي التي تصور مستقبلًا تحت عنوان التكنولوجيا.
أضافت Leaver أن ميزة Alexa الجديدة تثير أيضًا أسئلة حول الموافقة – خاصة بالنسبة للأشخاص الذين لم يتخيلوا أبدًا أن صوتهم سيسمعه مساعد شخصي آلي بعد وفاتهم.
قال Leaver: “هناك منحدر حقيقي زلق لاستخدام البيانات من الأشخاص المتوفين بطريقة مخيفة من ناحية ، ولكنها غير أخلاقية للغاية من ناحية أخرى لأنهم لم يفكروا مطلقًا في استخدام هذه الآثار بهذه الطريقة”.
بعد أن فقد جده مؤخرًا ، قال ليفر إنه يتفهم “إغراء” الرغبة في سماع صوت أحد أفراد أسرته. لكنه قال إن الاحتمال يفتح بابًا من التبعات التي قد لا يكون المجتمع مستعدًا لتحملها – على سبيل المثال ، من لديه الحق في المقتطفات الصغيرة التي يتركها الناس في إيثرات شبكة الويب العالمية؟
“إذا أرسل لي جدي 100 رسالة ، فهل سيكون لي الحق في إدخال ذلك في النظام؟ واذا فعلت فمن يملكها؟ فهل تمتلك أمازون هذا السجل؟ ” لقد طلب. “هل تنازلت عن حق صوت جدي؟
ولم يتطرق براساد إلى تلك التفاصيل خلال خطاب الأربعاء. ومع ذلك ، فقد افترض أن القدرة على تقليد الأصوات نتاج “العيش بلا شك في العصر الذهبي للذكاء الاصطناعي ، حيث أصبحت أحلامنا وخيالنا العلمي حقيقة.”
إذا أصبح العرض التوضيحي لأمازون ميزة حقيقية ، قال Leaver إن الناس قد يحتاجون إلى البدء في التفكير في كيفية استخدام صوتهم وشبههم عند وفاتهم.
“هل أفكر في وصيتي أنه يجب أن أقول ،” صوتي وقصتي المصورة على وسائل التواصل الاجتماعي ملك لأولادي ، ويمكنهم أن يقرروا ما إذا كانوا يريدون إنعاش ذلك بالتحدث معي أم لا؟ تساءل ليفر.
“هذا شيء غريب أن نقوله الآن. لكن ربما هذا سؤال كان يجب أن نجيب عليه قبل أن تبدأ أليكسا التحدث مثلي غدًا “.
