إن موجة القتل التي ترتكبها إسرائيل في غزة، والتي يغذيها الذكاء الاصطناعي، تنذر بمستقبل قاتم
بالنسبة للبنية التحتية فهو “الإنجيل”، وبالنسبة للموارد البشرية فهو “لافندر”. كلمتان قد تبدوان غير ضارتين للوهلة الأولى يمكن أن تفسرا العدد الكبير من القتلى والجرحى المسجلين خلال الأشهر الستة الأولى من الحرب الإسرائيلية ضد حماس في غزة، فضلا عن التدمير شبه الكامل لجزء كبير من البنية التحتية والمساكن في غزة يجرد.
استخدمت إسرائيل الذكاء الاصطناعي وتكنولوجيا التعلم الآلي في حربها ضد حماس، مع استخدامها الرائد لهذه التكنولوجيا القاتلة التي وصفها الكثيرون بأنها الجيل القادم من الحرب، مما يعني أننا الآن في منطقة مجهولة. تثير النتائج والشهادات التي تم الكشف عنها في تقرير جديد أسئلة قانونية وأخلاقية حاسمة يمكن أن تغير إلى الأبد العلاقة بين الجيش والآلة وسيادة القانون. لا توجد مساءلة أو شفافية اليوم، على الرغم من هذه الأداة القاتلة الجديدة التي لها العديد من القيود التي يمكن أن تزيد من المخاطر التي يتعرض لها المدنيون الأبرياء من جميع الأطراف. ولعل مقتل سبعة من عمال الإغاثة في المطبخ المركزي العالمي الأسبوع الماضي يشكل مثالاً واضحاً على ذلك.
إن التحول نحو مشهد أمني وعسكري أكثر اعتماداً على الذات ومدفوعاً بالتكنولوجيا للقيام بالأشياء بتكلفة أقل وأكثر كفاءة يتزايد في البلدان المتقدمة في جميع أنحاء العالم. وقد أدى هذا إلى إنتاج حلول قائمة على الآلات مع الحد الأدنى من التدخل البشري والإشراف، وبشكل افتراضي، قدر أقل من الشفافية والمساءلة. وتؤدي الفجوات والتدفقات والتحيزات في الخوارزميات المستخدمة في المراقبة وجمع المعلومات الاستخبارية إلى تحديد أهداف، في حين أن التحقق البشري محدود ويعتبر بطيئا وعفا عليه الزمن.
وفقا لتقرير نشرته الأسبوع الماضي مجلة إسرائيلية مستقلة +972، استخدمت إسرائيل الذكاء الاصطناعي لتحديد الأهداف في غزة، في بعض الحالات مع ما لا يقل عن 20 ثانية من الإشراف البشري، مما ترك العديد من المشاركين في العمليات العسكرية تحت الانطباع بأن نتيجة الآلة كانت سيئة. يساوي القرار البشري. وادعى تقرير +972، الذي تضمن مقابلات مع ستة ضباط استخبارات إسرائيليين، أن “الجيش الإسرائيلي حدد عشرات الآلاف من سكان غزة كمشتبه بهم في عمليات اغتيال، باستخدام نظام استهداف الذكاء الاصطناعي مع القليل من الإشراف البشري وسياسة متساهلة مع الضحايا”.
أصبح استخدام تكنولوجيا الذكاء الاصطناعي في الحرب حقيقة واقعة على مدى العقدين الماضيين، مما دفع الكثيرين إلى التحذير من أن تسليح هذه الأدوات سيكون له عواقب وخيمة على الأمن العالمي ومستقبل الحرب. وأعرب أنطونيو جوتيريش، الأمين العام للأمم المتحدة، عن قلقه العميق إزاء نتائج التقرير. وقال إنه “منزعج للغاية من التقارير التي تفيد بأن حملة القصف العسكري الإسرائيلي تستخدم الذكاء الاصطناعي كأداة لتحديد الأهداف، خاصة في المناطق السكنية المكتظة بالسكان، مما أدى إلى سقوط أعداد كبيرة من الضحايا المدنيين”. وأضاف غوتيريس أنه “لا ينبغي تفويض أي جزء من قرارات الحياة والموت التي تؤثر على عائلات بأكملها إلى الحسابات الباردة للخوارزميات”.
لقد مر أكثر من ستة أشهر منذ أن نفذت حماس هجومها غير المسبوق على إسرائيل في 7 تشرين الأول/أكتوبر، والذي أسفر عن مقتل حوالي 1200 إسرائيلي وأجنبي، معظمهم من المدنيين، بحسب حصيلة وكالة فرانس برس التي تضم أرقاما إسرائيلية. . كما احتجز المسلحون أكثر من 250 رهينة، لا يزال 130 منهم في غزة حتى اليوم. وأدت الحملة الانتقامية الإسرائيلية التي تلت يوم 7 أكتوبر/تشرين الأول إلى مقتل أكثر من 34 ألف شخص، معظمهم من النساء والأطفال.
تتزايد الحاجة إلى حوكمة فعالة لإدارة استخدام الذكاء الاصطناعي في الحرب والتخفيف من المخاطر المحتملة.
محمد شبارو
ولعب النظام المسمى لافندر دورا مركزيا في المراحل الأولى من الحرب، حيث حدد أكثر من 37 ألف فرد محتمل مرتبطين بحماس لإضافتهم إلى قاعدة بيانات الاستخبارات الإسرائيلية. وسمح القادة الإسرائيليون بالسماح بالأضرار الجانبية التي تراوحت بين خمسة إلى 20 ضحية محتملة بين المدنيين الفلسطينيين في كل مرة يقوم فيها الجيش بالقضاء على عضو منخفض أو متوسط الرتبة في حماس. بالنسبة لمقاتل رفيع المستوى، سمح النظام بإصابات مدنية مكونة من رقمين أو حتى ثلاثة أرقام.
تم الكشف عن استخدام إسرائيل للاستهداف القائم على الذكاء الاصطناعي لأول مرة بعد الصراع الذي استمر 11 يومًا في غزة في مايو 2021، والذي وصفه القادة بأنه “الحرب الأولى في العالم على الذكاء الاصطناعي”. تم الكشف عن أن نظام الذكاء الاصطناعي الإسرائيلي حدد “100 هدف جديد كل يوم”، بدلاً من 50 هدفًا سنويًا توفرها الأصول البشرية سابقًا، باستخدام مزيج من جمع البيانات التكنولوجية والبشرية. بعد أسابيع قليلة من بدء الحرب الأخيرة في غزة، أشارت إحدى التدوينات على موقع عسكري إسرائيلي إلى أن مديرية الاستهداف المعززة بالذكاء الاصطناعي قد حددت أكثر من 12 ألف هدف في 27 يومًا فقط.
وبالمثل، أنتج نظام الذكاء الاصطناعي المسمى Gospel أهدافا “لشن هجمات دقيقة ضد البنية التحتية المرتبطة بحماس”. ووصف ضابط مخابرات إسرائيلي سابق مجهول الهوية الإنجيل بأنه أداة خلقت “مصنعًا للقتل الجماعي”.
وفي اعتراف نادر بارتكاب مخالفات، اعترفت إسرائيل الأسبوع الماضي بأن سلسلة من الأخطاء والانتهاكات لقواعدها أدت إلى مقتل سبعة من عمال الإغاثة في غزة، مما دفع العديد من الخبراء إلى الاعتقاد بأن النظام الذي يعمل بالذكاء الاصطناعي كان يعتقد خطأً أنه كان يستهدف عناصر مسلحة من حركة حماس.
ومع استمرار تطور الذكاء الاصطناعي وزيادة قابلية تشغيل الأسلحة المستقلة، تزداد الحاجة إلى آليات حوكمة فعالة لإدارة استخدامه والتخفيف من المخاطر المحتملة. ولكن في عالم متشرذم على نحو متزايد ووسط سباق متجدد على التفوق بين القوى العظمى التي تفتقر على نحو متزايد إلى بوصلة أخلاقية مشتركة، يبدو المستقبل قاتما.
لقد أحدثت التكنولوجيا ثورة في كل جانب من جوانب الحياة البشرية والمجتمع الحديث. ومع ذلك، فإن النهج المتراخي في التعامل مع المساءلة ــ نشر أدوات جديدة الآن وتنظيمها في وقت لاحق ــ كان سبباً في وضع البشرية افتراضياً تحت رحمة آلة فتاكة ذات ضمانات معنوية وأخلاقية ضعيفة. هذا التحول غير المسبوق، كما وصفه ضابط مخابرات إسرائيلي استخدم لافندر، جعل الجنود يثقون في “آلية إحصائية” أكثر من ثقتهم في زميلهم الحزين. وقال: “الجميع هناك، بما فيهم أنا، فقدوا أشخاصاً في 7 أكتوبر/تشرين الأول. لقد (قتلته) الآلة بدم بارد. وهذا جعل الأمور أسهل.
• محمد شبارو صحفي بريطاني-لبناني يتمتع بخبرة تزيد عن 25 عامًا في تغطية قضايا الحرب والإرهاب والدفاع والشؤون الجارية والدبلوماسية. وهو أيضًا مستشار إعلامي ومدرب.
إخلاء المسؤولية: الآراء التي عبر عنها المؤلفون في هذا القسم خاصة بهم ولا تعكس بالضرورة آراء عرب نيوز.
“هواة لحم الخنزير المقدد المتواضع بشكل يثير الغضب. غير قادر على الكتابة مرتديًا قفازات الملاكمة. عشاق الموسيقى. متحمس لثقافة البوب الودو”