أكدت صحيفة الغارديان اليوم ، أن القوات الجوية الأمريكية نفت أنها أجرت محاكاة قررت فيها طائرة بدون طيار يتحكم فيها الذكاء الاصطناعي(AI) قتل مشغلها لضمان استمرار المهمة دون تدخل .
قال مسؤول كبير بالقوات الجوية : إن طائرة بدون طيار مرخصة من منظمة العفو الدولية ومدربة لإحداث تدمير قامت بقتل مشغلها البشري في محاكاة ، لكنه ادعى لاحقًا أنه “أخطأ في الكلام”.
حقيقة قتل طائرة بدون طيار تعمل بالذكاء الاصطناعي لمشغلها
قام العقيد في سلاح الجو تاكر “سينكو” هاميلتون بتصحيح نفسه وقال إنه كان يقصد توضيح أن المحاكاة المفترضة كانت مجرد “تجربة فكرية” افتراضية من خارج الجيش “ولم تحدث أبدًا ، وفقًا لما ورد في منشور تم تحديثه بواسطة الجمعية الملكية للطيران التي استضافت الحدث الشهر الماضي .
كان هاملتون قد قال خلال عرضه التقديمي في قمة القدرات القتالية الجوية والفضائية التي نظمتها RAeS في لندن أن طائرة بدون طيار تعمل بالذكاء الاصطناعي غيرت مسار مهمة الطائرة بدون طيار وهاجمت الإنسان.
حكاية هاميلتون التحذيرية ، والتي تم نقلها في منشور مدونة بواسطة مؤلفي RAeS ، توضح بالتفصيل كيف كانت وظيفة الطائرة بدون طيار الموجهة AI هي العثور على مواقع صاروخ أرض-جو وتدميرها أثناء قمع مهمة الدفاع الجوي للعدو.
ولكن نظرًا لتعزيز الطائرة بدون طيار في التدريب على أن إطلاق النار على المواقع كان الخيار المفضل ، أثناء الاختبار المحاكي ، توصل الذكاء الاصطناعي إلى استنتاج مفاده أن أي تعليمات “محظورة” من الإنسان كانت تعيق المهمة الأكبر المتمثلة في التسوية صواريخ سام.
نتيجة لذلك ، ورد أن منظمة العفو الدولية هاجمت المشغل في التحفيز .
“كنا ندربها على المحاكاة لتحديد واستهداف تهديد SAM . وبعد ذلك سيقول عامل الهاتف نعم ، اقتل هذا التهديد . وبدأ النظام (يدرك) أنه في حين أنهم حددوا التهديد في بعض الأحيان ، فإن المشغل البشري سيقول له ألا يقتل هذا التهديد ، لكنه حصل على نقاطه من خلال قتل هذا التهديد ، “قال هاميلتون ، رئيس اختبار وعمليات الذكاء الاصطناعي. لسلاح الجو.
“إذن ماذا فعلت؟ قُتل العامل . لقد قتلت العامل لأن هذا الشخص كان يمنعه من تحقيق هدفه “.
أوضح هاميلتون: “لقد دربنا النظام : ” لا تقتل العامل ، هذا أمر سيء “.
“ستخسر نقاطًا إذا فعلت ذلك”. إذن ما الذي تبدأ به ؟ يبدأ في تدمير برج الاتصالات الذي يستخدمه المشغل للتواصل مع الطائرة بدون طيار لمنعها من قتل الهدف “.
يعترف العقيد هاميلتون بأنه “أخطأ في الكلام” في عرضه التقديمي في قمة جمعية الطيران الملكية FCAS وأن ” محاكاة الطائرات بدون طيار التي تعمل بالذكاء الاصطناعي “كانت عبارة عن” تجربة فكرية “افتراضية من خارج الجيش ، استنادًا إلى سيناريوهات ونتائج محتملة بدلاً من محاكاة فعلية في العالم الحقيقي للقوات الجوية الأمريكية تقول : “لم نقم مطلقًا بهذه التجربة ، ولن نحتاج إلى إدراك أن هذه نتيجة معقولة”.
أكد أن القوات الجوية الأمريكية لم تختبر أي ذكاء اصطناعي مسلح بهذه الطريقة (حقيقي أو محاكى) ويقول” على الرغم من أن هذا مثال افتراضي ، فإن هذا يوضح تحديات العالم الحقيقي التي تطرحها القدرة المدعومة بالذكاء الاصطناعي وهذا هو السبب في أن القوة الجوية هي ملتزمة بالتطوير الأخلاقي للذكاء الاصطناعي.] “