در حال AI-طراحی ربات های قاتل اجتناب ناپذیر ؟

نظامی محققان هشدار می دهند از یک “میدان جنگ, تکینگی” یک نقطه که در آن انسان دیگر نمی تواند نگه دارید تا با سرعت از جنگ است.

در جنگ سرعت کشد. این سرباز که در یک دوم تقسیم سریعتر در قرعه کشی ممکن است راه رفتن به دور از درگیری صدمه ندیده; کشتی که غرق یک کشتی دشمن اول مارس یدکی خود شلیک موشک. در موارد که در آن انسان نمی تواند نگه دارید تا با سرعت از جنگ های مدرن, ماشین آلات گام در. هنگامی که یک rocket-propelled grenade توسط خطی به سمت زرهی زمین, خودرو, خودکار, سیستم, پردازنده, خودرو شناسایی تهدید آهنگ و آتش متقابل به رهگیری آن همه قبل از خدمه داخل است و حتی آگاه است. به طور مشابه, نیروی دریایی آمریکا کشتی های مجهز به پوشش مبارزه با سیستم می توانید بر روی خودکار-حالت خاص که به طور خودکار swats پایین ورودی کلاهک با توجه به دقت برنامه ریزی شده قوانین.

این نوع از سیستم دفاعی شده اند در اطراف برای چند دهه و حداقل 30 کشور در حال حاضر از آنها استفاده کنید. در بسیاری از آنها شبیه به خودکار سیستم ترمز در اتومبیل های جدیدتر دخالت تنها خاص تحت شرایط اضطراری. اما ارتش مانند خودروسازان باید به تدریج به ماشین آلات آزادتر مهار. در ورزش در سال گذشته ایالات متحده نشان داد که چگونه اتوماسیون می تواند مورد استفاده قرار گیرد در طول به اصطلاح کشتن زنجیره ای: یک ماهواره کشف مسخره کردن کشتی های دشمن و کارگردانی نظارت هواپیما به پرواز نزدیک به تایید شناسایی; نظارت هواپیما و سپس تصویب آن داده ها به یک airborne command-and-control هواپیما که انتخاب یک ناوشکن نیروی دریایی به انجام یک حمله. در این سناریو اتوماسیون خرید زمان بیشتر برای افسران در پایان کشتن زنجیره ای را به تصمیم گیری آگاهانه—یا نه به آتش سوزی در کشتی های دشمن.

ارتش باید یک دلیل قانع کننده برای نگه داشتن انسان درگیر در کشنده تصمیم گیری. برای یک چیز, آنها سدی در برابر اختلال در عملکرد و ناقص تفسیر داده ها; آنها خواهید مطمئن شوید که قبل از کشیدن ماشه که سیستم خودکار نیست misidentified دوستانه کشتی یا خنثی رگ. فراتر از آن است که حتی پیشرفته ترین اشکال از هوش مصنوعی نمی تواند درک زمینه اعمال قضاوت و یا پاسخ به رمان مواقع به عنوان به خوبی به عنوان یک فرد. انسان ها بهتر و مناسب به داخل ذهن یک فرمانده دشمن, دیدن از طریق ظاهری و یا دانستن زمانی که برای حفظ این عنصر از تعجب و زمانی که برای حمله به.

اما ماشین ها سریع تر و شلیک اول می تواند یک مزیت بزرگ است. با توجه به این فشار رقابتی نیست کشش تصور کنید یک روز که تنها راه برای زنده ماندن است برای در آغوش کاملا خودکار کشتن زنجیره ای. اگر فقط یکی از عمده قدرت بودند برای انجام این کار دیگران ممکن است احساس اجبار به دنبال کت و شلوار و حتی خود را در برابر قضاوت بهتر. در سال 2016 و سپس معاون وزیر دفاع رابرت کار قاب معمای در layperson نظر: “اگر رقبای ما رفتن به Terminators” او پرسید: “و معلوم Terminators قادر به تصمیم گیری سریع تر و حتی اگر آنها بد, چگونه می توانیم پاسخ؟”

قطع نمی نورد کردن خط مونتاژ فقط رتبهدهی نشده است, اما هر نسل جدیدی از سلاح های به نظر می رسد به ما نزدیک تر است. و در حالی که هیچ کشور اعلام کرده است قصد خود را برای ساخت به طور کامل خودمختار سلاح چند forsworn آنها را هر دو. خطرات ناشی از جنگ در ماشین با سرعت به مراتب بیشتر از فقط یک واحد سیار موشکی. نظامی گروهی از دانشمندان در چین باید فرضیه در مورد یک “میدان جنگ, تکینگی” یک نقطه که در آن مبارزه با حرکت سریع تر از انسان شناخت. در این حالت “hyperwar” به عنوان برخی از استراتژیست های آمریکایی لقب داده اند آن را ناخواسته escalations به سرعت می تواند مارپیچی خارج از کنترل است. 2010 “فلش سقوط” در بازار سهام ارائه می دهد مفید موازی: تجارت خودکار الگوریتم های کمک به از دست دادن موقت از نزدیک به یک تریلیون دلار در یک بعد از ظهر. به دیگری جلوگیری از چنین فاجعه تنظیم کننده های مالی به روز شده در مدار است که توقف معاملات زمانی که قیمت افت بیش از حد به سرعت. اما چگونه می توانم به شما این پلاگین بر روی یک فلش جنگ ؟

از اواخر قرن 19 عمده نظامی قدرت—آیا بریتانیا و آلمان یا ایالات متحده و اتحاد جماهیر شوروی—با هم کار کرده اند برای ایجاد قوانین و مقررات در همه شیوه ای مدرن و ماشین آلات کشتار از انفجار گلوله های گاز سمی به سلاح های هسته ای. گاهی به عنوان ضد ماهواره ای از سلاح ها و بمب های نوترونی رسمی توافق نامه نیست, لازم است; احزاب به سادگی درگیر در ضمنی داری. هدف در هر مورد شده است برای کاهش مضرات جنگ.

در حال حاضر هیچ گونه اجماع وجود دارد و با به طور کامل خودمختار سلاح. نزدیک به 30 کشور در حمایت از ممنوعیت کامل اما هیچ کدام از آنها این است که یک قدرت نظامی و یا رباتیک توسعه دهنده. در سازمان ملل متحد که در آن مستقل سلاح ها یک موضوع سالانه بحث و چین و روسیه و ایالات متحده باید تمام مانع تلاش ها برای تصویب ممنوعیت. (آمریکا و روسیه اعتراض آشکار در حالی که چین در سال 2018 پیشنهاد ممنوعیت است که می تواند به طور موثر و بی معنی است.) یکی از چالش پویایی در سازمان ملل متحد است و یدک کش-از-جنگ بین سازمان های غیر دولتی مانند کمپین برای جلوگیری از روبات های قاتل که هدف این است که خلع سلاح و ارتش که نمی خواهد توافق برای خلع سلاح مگر اینکه آنها می توانید بررسی کنید که دشمنان خود را بیش از حد خواهد شد.

خودمختار سلاح در حال حاضر برخی از چالش های منحصر به فرد به قوانین و مقررات. نمی توان آنها را مشاهده و اندازه گیری در بسیار به همان شیوه به عنوان یک 1.5-megaton کلاهک هسته ای است. فقط آنچه به منزله استقلال و چه مقدار از آن باید اجازه ؟ چگونه می توانیم دشمن را از راه دور سرنشین, هواپیماهای بدون سرنشین از یک مجهز به ترمیناتور نرم افزار ؟ مگر اینکه تحلیلگران امنیتی می تواند به پیدا کردن پاسخ رضایت بخشی برای این پرسش ها و چین و روسیه و آمریکا می تواند تصمیم گیری در دو طرف دلنشین محدودیت مارس اتوماسیون ادامه خواهد داد. و راه هر کدام قدرت های بزرگ سرب و بقیه به ناچار دنبال کنید.


هنگامی که شما خرید چیزی با استفاده از خرده فروشی لینک در داستان ما, ما ممکن است کسب یک کمیسیون وابسته. بیشتر بخوانید درباره چگونه این کار می کند.


پل SCHARRE (@paul_scharre) یک عضو ارشد در مرکز امنیت نوین آمریکا و نویسنده از ارتش هیچ کدام مستقل سلاح ها و جنگ های آینده.

این مقاله به نظر می رسد در شماره ژوئن. مشترک شدن در حال حاضر.

اجازه دهید ما می دانم آنچه شما فکر می کنم در مورد این مقاله. ارسال یک نامه به سردبیر در [email protected]


سری ویژه: آینده فکر کردن ماشین آلات
  • مغز مفید مدل برای هوش مصنوعی?
  • چرا هوش مصنوعی نجات ما از Covid-19?
  • به عنوان ماشین آلات دقیق چگونه ما مربوط به آنها را?
  • آن را به نام هوش مصنوعی—اما آنچه که هوش ؟

tinyurlis.gdv.gdv.htclck.ruulvis.netshrtco.de