توسعه فزاینده سامانه‌های هوش مصنوعی خودمختار چه خطرات استراتژیک و مسابقه تسلیحاتی ایجاد می‌کند؟

توسعه فزاینده سامانه‌های هوش مصنوعی خودمختار، خطرات استراتژیک عمیقی ایجاد کرده و مسابقه‌ای تسلیحاتی را رقم زده است که برخی از آن به عنوان «لحظه اوپنهایمر» این نسل یاد می‌کنند؛ لحظه‌ای که در آن جنگ‌افزارها ماهیت نبرد را به‌طور بنیادین تغییر می‌دهند.

مسابقه تسلیحاتی و تشدید غیرقابل کنترل کشورها در حال رقابت برای ادغام هوش مصنوعی در عملیات نظامی هستند و این فناوری به سرعت در حال تغییر صنایع جنگی است.

الکساندر شالنبرگ، وزیر امور خارجه اتریش، هشدار داده است که جنگ مبتنی بر هوش مصنوعی می‌تواند به یک مسابقه تسلیحاتی غیرقابل کنترل تبدیل شود.

این رقابت در حال حاضر در جنگ اوکراین و روسیه و ایران و اسرایل مشهود است، جایی که هر دو طرف برای دستیابی به برتری در میدان نبرد، به توسعه سیستم‌های خودمختار روی آورده‌اند،.

این فناوری‌ها پتانسیل آن را دارند که کشتار جمعی را به یک فرآیند مکانیزه و تقریبا بدون زحمت تبدیل کنند.

افزایش مرگبار بودن و تغییر ماهیت میدان نبرد هوش مصنوعی دقت و کشندگی تسلیحات را به شدت افزایش داده است؛ برای مثال، ادغام هوش مصنوعی دقت حملات پهپادی اوکراین را از ۳۰ تا ۵۰ درصد به حدود ۸۰ درصد رسانده است،.

خطر استراتژیک دیگر، ایجاد «مناطق کشتار» (Kill zones) بدون سرنشین است.

اوکراین در حال تلاش برای ایجاد یک نوار ۱۵ تا ۴۰ کیلومتری در خط مقدم است که در آن پهپادهای نیمه‌خودمختار، برنامه‌ریزی شده‌اند تا هر چیزی را که حرکت می‌کند جستجو و نابود کنند.

این امر منجر به شکل‌گیری نوع جدیدی از «سرزمین بایر» (no man’s land) می‌شود که با دسته‌های هماهنگ پهپادها (Swarms) اشباع شده است.

خطرات ناشی از حذف نظارت انسانی و “جنگ مینوتور” یکی از جدی‌ترین خطرات استراتژیک، کاهش نقش انسان در تصمیم‌گیری‌های مرگبار است.

سیستم‌های هدف‌گیری مجهز به هوش مصنوعی اکنون می‌توانند اهداف را شناسایی کرده و با کمترین دخالت انسانی، حتی در محیط‌هایی که جنگ الکترونیک شدید وجود دارد، به آن‌ها حمله کنند.

پل لوشنکو، از کالج جنگ ارتش آمریکا، مفهوم «جنگ مینوتور» (Minotaur warfare) را مطرح می‌کند که در آن هوش مصنوعی می‌تواند به عنوان «مغز» مرکزی عملیات عمل کرده و واحدهای انسانی و خودمختار را با سرعت و دقتی فراتر از روش‌های سنتی هدایت کند.

با این حال، سپردن تصمیم‌گیری درباره مرگ و زندگی به ماشین‌ها نگرانی‌های اخلاقی و خطرات ناشی از عملکرد بی‌رحمانه یا استفاده از داده‌های اشتباه برای هدف قرار دادن غیرنظامیان را به همراه دارد،.

آسیب‌پذیری در برابر اتکای بیش از حد اتکای بیش از حد به فناوری هوش مصنوعی خود می‌تواند یک خطر استراتژیک باشد. طرفی که بیش از حد به جنگ مبتنی بر هوش مصنوعی وابسته شود، ممکن است در برابر آسیب‌پذیری‌های جدیدی قرار گیرد که دشمن یاد می‌گیرد از آن‌ها بهره‌برداری کند.

تاریخ نشان داده است که راه‌حل‌های با فناوری پایین (Low-tech) و خلاقیت انسانی می‌توانند بر برتری تکنولوژیک غلبه کنند، همان‌طور که القاعده با استفاده از ارتباطات کاغذی بر برتری اطلاعاتی آمریکا غلبه کرد.

نتیجه‌گیری در نهایت، با حرکت جهان به سمت ساخت و استقرار سیستم‌های خودمختار، خطر عبور از خط قرمزی وجود دارد که بازگشتی از آن نیست و در آن ماشین‌ها قدرت تصمیم‌گیری درباره حیات انسان‌ها را به دست می‌آورند.

مانند کشف انرژی هسته‌ای که همزمان با وعده قدرت بی‌پایان، سایه نابودی مطلق را بر سر بشریت انداخت، هوش مصنوعی خودمختار نیز همچون باز کردن جعبه پاندورایی است که اگرچه ابزارهای قدرتمندی برای دفاع ارائه می‌دهد، اما کنترل کامل پیامدهای آن ممکن است برای همیشه از دست انسان خارج شود.