پیامدهای اخلاقی، حقوقی و امنیتی ساخت جنگ افزارهای خودمختار هوش مصنوعی برای جامعه چیست؟

پرسش شما درباره پیامدهای اخلاقی، حقوقی و امنیتی ساخت جنگ‌افزارهای خودمختار هوش مصنوعی (AWS) برای جامعه، بسیار مهم و حیاتی است.

این فناوری تهدیدی بی‌سابقه برای بشریت محسوب می‌شود و عواقب بالقوه آن برای ذینفعان غیرنظامی، غیرقابل سنجش است.

در اینجا یک مرور جامع بر پیامدهای شناسایی‌شده در منابع ارائه شده است:

۱. پیامدهای اخلاقی (Ethical Consequences)

اساسی‌ترین و مهم‌ترین ایراد اخلاقی علیه جنگ‌افزارهای خودمختار این است که آن‌ها در اصل تمایز (principle of discrimination) شکست می‌خورند.

1. نقض اصل تمایز: اصل تمایز در چارچوب اخلاق نظامی معاصر و نظریه‌های جنگ عادلانه (Just War Theories)، تضمین می‌کند که شهروندان بی‌گناه هدف جنگ قرار نگیرند و کشتار غیرنظامیان به هر قیمتی اجتناب شود.
2. عدم توانایی در تفکیک اهداف: کارشناسان تردید دارند که یک سلاح خودمختار بتواند به اندازه کافی بین اهداف نظامی و غیرنظامی تمایز قائل شود. این شکست، صرف نظر از سطح خودمختاری سیستم، صادق است.
3. ریسک غیرقابل سنجش در انبوه پهپادها: در مورد انبوه پهپادها (drone swarms) که می‌توانند به ده‌ها هزار عدد برسند، خطر عدم تمایز به سطحی غیرقابل سنجش افزایش می‌یابد.
4. ماهیت غیراخلاقی: بسیاری از دانشمندان، کارشناسان و روزنامه‌نگاران در سراسر جهان، نگرانی خود را در مورد ماهیت ذاتاً غیراخلاقی توسعه و/یا استقرار AWS ابراز کرده‌اند.
5. محدودیت‌های بحث اخلاقی: در حالی که بینش‌ها و بحث‌های اخلاقی ضروری و مفید هستند، به تنهایی بعید است که راه‌حل‌های فوری مورد نیاز برای به حداقل رساندن خطرات مرتبط را به ارمغان بیاورند. مسئله AWS در نهایت به قلمرو قوانین بین‌المللی و سیاست‌گذاری تعلق دارد.

۲. پیامدهای حقوقی و سیاست‌گذاری (Legal Consequences)

پیشرفت‌های فناورانه، ظهور ماشین‌هایی را به دنبال داشته که ظرفیت کشتن انسان‌ها را بدون کنترل انسانی دارند. برای این تهدیدات بی‌سابقه علیه بشریت، در حال حاضر هیچ چارچوب قانونی وجود ندارد.

1. تهدید کنوانسیون‌های موجود: اشکال جدید جنگ توسط تسلیحات کنترل‌شده با هوش مصنوعی که پتانسیل تخریب گسترده دارند، اثربخشی مداوم کنوانسیون‌های موجود مانند پروتکل ژنو (که استفاده از گازهای سمی را ممنوع کرد) را تهدید می‌کند.
2. ضرورت ایجاد قوانین جدید: جامعه بین‌المللی وظیفه دارد مجموعه جدیدی از کنوانسیون‌ها را برای تنظیم استفاده از این سلاح‌ها از طریق قوانین و معاهدات بین‌المللی ایجاد کند. این فرایند باید با هدف تضمین عدم تحقق این تهدیدات پیش برود.
3. کمبود ابزارهای تصویب: در حال حاضر، هیچ ابزار تصویبی در رابطه با هوش مصنوعی برای نسل نوظهور تسلیحات خودمختار و استقرار آن‌ها در خدمت جنگ وجود ندارد.
4. نقایص قوانین موجود (مانند قانون هوش مصنوعی اروپا): قانون تنظیم مقررات هوش مصنوعی کمیسیون اروپا (European AI Act) اولین تلاش برای ایجاد یک چارچوب حقوقی فراملی در مورد هوش مصنوعی است. با این حال، این قانون با طبقه‌بندی‌های ریسک دلخواه، شامل حفره‌ها و استثنائات زیادی است. کاربردهایی که صراحتاً در دسته “پرخطر” قرار نگرفته‌اند، از جمله سیستم‌های تسلیحاتی خودمختار، تا حد زیادی بدون تنظیم باقی می‌مانند.

۳. پیامدهای امنیتی (Security Consequences)

پیامدهای امنیتی ناشی از توسعه AWS، تهدیدات جدیدی را برای ثبات جهانی و امنیت شهروندان ایجاد می‌کند:

1. پتانسیل تبدیل شدن به سلاح‌های کشتار جمعی (WMD): پتانسیل تبدیل شدن AWS به سلاح‌های کشتار جمعی واقعی است. سلاح‌های جدید با حداکثر ریسک می‌توانند شامل انبوه پهپادها و سلاح‌های خودمختار شیمیایی، بیولوژیکی، رادیولوژیکی و هسته‌ای (CBRN) باشند. انبوه پهپادها به دلیل ترکیب آسیب گسترده و عدم کنترل انسانی برای اطمینان از عدم آسیب به غیرنظامیان، به عنوان سلاح‌های کشتار جمعی آینده در نظر گرفته می‌شوند.
2. هک متخاصم (Adversarial Hacking): هیچ سیستم خودمختاری وجود ندارد که قابل هک نباشد، و خطر اینکه بازیگران غیردولتی کنترل AWS را از طریق هک متخاصم به دست گیرند، واقعی است.
   • هدف قرار دادن زیرساخت‌ها: هک متخاصم می‌تواند سیستم را در هر سطحی هدف قرار دهد، از زیرساخت‌هایی که اطلاعات وضعیت را ثبت می‌کنند تا الگوریتم‌ها و فرآیندهایی که سیستم‌های کنترل خودکار را هدایت می‌کنند.
   • نتیجه هک: هک می‌تواند منجر به خرابی سیستم، یا سناریوهایی شود که در آن‌ها سیستم فاسد شده تا کاری را انجام دهد که قرار نیست انجام دهد (مانند کشتن غیرنظامیان).
   • استفاده توسط بازیگران غیردولتی: گروه‌های تروریستی و شبکه‌های جنایی بین‌المللی می‌توانند این فناوری را مهار یا خرابکاری کنند.
3. افزایش ناخواسته درگیری‌ها و دشواری در انتساب اعمال خصمانه: استقرار AWS می‌تواند موجب دشواری در انتساب اقدامات خصمانه شده و منجر به تشدید ناخواسته درگیری‌ها شود.
4. سوءاستفاده از تحقیقات علمی: یافته‌های علمی در زمینه اصلاح و سنتز بیولوژیکی که در ابتدا برای درک بهتر بیماری‌ها طراحی شده‌اند، می‌توانند برای افزایش قدرت عوامل عفونی که توسط AWS مستقر می‌شوند، مورد سوءاستفاده قرار گیرند.

یک تشبیه برای وضوح بیشتر:

توسعه جنگ‌افزارهای خودمختار هوش مصنوعی مانند ساخت یک خودروی خودران است که به جای راندن در مسیرهای مشخص و ایمن، توانایی انتخاب آزادانه برای زیر گرفتن مردم را داشته باشد و ما هنوز هیچ قانون راهنمایی و رانندگی بین‌المللی برای آن وضع نکرده‌ایم.

این سیستم نه تنها خطر تصادف‌های ناخواسته را دارد (نقص در اصل تمایز)، بلکه ریسک دزدیده شدن کامل توسط هکرها و استفاده مخرب از آن را نیز به همراه دارد.