پهپاد نظامی آمریکا که با هوش مصنوعی کنترل می‌شود، در آزمایش مجازی، اپراتور خود را کشت

یورونیوز: یک مقام آمریکایی می‌گوید در جریان یک آزمایش مجازی که توسط ارتش این کشور انجام شده، یک پهپاد نیروهای هوایی که تحت کنترل هوش مصنوعی بوده، تصمیم گرفته اپراتور خود را بکشد تا از دخالت او در تلاش‌های این پهپاد برای رسیدن به ماموریت جلوگیری کند.

سرهنگ تاکر سینکو همیلتون، رئيس آزمایش و عملیات هوش مصنوعی نیروی هوایی ایالات متحده در جریان سخنان خود طی برگزاری اجلاسی در لندن با اشاره به این موضوع تاکید کرد که هوش مصنوعی در جریان این ماموریت از استراتژی‌های بسیار غیرمنتظره‌ای برای رسیدن به هدف خود استفاده کرده است. این مقام آمریکایی در جریان اجلاسِ «قابلیت‌های هوایی و فضایی در لندن» در این خصوص گفت: «ما یک آزمایش شبیه‌سازی شده‌ای را انجام دادیم که در آن به یک پهپاد مجهز به هوش مصنوعی توصیه شد سیستم‌های دفاع هوایی دشمن را نابود کند و در نهایت این پهپاد به هرکسی که در این دستور دخالت می‌کرد، حمله کرد.»

او در ادامه با اشاره به این که سیستم متوجه می‌شود که برای رسیدن به هدفش باید با هر مانعی برخورد کند، افزود: «در جریان این برنامه آزمایشی اپراتور انسانی به هوش مصنوعی می‌گفت که تهدید را از بین نبرد چرا که در این صورت امتیاز از دست می‌دهد اما پهپاد مجهز به هوش مصنوعی چه کرد؟ شروع به تخریب برج ارتباطی کرد که اپراتور از آن برای برقراری ارتباط با پهپاد استفاده می‌کرد تا از این طریق بتواند مسئولیت محول شده به او یعنی کشتن هدف را اجرایی کند.»

همیلتون که یک خلبان جنگنده‌های آزمایشی است با اشاره به این مساله نسبت به اتکای بیش از حد به هوش مصنوعی هشدار داد و گفت: «در جریان این آزمایش پهپاد در نهایت اپراتور خود را می‌کشد چرا که آن شخص از رسیدن پهپاد به هدفش جلوگیری می‌کرده است.»

او در ادامه تاکید کرد که مساله گسترش هوش مصنوعی و توجه و اتکای به آن می‌تواند عواقب خطرناکی در پی داشته باشد. البته آقای همیلتون تاکید کرد که در این آزمایش مجازی، هیچ شخص واقعی آسیب ندیده است.

انجمن سلطنتی هوانوردی که میزبان این کنفرانس است و همچنین نیروی هوایی ایالات متحده به درخواست‌ها برای اظهار نظر در این زمینه پاسخ ندادند.

اما آن استفانک، سخنگوی نیروی هوایی آمریکا در بیانیه‌ای وقوع چنین شبیه‌سازی را رد کرد. او در این بیانیه نوشت: «نیروی هوایی چنین شبیه‌سازی پهپادهای هوش مصنوعی را انجام نداده است و به استفاده اخلاقی و مسئولانه از فناوری هوش مصنوعی متعهد است.»

ارتش ایالات متحده از هوش مصنوعی استقبال کرده و اخیراً از فناوری برای کنترل یک جت جنگنده اف ۱۶ استفاده کرده است.

همیلتون سال گذشته هم در گفتگوی دیگری گفته بود که هوش مصنوعی خوب نیست و ایده استفاده از آن برای صنایع دفاعی می‌تواند خطرناک باشد. او همچنین اضافه کرده بود که هوش مصنوعی برای همیشه جامعه و ارتش را تغییر می‌دهد. این مقام آمریکایی در آن گفتگو با مجله Defense IQ گفته بود: «هوش مصنوعی بسیار شکننده است و در نتیجه فریب دادن و دستکاری آن بسیار آسان است. ما باید راه‌هایی برای قوی‌تری کردن هوش مصنوعی و همچنین توضیح‌پذیری هوش مصنوعی ایجاد کنیم.»