هوش مصنوعی گزارش قتل اشتباه به پلیس فیلادلفیا داد
شرکت آنتروپیک اعلام کرده که مدل هوش مصنوعی این شرکت، در ماه ژوئیه از طریق یک وب سایت عمومی، گزارشی دروغین درباره یک قتل به پلیس فیلادلفیا ارسال کرده است. اگرچه پلیس به آن توجهی نکرده است.
به گزارش شبکه اطلاع رسانی تدبیر و امید، آنتروپیک اعلام کرده که این هوش مصنوعی احتمالا در حال تولید محتوای نمونه برای انجام یک وظیفه بوده و قصد گمراه کردن کسی را نداشته است. این شرکت همچنین اعلام کرد که درباره موارد مشابهِ تعامل بدون مجوز با وب سایت‌های دولتی، مقام‌های کاخ سفید را در جریان گذاشته است.
به نقل از الجزیره، پلیس فیلادلفیا اعلام کرده که مدل هوش مصنوعی شرکت آنتروپیک، گزارشی نادرست درباره یک قتل به مقام‌های مسئول ارسال کرده است؛ حادثه‌ای که این شرکت فناوری نیز به طور جداگانه آن را افشا کرد.
اداره پلیس فیلادلفیا روز جمعه اعلام کرد که این گزارش نادرست در ماه ژوئیه و از طریق وب سایت عمومی PhillyUnsolvedMurders.com ارسال شده است؛ وب‌سایتی که مردم می‌توانند از طریق آن اطلاعات خود را درباره قتل‌های حل‌نشده با مقام‌های مسئول به اشتراک بگذارند.
تاخیر دوماهه در اطلاع‌رسانی
پلیس فیلادلفیا تاخیر دوماهه آنتروپیک در شناسایی و گزارش این حادثه را «غیرقابل‌قبول» توصیف کرد.
آنتروپیک در گزارشی که روز جمعه منتشر کرد، به این پرونده اشاره کرد. این گزارش به تشریح مجموعه‌ای از حوادث مربوط به دست‌کاری بدون مجوز وب‌سایت‌های متعلق به نهادهای دولتی فدرال، ایالتی و محلی توسط مدل‌های کلود می‌پردازد.
این نخستین مورد شناخته‌شده‌ای است که در آن به نظر می‌رسد یک هوش مصنوعی خارج از چارچوب دستورهای خود، گزارشی نادرست به مقام‌های مسئول ارسال کرده است؛ آن هم با وجود دستورهایی که ایجاد حساب کاربری یا ارسال اطلاعات مخرب را منع می‌کردند.
پلیس فیلادلفیا اعلام کرد که این گزارش «به‌عنوان هرزنامه شناسایی شد و هرگز برای بررسی کارشناسی یا انتشار اطلاعات به مرکز جرائم در لحظه ارسال نشد».
این اداره پلیس همچنین گفت که حادثه را پیش از انتشار گزارش آنتروپیک افشا می‌کند تا «شفافیت کامل دولت و پاسخ‌گویی در قبال این موضوع» تضمین شود.
توضیحات آنتروپیک درباره این حادثه
آنتروپیک این گزارش را در چارچوب مجموعه‌ای از حوادث مرتبط با وب‌سایت‌های تحت مدیریت نهادهای فدرال، ایالتی و محلی منتشر کرد. این شرکت اعلام کرد که کاخ سفید را در جریان گذاشته و به تمام نهادهای دولتی درگیر در این حوادث اطلاع داده است.
آنتروپیک درباره گزارش ارسالی به پلیس فیلادلفیا گفت: به‌محض آنکه بررسی فنی ما به پایان رسید، در تاریخ ۸ اکتبر این یافته را با اداره پلیس به اشتراک گذاشتیم.
این شرکت جزئیات بیشتری نیز درباره این حادثه ارائه کرد: در یک مورد، کلود که مامور تولید نمونه‌هایی از تعامل با وب‌سایت‌ها بود، از طریق فرم آنلاین یک اداره پلیس، گزارشی ساختگی ارسال کرد.
آنتروپیک افزود: بر اساس متن ثبت شده از این تعامل، به نظر می‌رسد کلود صرفا در حال تولید محتوای نمونه برای انجام وظیفه بوده است، نه اینکه برای دستیابی به هدفی مشخص، قصد گمراه کردن کسی را داشته باشد.
این شرکت در ادامه، این حادثه را با جدی‌ترین رویداد تابستان امسال مقایسه کرد؛ رویدادی که در آن، استدلال‌های گمراه‌کننده کلود ساعت‌ها ادامه یافت و به تداوم حمله این مدل کمک کرد.
سابقه نفوذ هوش مصنوعی به سامانه‌های دولتی
در ماه سپتامبر، شرکت اوپن ای‌آی، رقیب آنتروپیک، بابت نفوذ یک عامل هوش مصنوعی خارج از کنترل به درگاه اطلاعات سلامت استرالیا عذرخواهی کرد. این حادثه نخستین مورد شناخته شده از سوءاستفاده یک عامل هوش مصنوعی از یک وب‌سایت دولتی بود.
