همکاری دردسرساز آمازون با پلیس

 اخیراً اسنادی در خصوص همکاری آمازون با پلیس برای استفاده از سیستم Amazon Rekognition منتشر شده‌اند که نشان می‌دهند این همکاری و سیستمی که در آن مورد استفاده قرار گرفته است، از ابتدا نگران کننده بوده‌اند.

اوایل امسال، فناوری تشخیص چهره آمازون با نام Rekognition که می تواند تصاویر و ویدیوها را اسکن کند و آن‌ها را با پایگاه داده‌ای از چهره‌ها مقایسه کند، با سیل انتقاداتی از سوی کارکنان، سهام دارن و فعالان حقوق شهروندی مواجه شد که معتقدند استفاده از این فناوری توسط سازمان‌های دولتی، غیر قانونی و حتی خطرناک است. این واکنش که توسط گزارشی از سوی ACLU منتشر شده است، چگونگی کار آمازون روی فناوری خود را با اجرای قانون نشان می‌دهد و حالا اسناد جدیدی که منتشر شده‌اند، نشان می‌دهند که آمازون این ابزار بحث برانگیز را در اختیار پلیس قرار می‌دهد.

رو جمعه، BuzzFeed News اسناد به دست آمده از طریق درخواست‌های ثبت عمومی را منتشر کرد. اسناد منتشر شده جزئیات بیشتری در خصوص ارتباط بین آمازون و اداره پلیس اورلاندو (Orlando) که در برنامه آزمایشی سیستم تشخیص چهره Rekognition که نرم افزاری برای تشخیص چهره لحظه‌ای است را فاش کردند. در ماه ژوئن (خرداد ماه)، اداره پلیس اعلام کرد که قرارداد اولیه آن‌ها با آمازون منقضی شده است، اما در ماه جولای (تیر ماه)، مقامات شهر اورلاندو گفتند که به آزمایش سیستم Rekognition ادامه خواهند داد.

به گفته BuzzFeed، شرکت آمازون ده‌ها هزار دلار فناوری را به صورت رایگان برای شهر اورلاندو فراهم کرده‌ است. این موضوع، گزارشی از واشنگتن پست را تایید می‌کند که پلیس واشنگتن کانتی ایالت اورگن، برای استفاده از این سرویس تنها 6 تا 12 دلار در ماه پرداخت می‌کند. این در حدود هزینه اشتراک ماهانه نتفلیکس است.

علاوه بر این، اسناد جدید نشان می‌دهند که آمازون، اورلاندو را مجبور به امضای قراردادی غیر مجاز کرده است که جزئیات مربوط به آزمایش‌های آن‌ها را تحت پوشش قرار می‌دهد. قبلاً ACLU کشف کرده بود که آمازون قرارداد غیر مجاز مشابهی را با واشنگتن کانتی به امضا رسانده است. قراردادهای غیر مجاز برای شرکت‌های تکنولوژیک دوره‌ای مناسب هستند و آمازون مدعی است که با ارائه سرویس‌های رایگان خود، مردم را مجذوب کرده است.

یکی از سخنگویان خدمات وب آمازون (AWS) در بیانیه‌ای به Gizmodo گفت:

ارائه خدمات به مشتریان با اعتبار رایگان برای آزمایش فناوری‌های جدید، یک روش معمول و مرسوم در صنعت است و چیزی که ما به بسیاری از مشتریان مختلف خود با خدمات وب آمازون (Amazon Web Services) ارائه می‌دهیم. صحبت کردن با سازمان‌ها و شرکت‌ها درباره محصولات و ویژگی‌های جدید تحت توافق عدم افشاگری نیز چیزی است که ما اغلب با بسیاری از مشتریان خود برای حفاظت از مالکیت معنوی و اطلاعات رقابتی خود انجام می‌دهیم. ما همچنان از مشتریانمان در استفاده مسئولانه از فناوری که شامل ارائه بهترین شیوه‌ها و مستندات عمومی و راهنمایی‌ها از سوی کارشناسان یادگیری ماشین ما است، حمایت می‌کنیم که همه این‌ها امر عادی برای تعاملات با مشتری است.

شاید جالب‌ترین اطلاعات اسناد جدید، این است که چگونه مسئولان اورلاندو سعی کردند تا کارهای تکنولوژیک آمازون را انجام دهند. به نظر می‌رسد که تیم‌های مجری قانون این فناوری به دلیل آموزش کمی که دیده‌اند، به شدت مورد انتقاد قرار گرفته‌اند. سرهنگ ادواردو برنال (Eduardo Bernal) از اداره پلیس اورلاندو به BuzzFeed گفت که آمازون دستورالعمل‌های شخصی را در خصوص نحوه استفاده از سیستم Rekognition از جمله این که چه تصاویری را می‌توانند در پایگاه داده آپلود کنند تا لیستی از مجرمان مشکوک را ایجاد کنند، ارائه نمی‌کند.
ایمیل‌های موجود در اسناد به این نکته اشاره می‌کنند که برنامه آزمایشی ایراداتی داشت. یک ایمیل که در ماه فوریه (بهمن ماه) ارسال شده بود، نشان می‌دهد که یک مقام رسمی شهر، از آمازون به دلیل تحویل دیرهنگام فناوری مورد بحث، شکایت داشته است و هنگامی که زیر ساخت‌ها و تجهیزات مرتبط با فناوری Rekognition تنظیم و نصب شدند، ظاهراً مشکلات دوباره ادامه داشتند.

در ایمیلی که توسط یکی از مقامات شهر اورلاندو در ماه مارس (اسفند ماه) ارسال شده است، چنین آمده است:

جریان‌ها همچنان متوقف می‌شوند. به نظر می‌رسد که این اتفاق به صورت روزانه می‌افتد. من روزی 4 یا 5 جریان را شروع کردم و همانطور که گفتم، در حال حاضر تنها یک جریان هنوز فعال است. فکر کردم تو در حال کار بر روی اسکریپتی هستی تا اگر مشکلی وجود داشته باشد، آن‌ها را به صورت اتوماتیک مجدداً راه اندازی کند؟

تعجب آور نیست که این برنامه نتوانسته در تمام ابعاد خود به درستی کار کند. در ماه جولای (تیر ماه) پیامدهای نگران کننده‌ای از نقص سیستم تشخیص چهره آمازون را دیده‌ایم، هنگامی که شعبه ACLU کالیفرنیای شمالی نشان داد این سیستم به اشتباه بیست و هشت عضو کنگره را به عنوان افرادی که مظنون به جنایت بودند، شناسایی کرده است. از بیست و هشت عضو کنگره که اشتباه شناسایی شده بودند، یازده نفر رنگین پوست بودند. علاوه بر این، میزان خطای رخ داده در خصوص اعضای غیر سفید پوست کنگره 39 درصد بود که این در مقایسه با 5 درصد برای تمام کنگره است. هزینه‌ انجام این آزمون نیز فقط 12.33 دلار بود.

این یکی از عوامل مهم پیشرو در تقاضای آمازون برای لغو قراردادهای مرتبط با سیستم تشخیص چهره خود با مقامات مجری قانون است. این فناوری هم اکنون ناقص، جانبدارانه و در دست افراد نادرستی قرار دارد که همین یک ابزار قدرتمند برای ایجاد تبعیض است. هم اکنون، مقامات شهر اورلاندو می‌گویند که فقط نرم افزار تطبیق چهره را با عکس‌های افسران پلیسی که برای این منظور داوطلب شده‌اند، آزمایش خواهد کرد؛ اما عواقب بدتر و وخیم‌تر در صورت گسترش استفاده از این فناوری به سادگی قابل تصور است.

برایان برکین (Brian Brackeen) مدیر عامل استارت آپ کایروس (Kairos) که در زمینه تشخیص چهره و هوش مصنوعی فعال است، در یادداشتی در ماه ژوئن (خرداد ماه) نوشت:

هر شرکتی که در این فضای به وجود آمده مایل است این نرم افزار را در اختیار یک دولت، مثلاً آمریکا یا یکی دیگر از کشورها بگذارد، به صورت عمدی به زندگی مردم آسیب می‌زند. ما برای جلوگیری از فروش فناوری‌های این چنینی، نیازمند حرکت از رأس هر شرکت در این فضای به وجود آمده هستیم.