تشدید محدودیت‌های چت‌جی‌پی‌تی برای نوجوانان؛ دسترسی به اطلاعات عملی درباره سلاح‌ها محدود می‌شود
اوپن‌ای‌آی اعلام کرده است که محدودیت‌های دسترسی به اطلاعات مربوط به سلاح‌ها در چت‌جی‌پی‌تی را برای نوجوانان سخت‌گیرانه‌تر می‌کند. این محدودیت‌ها حتی در شرایطی اعمال خواهند شد که پرسش کاربر در ظاهر بی‌خطر به نظر برسد؛ اقدامی که بخشی از تدابیر ایمنی جدید این شرکت برای پیشگیری از خشونت در دنیای واقعی است.
تدابیر سخت‌گیرانه‌تر برای جلوگیری از سوءاستفاده از اطلاعات
به گزارش شبکه اطلاع رسانی تدبیر و امید به نقل از رویترز، اوپن‌ای‌آی قصد دارد دسترسی به اطلاعاتی را که ممکن است برای ساخت یا استفاده از سلاح‌ها و سوءاستفاده از سامانه‌های امنیتی به کار گرفته شوند، محدودتر کند.
بر اساس این گزارش، اجرای این محدودیت‌ها به مشاهده نشانه‌های آشکار از قصد خشونت‌آمیز وابسته نیست و نوجوانان حتی هنگام طرح پرسش‌هایی که ظاهراً خطرناک به نظر نمی‌رسند نیز مشمول این سیاست‌ها خواهند شد.
افزایش فشارها بر شرکت‌های هوش مصنوعی درباره ایمنی کاربران جوان
این تصمیم در شرایطی اتخاذ شده است که شرکت‌های فعال در حوزه هوش مصنوعی با انتقادها و فشارهای بیشتری درباره خطرات احتمالی چت‌بات‌ها برای کاربران کم‌سن‌وسال مواجه‌اند.
یکی از محورهای این نگرانی‌ها، مسئولیت شرکت‌های هوش مصنوعی در شناسایی تهدیدهای آسیب‌زا و جلوگیری از تبدیل تعاملات آنلاین به رفتارهای خشونت‌آمیز در دنیای واقعی است.
توقف خودکار گفت‌وگوهای مرتبط با خشونت و تعلیق موقت حساب‌ها
طبق اعلام اوپن‌ای‌آی، چت‌جی‌پی‌تی در صورتی که نشانه‌هایی از تمرکز کاربر بر خشونت مشاهده کند، گفت‌وگو را به‌طور خودکار متوقف خواهد کرد. همچنین، در صورت تکرار چنین تعاملاتی، ممکن است حساب کاربر برای مدتی به حالت تعلیق درآید.
این شرکت تأکید کرده است که تدابیر یادشده بخشی از رویکرد ایمنی آن برای مقابله با تعاملاتی هستند که احتمال دارد به رفتارهای آسیب‌زا منجر شوند.
تقویت تشخیص سن و انتقال کاربران به تجربه ویژه نوجوانان
اوپن‌ای‌آی همچنین از برنامه خود برای تقویت سامانه‌های تخمین سن خبر داده است. هدف از این اقدام، شناسایی دقیق‌تر کاربرانی است که احتمال می‌رود کمتر از ۱۸ سال داشته باشند و هدایت آن‌ها به نسخه ویژه نوجوانان در چت‌جی‌پی‌تی است.
بر اساس این گزارش، این شرکت قصد دارد در شرایطی که حساب یک نوجوان به دلیل تکرار گفت‌وگوهای مرتبط با خشونت به‌طور موقت مسدود می‌شود، والدین او را نیز از این موضوع مطلع کند.
محدودیت اطلاعات مربوط به حملات گسترده و سلاح‌های استفاده‌شده
اوپن‌ای‌آی اعلام کرده است که دسترسی به جزئیات مربوط به حملات گسترده، از جمله نوع سلاح‌های به‌کاررفته در این رویدادها و شیوه تهیه آن‌ها، برای تمامی کاربران محدودتر خواهد شد.
این شرکت همچنین گفته است که اجرای تدابیر جدید ایمنی از چند هفته آینده آغاز می‌شود و روند توسعه و بهبود این اقدامات در ادامه نیز پیگیری خواهد شد.
