قابلیت جدید کلود؛ هوش مصنوعی آنتروپیک در زمان غیرفعال بودن «رؤیاپردازی» می‌کند
شرکت آنتروپیک در حال بررسی قابلیتی برای هوش مصنوعی کلود است که به این مدل امکان می‌دهد در زمان‌های غیرفعال، تعاملات گذشته را مرور کند، خطاهای حافظه را اصلاح کند و اطلاعات آموخته‌شده را برای استفاده در گفت‌وگوهای بعدی سامان دهد.
به گزارش شبکه اطلاع رسانی تدبیر و امید، داستان‌های علمی‌تخیلی سال‌هاست ماشین‌هایی را به تصویر می‌کشند که توانایی تفکر، یادگیری و حتی رؤیا دیدن دارند. اکنون آنتروپیک ایده‌ای را دنبال می‌کند که شباهت‌هایی به همین روایت‌ها دارد؛ هرچند مفهوم مورد نظر این شرکت با رؤیا دیدن انسان‌ها تفاوت اساسی دارد.
به نقل از آی‌ای، آنتروپیک این فرایند را «رؤیاپردازی» (Dreaming) نام‌گذاری کرده است. در این سازوکار، کلود هنگام غیرفعال بودن می‌تواند به تعاملات پیشین خود رجوع کند، اطلاعات اشتباه را تشخیص دهد، یادداشت‌های ذخیره‌شده را اصلاح کند و دانسته‌هایش را به شکلی منظم برای استفاده در آینده نگه دارد.
این ایده از فرایند تثبیت خاطرات در مغز انسان هنگام خواب الهام گرفته شده است. آنتروپیک در پژوهش خود چند بخش از این سیستم را بررسی کرده و نتایج آزمایش‌ها نشان می‌دهد گزینش هدفمند اطلاعات برای ذخیره‌سازی و مدیریت منظم حافظه می‌تواند توانایی هوش مصنوعی را در انجام مأموریت‌های پیچیده و طولانی‌مدت افزایش دهد.
مدیریت حافظه؛ چالش اصلی آموزش کلود
کلود هنگام اجرای وظایف می‌تواند اطلاعات کاربردی را در قالب فایل‌های حافظه نگهداری کند؛ اما تشخیص اینکه کدام داده‌ها باید ذخیره شوند، یکی از مسائل مهم این فرایند است.
اگر تمام تعاملات ثبت شوند، حافظه مدل با حجم زیادی از اطلاعات انباشته و نامنظم روبه‌رو خواهد شد. از سوی دیگر، حذف جزئیات مهم ممکن است باعث شود کلود در جلسات بعدی به اطلاعات و زمینه‌های ضروری دسترسی نداشته باشد.
آنتروپیک برای بررسی این چالش، بازی «پوکمون قرمز» (Pokémon Red) را انتخاب کرد؛ محیطی که در آن کلود باید مسیرهای مختلف را طی می‌کرد و نشان‌های بازی را به دست می‌آورد.
پژوهشگران پس از انجام حدود ۱۰ هزار گام در بازی، عملکرد دو مدل را با یکدیگر سنجیدند. مدل Sonnet 3.7 تقریباً همه اطلاعاتی را که با آن مواجه می‌شد ثبت می‌کرد. حافظه این مدل در نهایت به ۴۱۳ فایل در ۲۲۵ پوشه رسید که مجموعاً حدود ۹۷۸ هزار کاراکتر اطلاعات را در بر می‌گرفت.
با وجود این حجم گسترده از داده‌های ذخیره‌شده، مدل یادشده در جریان بازی تنها موفق به کسب یک نشان شد.
در مقابل، Claude Fable 5 از شیوه متفاوتی استفاده کرد. این مدل اطلاعات خود را در ۱۰ فایل و سه محل نگهداری کرد و برای ثبت آنها حدود ۴۳ هزار و ۴۰۰ کاراکتر به کار برد؛ با این حال، توانست چهار نشان به دست آورد.
سیستم حافظه جمع‌وجورتر این مدل، اطلاعاتی مانند راهبردهای مسیریابی و نکاتی را که در جریان بازی یاد گرفته بود، در اولویت قرار می‌داد. همچنین یک فایل اصلی برای ثبت هدف‌های فعلی و برنامه اقدامات بعدی داشت.
چنین ساختاری به کلود کمک کرد از پردازش دوباره اطلاعاتی که از طریق رابط بازی در دسترسش بود، جلوگیری کند. در عین حال، اکتشافات و داده‌های مفیدی که ممکن بود در فاصله میان جلسات از دست بروند، حفظ شدند.
اصلاح خطاهای حافظه با بازبینی آفلاین
یکی از مشکلات احتمالی سیستم‌های حافظه هوش مصنوعی، ثبت اطلاعات نادرست است؛ خطاهایی که در صورت تلقی شدن به‌عنوان واقعیت در جلسات بعدی، می‌توانند عملکرد مدل را مختل کنند.
آنتروپیک در آزمایش دیگری با استفاده از بازی پوکمون نشان داد که فرایند رؤیاپردازی چگونه می‌تواند به شناسایی و اصلاح چنین اشتباهاتی کمک کند.
در این آزمایش، کلود محل یک مرکز پوکمون (Pokémon Center) در نزدیکی کوه مون (Mt. Moon) را به‌اشتباه در حافظه خود ثبت کرده بود. همین خطا باعث شد پس از خروج از ساختمان، موقعیت مکانی‌اش را اشتباه تشخیص دهد.
این اشتباه مدل را وادار کرد بارها از یک پرتگاه یک‌طرفه عبور کند و دوباره به مسیر قبلی بازگردد. با این حال، بازبینی اطلاعات در حالت آفلاین به رفع مشکل انجامید.
کلود یادداشت‌های ذخیره‌شده را با متن اصلی گفت‌وگوی پیشین تطبیق داد و متوجه شد اطلاعات مربوط به محل مرکز پوکمون نادرست است. سپس داده‌های صحیح را جایگزین کرد و فایل حافظه خود را به‌روزرسانی کرد.
پس از این اصلاح، مدل بار دیگر وارد کوه مون شد و در نهایت توانست خود را به شهر سرولین (Cerulean City) برساند. در سوی دیگر، نسخه‌ای که همچنان از اطلاعات اشتباه استفاده می‌کرد، بارها با همان مانع مواجه شد و نتوانست مسیر را به پایان برساند.
تبدیل اسناد پراکنده به پایگاه دانش مرتبط
آنتروپیک در بخش دیگری از پژوهش خود به این پرسش پرداخت که آیا قابلیت رؤیاپردازی می‌تواند حجم بزرگی از اسناد را به یک پایگاه دانش مرتبط و منسجم تبدیل کند یا خیر.
این پایگاه‌ها ساختاری شبیه ویکی دارند؛ به این معنا که هر صفحه از طریق پیوندهایی به اطلاعات مرتبط در صفحات دیگر متصل می‌شود. یکی از آزمایش‌ها با استفاده از حدود ۳۵۰ هزار سند داخلی شرکت نرم‌افزاری Stainless انجام گرفت؛ مجموعه‌ای که نزدیک به ۴۲۰ میلیون توکن را شامل می‌شد.
کلود در جریان ۱۲۸ جلسه، به‌تدریج یک ویکی ایجاد کرد و با اتکا به اطلاعات اسناد، محتوای آن را گسترش داد و اصلاح کرد.
نتایج ارزیابی ۲۵ پرسش نشان داد میزان پاسخ‌گویی صحیح مدل از ۱۳ درصد به ۴۸ درصد افزایش یافته است. آزمایش دیگری نیز با اسناد مرتبط با یک ادغام شرکتی انجام شد و نتایج قابل توجهی به همراه داشت.
کلود با استفاده از ویکی‌ای که خودش ساخته بود، توانست به پرسش‌هایی که پاسخ آنها مستلزم ترکیب اطلاعات چند سند بود، با دقت ۸۷ درصد پاسخ دهد. این میزان در روش جست‌وجوی مستقیم میان اسناد، تنها ۷۳ درصد بود.
سازمان‌دهی دوباره اطلاعات برای جلسات بعدی
قابلیت رؤیاپردازی می‌تواند اطلاعات ذخیره‌شده را برای استفاده در تعاملات آینده نیز بازآرایی کند. در این روش، کلود جزئیاتی را که احتمال بیشتری برای استفاده از آنها وجود دارد، در بخش حافظه سریع و در دسترس قرار می‌دهد و داده‌های کم‌اهمیت‌تر را در فایل‌هایی نگه می‌دارد که در صورت نیاز امکان جست‌وجوی آنها وجود دارد.
آنتروپیک در عین حال تأکید دارد که اجرای این رویکرد به مدیریت دقیق نیازمند است. نگهداری و به‌روزرسانی حافظه، منابع محاسباتی مصرف می‌کند و ذخیره بیش از اندازه اطلاعات نیز ممکن است در جلسات بعدی حجم زیادی از داده‌ها را پیش روی مدل قرار دهد.
از نگاه پژوهشگران این شرکت، عامل‌های هوش مصنوعی باید توانایی تشخیص زمان مناسب برای حفظ اطلاعات و زمان رجوع دوباره به آنها را بیاموزند.
یافته‌های این پژوهش حاکی از آن است که مدیریت کارآمدتر حافظه می‌تواند به کلود امکان دهد وظایف پیچیده‌تری را در چندین جلسه و در بازه‌های زمانی طولانی‌تر انجام دهد.
