ما ربات‌های هوش مصنوعی رو به عنوان پشتیبان مشتری یا حتی دستیار تو دنیای وکالت می‌شناسیم، اما حالا یه چت‌بات جاسوس هم از راه رسیده. شرکت انتروپیک (Anthropic) یه جورایی نسخه‌ی جیمز باندیِ کلاد رو ساخته که کارش پردازش اطلاعات محرمانه است.

کلاد گاو (Claude Gov)، که اسم واقعی این چت‌باته، مسئول پردازش اطلاعات «طبقه‌بندی شده» برای دولت آمریکاست تا به حفظ امنیت ملی کمک کنه. کلاد گاو با بازخورد مستقیم کارمندای دولتی تو زمینه‌های برنامه‌ریزی استراتژیک، تحلیل اطلاعاتی و پشتیبانی عملیاتی ساخته شده. دسترسی بهش برای مردم عادی نیست، بلکه فقط برای کارمندای دولتیه که تو سیستم‌های محرمانه کار می‌کنن.

کلاد در نقش جاسوس
این نسخه اصلاً شبیه کلادی که ما به عنوان کاربر عادی می‌شناسیم، طراحی نشده. نسخه‌ی دولتی دقیقاً برای اطلاعات محرمانه ساخته شده، در حالی که نسخه‌ی معمولی کلاد تا حرف از اطلاعات محرمانه می‌شه، سریع یه دیوار جلوی خودش می‌کشه. مثلاً کلاد گاو می‌تونه اسناد دفاعی رو پردازش کنه و تو تشخیص و ترجمه‌ی زبان‌ها و لهجه‌های مختلف بهتر عمل می‌کنه. البته تست‌های امنیتیش مثل بقیه‌ی مدل‌های کلاد هستن.

چندین ربات هوش مصنوعی دیگه هم برای سرویس‌های اطلاعاتی و دفاعی ساخته شده. مایکروسافت هم تو سال ۲۰۲۴ یه نسخه‌ی «جاسوسی» از جی‌پی‌تی-۴ شرکت اوپن‌ای‌آی رو عرضه کرد که روی یه شبکه‌ی جداگونه و فقط قابل دسترس برای دولت کار می‌کرد. حتی به اینترنت هم وصل نبود، ولی اصلاً چیز کوچیکی هم نبود. بیشتر از ۱۰ هزار نفر بهش دسترسی داشتن.

توهم‌زایی (Hallucination)
توی اینجور هوش مصنوعی‌های جاسوس، بیشتر از هر وقت دیگه‌ای مهمه که توهم‌زایی یا همون هذیان‌گویی (hallucination) اتفاق نیفته. اصلاً نباید اطلاعات اشتباهی توسط هوش مصنوعی تولید بشه، مخصوصاً وقتی پای همچین اطلاعات مهمی در میونه. این ریسک همیشه وجود داره: شبکه‌های عصبی هوش مصنوعی بر اساس احتمالات آماری کار می‌کنن و برای همین اگه درست استفاده نشن، ممکنه به سرویس‌های اطلاعاتی اطلاعات غلط بدن.

اینکه چت‌بات‌های هوش مصنوعی معمولاً خیلی هم با اطمینان حرف می‌زنن، پیدا کردن اشتباهات رو سخت‌تر می‌کنه. اینجوری ممکنه یه سازمان دولتی بر اساس یه سری چرت و پرت، تصمیماتی در مورد امنیت ملی بگیره. پس هنوز هم یه نظارت انسانی روی این اطلاعات لازمه.

لينک منبع