Meta با «نقش‌بازی نوجوانان» چت‌بات‌های رقیب را به سؤال‌های حساس کشاند

آزمون مخفی متا بر سر چت‌بات‌های رقیب

در یک آزمایش که به‌نظر می‌رسد به‌صورت مخفیانه توسط متا (Facebook) انجام شده، صدها پیمانکار این شرکت به‌عنوان «نوجوان» در شبکه‌های اجتماعی ثبت‌نام کردند. این افراد سپس به‌صورت آنلاین به چت‌بات‌های رقیبی چون Gemini و ChatGPT سؤالاتی درباره خودکشی، رابطه جنسی و مصرف مواد مخدر مطرح کردند. هدف واضح این بود که ببینند آیا هوش مصنوعی می‌تواند درک درستی از محتوای حساس داشته باشد یا نه.

نتایج نشان‌دهندهٔ نواقص جدی در تشخیص محتوا

پس از جمع‌آوری پاسخ‌ها، نتایج حاکی از این بود که هر دو چت‌بات در تشخیص و مدیریت این موضوعات حساس دچار نقص‌های قابل توجهی بودند. برخی از پاسخ‌ها حتی به‌نظر می‌رسید که راهنمایی‌های نادرست یا کم‌رنگی‌های خطرناک ارائه می‌دادند؛ مسأله‌ای که می‌تواند خطرات جدی برای کاربران به‌ویژه نوجوانان داشته باشد.

چرا متا این کار را انجام داد؟

متا همواره ادعا می‌کند که در زمینهٔ ایمنی دیجیتال پیشرفت‌های چشمگیری داشته و ابزارهای تشخیص محتوای نامناسب را به‌صورت مداوم به‌روزرسانی می‌کند. این آزمون می‌تواند بخشی از یک «تست فشار» باشد تا نقاط ضعف رقبای خود را شناسایی کند و در عین حال نشان دهد که سامانه‌های هوش مصنوعی هنوز برای مواجهه با مسائلی همچون خودکشی یا مصرف مواد مخدر به‌طور کامل آماده نیستند.

پیامدها برای صنعت هوش مصنوعی

نتایج این آزمایش نه تنها برای متا، بلکه برای تمام شرکت‌های فعال در حوزهٔ هوش مصنوعی پیام مهمی دارد. اگر چت‌بات‌های پیشرفته‌ای همچون Gemini و ChatGPT هنوز نمی‌توانند به‌درستی به سؤالات حساس پاسخ دهند، آنگاه انتظار داشتن یک سامانهٔ «امن» برای استفاده عمومی، به‌ویژه در میان نوجوانان، شاید هنوز دور از دسترس باشد. این امر فشار بیشتری بر توسعه‌دهندگان برای تقویت الگوریتم‌های تشخیص محتوا و به‌کارگیری روش‌های نظارتی دقیق‌تر ایجاد می‌کند.

چه قدمی باید برداشت؟

برای رفع این خلأ، متخصصان پیشنهاد می‌کنند که شرکت‌ها نه‌تنها دیتاست‌های آموزشی خود را با موارد حساس تقویت کنند، بلکه مکانیزم‌های فیلترینگ را به‌صورت لحظه‌ای و با نظارت انسانی ترکیب نمایند. همچنین، شفاف‌سازی بیشتر دربارهٔ نحوهٔ عملکرد این سامانه‌ها می‌تواند به اعتماد کاربران، به‌ویژه والدین، کمک کند.

در نهایت، این آزمایش نشان می‌دهد که هوش مصنوعی هنوز مسیر طولانی‌ای پیش روی خود دارد تا بتواند به‌طور کامل به‌سؤالات حساس پاسخ دهد و از خطرات احتمالی جلوگیری کند.