پرونده تاریک Grok: از تولید تصاویر تا خودکشی

شکایت دختران جوان از پلتفرم X به دلیل سهل‌انگاری در نظارت بر هوش مصنوعی

در اتفاقی تکان‌دهنده که بار دیگر پرونده نظارت بر ابزارهای هوش مصنوعی را به مرکز توجهات برده است، گروهی از دختران جوان علیه پلتفرم X به دادگاه شکایت کرده‌اند. آن‌ها مدیران این شبکه اجتماعی را متهم می‌کنند که با فراهم کردن بستر فعالیت بدون مانع برای ربات گفتگو محور Grok، عملاً راه را برای سوءاستفاده‌کنندگان جنسی از کودکان هموار کرده‌اند. این شکایت در حالی ثبت شده که جزئیات یکی از پرونده‌های مرتبط با آن، بسیاری از کارشناسان حوزه فناوری و حقوق کودک را شوکه کرده است.

جزئیات پرونده‌ای که خط قرمزهای اخلاقی را در هم شکست

طبق اسناد قضایی که به تازگی افشا شده، مردی با استفاده از قابلیت‌های پیشرفته و متاسفانه نامحصور شده در مدل زبانی Grok توانسته است بیش از هفت هزار تصویر ساختگی اما بسیار واقع‌گرایانه با محتوای سوءاستفاده جنسی از دخترخوانده نوجوان خود تولید کند. این تصاویر که با بهره‌گیری از الگوریتم‌های پیچیده ساخته شده بودند، نشان‌دهنده یکی از تاریک‌ترین کاربردهای ممکن از تکنولوژی‌های نوین است. پس از افشای این اقدام وحشتناک، مرد مذکور اقدام به خودکشی کرد تا پرونده‌ای دیگر از پیامدهای ویرانگر نبودِ سازوکار کنترلی در پلتفرم‌های دیجیتال بسته شود.

اتهامات سنگین علیه شبکه X و سکوت مدیریت

شاکیان در متن دادخواست خود تاکید کرده‌اند که شرکت X به ریاست ایلان ماسک، نه تنها اقدامات پیشگیرانه لازم را برای جلوگیری از تولید چنین محتوایی انجام نداده، بلکه با اتخاذ سیاست‌های آزادی بی‌قید و شرط بیان، به نوعی پوشش حمایتی برای شکارچیان کودکان فراهم آورده است. آن‌ها معتقدند اگر سیستم‌های احراز هویت و فیلترینگ محتوای مبتنی بر هوش مصنوعی در این پلتفرم مانند استانداردهایی که در شرکت‌هایی نظیر مایکروسافت یا گوگل اجرا می‌شود، اعمال می‌شد، چنین فاجعه‌ای رخ نمی‌داد.

چالش بزرگ غول‌های تکنولوژی در عصر هوش مص