آنتروپیک مدل Claude Fable 5 را به‌دلیل دستور دولتی می‌برد

---

وقتی خبر قطع یک مدل هوش مصنوعی بزرگ می‌رسد، همه سرسخت می‌پرسند: چرا همین الآن؟ شرکت آنتروپیک (Anthropic) امروز در وبلاگ‌اش اعلام کرد که **Claude Fable 5** دیگر در دسترس نخواهد بود. این تصمیم براساس دستور مستقیم دولت ایالات متحده است که معتقد است روش‌های «جیل‌بریک» خطرناکی برای این مدل کشف شده‌اند.

آنتروپیک مدل Claude Fable 5 را خاموش می‌کند

آنتروپیک در بیانیه‌اش گفت: «دولت اعلام کرد به یک روش برای عبور از محدودیت‌های Fable 5 دست یافته است». به‌عبارت دیگر، افراد توانسته‌اند رفتارهای محدود کننده مدل را دور بزنند و خروجی‌های نامناسب یا خطرناکی بگیرند. به‌دلیل این تهدید امنیتی، شرکت تصمیم گرفت سرویس را موقتاً متوقف کند تا راه‌حل‌های مقابله‌ای پیاده‌سازی شود.

این اقدام در حالی رخ می‌دهد که هوش مصنوعی‌های مولد، از جمله مدل‌های مشابه ChatGPT یا Gemini، به‌سرعت در ابزارهای روزمره مثل ایمیل، برنامه‌نویسی، تولید محتوا و حتی بازی‌های ویدئویی ادغام می‌شوند. بنابراین هر گونه ضعف امنیتی می‌تواند به‌سرعت گسترش یابد.

جزئیات فنی و قانونی

جیل‌بریک به‌معنی دسترسی به بخش‌های داخلی مدل است که توسط سازندگان برای جلوگیری از تولید محتوای مضر یا نادرست مسدود شده‌اند. در مورد Fable 5، گزارش‌ها نشان می‌دهد که برخی پژوهشگران توانسته‌اند با ترکیبی از پرامپت‌های خاص و تکنیک‌های «پرامپت انجکشن»، فیلترهای امنیتی را غیرفعال کنند.

دولت آمریکا به‌تازگی یک «دستور اضطراری» صادر کرد که شرکت‌های هوش مصنوعی را ملزم می‌کند تا هر گونه آسیب‌پذیری شناخته‌شده را به‌سرعت رفع کنند. این دستور بر پایه قوانین موجود دربارهٔ فناوری‌های پیشرفته و امنیت ملی استوار است. به‌علاوه، برخی از نمایندگان کنگره پیش از این دربارهٔ خطرات جیل‌بریک در جلسات شنوایی هشدار داده بودند.

آنتروپیک برای رفع مشکل، قول داده است که «به‌روزرسانی‌های امنیتی جدیدی» به مدل اضافه کند و پس از آزمون‌های سخت‌گیرانه، سرویس را دوباره فعال کند. در عین حال، شرکت تأکید کرد که کاربران فعلی به‌روزرسانی‌های رایگان دریافت خواهند کرد.

چه‌طور بر کاربران ایرانی تأثیر می‌گذارد؟

اگر شما در ایران از سرویس‌های هوش مصنوعی برای نوشتن مقاله، ترجمه یا برنامه‌نویسی استفاده می‌کنید، احتمالاً قبلاً با Claude Fable 5 آشنا بوده‌اید. قطع موقت این مدل می‌تواند باعث شود برخی از کارهای روزانه‌تان دچار تاخیر شود یا مجبور شوید به جای آن به گزینه‌های دیگر مثل ChatGPT یا Gemini روی آورید.

از طرفی، این اتفاق نشان می‌دهد که حتی سرویس‌های بین‌المللی هم می‌توانند تحت فشار قوانین ایالات متحده قرار بگیرند. برای کاربران ایرانی که به دنبال ابزارهای مستقل و بدون وابستگی به سیاست‌های خارجی هستند، شاید زمان مناسبی باشد تا به‌دنبال سرویس‌های محلی یا متن‌باز بگردند.

نتیجه‌گیری

آنتروپیک با خاموش کردن Claude Fable 5 نشان داد که امنیت هوش مصنوعی هنوز یک چالش جدی است. آیا این تصمیم می‌تواند الگویی برای دیگر شرکت‌های فناوری باشد تا پیش‌نویس‌های امنیتی قوی‌تری ارائه دهند؟ و چه زمانی می‌توانیم دوباره از این مدل استفاده کنیم؟ نظرتان چیست؟