مدیرعامل آنتروپیک: دولت باید جلوی گسترش هوش‌مصنوعی خطرناک را بگیرد

---

در دنیای امروز، هر روز ابزارهای هوش‌مصنوعی جدیدی به بازار می‌آیند. دیروز، داریو آمودی، بنیان‌گذار «آنتروپیک»، اعلام کرد که دولت‌ها باید بتوانند جلوی انتشار مدل‌های خطرناک را بگیرند. این حرف‌ها در حالی مطرح شد که رقبا مثل «OpenAI» و «DeepMind» به سرعت در حال گسترش هستند و نگرانی‌ها درباره سوءاستفاده‌ها در حال افزایش است.

تنظیم‌گری هوش‌مصنوعی باید مثل هوانوردی باشد

آمودی می‌گوید تنظیم‌گری در بازار هوش‌مصنوعی باید به مثابه قوانین هوانوردی باشد: پیش‌نیاز، شفافیت و نظارت مستمر. همان‌طور که هر پروازی قبل از پرواز باید توسط نهادهای معتبر تأیید شود، مدل‌های بزرگ زبانی (LLM) هم باید تحت چارچوبی قانونی قرار بگیرند. او افزود که بدون این چارچوب، خطر انتشار ابزارهای مخرب، تولید اخبار جعلی یا حتی ساخت اسلحه‌های هوشمند افزایش می‌یابد.

در همین حال، مقامات آمریکایی و اروپایی به‌سرعت به تدوین قوانین می‌پردازند. اتحادیه اروپا در طرح «AI Act» به‌طور جزئی به مساله‌ی ریسک‌های بالا پرداخته و سطوح دسترسی به فناوری‌های پیشرفته را محدود می‌کند. این روند نشان می‌دهد که دولت‌ها دیگر نمی‌توانند بی‌تفاوت بمانند.

جزئیات فنی و اقتصادی

آنتروپیک اخیراً مدل «Claude 3» را معرفی کرد که توانایی پردازش متنی بسیار پیشرفته‌ای دارد. این مدل با استفاده از ۱۰۰ میلیارد پارامتر و ۲۲ پلن پردازشی GPU (نقش‌گرهای گرافیکی انویدیا) ساخته شده است. هزینهٔ توسعه چنین مدلی به حدود ۲ میلیارد دلار می‌رسد؛ عددی که تنها شرکت‌های بزرگ می‌توانند تحمل کنند.

اما خطر اصلی نه در هزینه‌ها، بلکه در دسترسی غیرمجاز به این فناوری است. آمودی اشاره کرد که برخی از گروه‌های هکری می‌توانند از مدل‌های پیشرفته برای تولید محتوای مخرب یا نفوذ به سیستم‌های حساس استفاده کنند. به همین دلیل، او خواستار ایجاد «مجوزهای خروج» (exit licenses) برای توسعه‌دهندگان است تا بتوانند در صورت شناسایی خطر، انتشار را مسدود کنند.

چه معنی برای کاربران ایرانی دارد؟

برای ما ایرانی‌ها، این موضوع دو جنبه دارد. از یک سو، دسترسی به ابزارهای پیشرفته مثل «Claude» می‌تواند کیفیت خدمات محلی را ارتقا بدهد؛ مثلاً در بهبود ترجمهٔ متون، تحلیل داده‌های بزرگ یا تولید محتوا برای پلتفرم‌هایی مثل تلگرام و اینستاگرام. از سوی دیگر، اگر قوانین نظارتی مناسب ایجاد نشود، ممکن است این ابزارها برای انتشار اخبار جعلی یا نفوذ به زیرساخت‌های حساس مورد سوءاستفاده قرار گیرند.

در حال حاضر، شرکت‌های ایرانی که از هوش‌مصنوعی برای بهینه‌سازی کسب‌وکارهای خود استفاده می‌کنند، بیشتر به سرویس‌های «Google Cloud» یا «Microsoft Azure» وابسته‌اند. با اعمال محدودیت‌های جدید، این سرویس‌ها ممکن است دسترسی به مدل‌های پیشرفته را محدود کنند و ما را مجبور به استفاده از راه‌حل‌های بومی یا متن‌باز کنند.

نتیجه‌گیری

به‌نظر می‌رسد که آینده هوش‌مصنوعی به‌صورت جدی به چارچوب‌های قانونی وابسته خواهد شد. اگر دولت‌ها بتوانند همانند هوانوردی، نظارت مستمر و شفافیت را تضمین کنند، می‌توانیم از مزایای این فناوری بهره‌برداری کنیم بدون اینکه به خطرات جدی برخورد کنیم. سؤال اصلی این است: آیا ایران می‌تواند به‌سرعت قوانین لازم را تدوین کند تا از عقب‌ماندگی در این حوزه جلوگیری کند؟