دولت‌ها باید هوش مصنوعی را همانند هوانوردی تنظیم کنند؛ خطر ابزارهای غیرقابل کنترل را مهار کنیم

دولت‌ها باید همانند نهادهای هوانوردی، هوش مصنوعی را تنظیم کنند

دریا‌وارهای هوش مصنوعی امروز به سرعت در حال گسترش‌اند و این رشد سریع می‌تواند خطرات جدی به‌همراه داشته باشد. در مصاحبه‌ای که امروز با رسانه‌های بین‌المللی داشت، داریو آمودی، مدیرعامل آنتروپیک، به‌صراحت گفت که اگر دولت‌ها چارچوب قانونی محکمی برای این فناوری‌ها نگذارند، امکان تبدیل آن‌ها به «سلاح»‌های دیجیتال بسیار بالا است. آمودی نمونه هوانوردی را به‌عنوان الگوی موفق می‌آورد؛ در این حوزه قوانین ایمنی، گواهینامه‌های پروازی و بازرسی‌های دوره‌ای به‌صورت دقیق اجرا می‌شود. او معتقد است که باید برای مدل‌های زبانی بزرگ، ابزارهای تولید تصویر و سایر برنامه‌های هوش مصنوعی نیز ساختارهای نظارتی مشابهی ایجاد شود تا انتشار نسخه‌های خطرناک و بدون کنترل به‌حداقل برسد.

همکاری شرکت‌های بزرگ کافی نیست؛ نیاز به چارچوب‌های قانونی واضح است

اگرچه شرکت‌های فناوری‌پیشه‌دار همچون مایکرروسافت، گوگل و اپل در حال همکاری با مقامات نظارتی برای تدوین قوانین هستند، اما آمودی می‌گوید این تلاش‌ها به‌تنهایی کافی نیست. او بر این نکته تأکید می‌کند که علاوه بر مشارکت بخش خصوصی، باید استانداردهای فنی مشخص، گواهینامه‌های ایمنی برای هر محصول هوش مصنوعی و سامانه‌های نظارتی مستقل ایجاد شود. این سامانه‌ها می‌توانند به‌صورت دوره‌ای عملکرد مدل‌ها را ارزیابی کرده و در صورت شناسایی خطرات، انتشار آن‌ها را مسدود کنند.

جزئیات فنی و اقتصادی آنتروپیک

آنتروپیک در سال ۲۰۲۳ بیش از ۲ میلیارد دلار سرمایه جذب کرد و به‌سرعت در حال گسترش مدل‌های زبانی خود است. این سرمایه‌گذاری عظیم نشان‌دهنده علاقه سرمایه‌گذاران به فناوری‌های پیشرفته هوش مصنوعی است، اما هزینه‌های تحقیق و توسعه این مدل‌ها نیز به‌مراتب بالا است. آمودی اشاره کرد که بدون چارچوب‌های نظارتی مناسب، این هزینه‌ها می‌توانند به‌سرعت به هزینه‌های اجتماعی تبدیل شوند؛ به‌عنوان مثال، انتشار یک مدل خطرناک می‌تواند باعث گسترش اطلاعات غلط، نفوذ در سیستم‌های حساس و حتی تهدید به امنیت ملی شود.

چه اقداماتی می‌تواند از سوی دولت‌ها اتخاذ شود؟

آمودی پیشنهاد می‌کند که دولت‌ها ابتدا باید یک نهاد مستقل برای نظارت بر هوش مصنوعی ایجاد کنند؛ این نهاد می‌تواند مشابه سازمان هوانوردی کشوری، مجوزهای انتشار را بررسی و به‌صورت دوره‌ای بازرسی‌های فنی انجام دهد. سپس، باید استانداردهای ایمنی برای هر نوع هوش مصنوعی – از مدل‌های زبانی تا ابزارهای تولید تصویر – تعریف شود و شرکت‌ها ملزم به دریافت گواهینامه پیش از عرضه در بازار شوند. در نهایت، ایجاد یک سامانه گزارش‌گیری برای کشف سریع سوءاستفاده‌ها و اعمال جریمه‌های سنگین برای تخلف، می‌تواند از بروز خطرات جدی جلوگیری کند.

نتیجه‌گیری: اگر دولت‌ها به‌سرعت چارچوب‌های قانونی شبیه به قوانین هوانوردی را برای هوش مصنوعی وضع نکنند، ابزارهای قدرتمند این فناوری ممکن است به‌سرعت به تهدیدی جدی برای امنیت و جامعه تبدیل شوند.