مدیرعامل آنتروپیک: مخالف مدل‌های هوش مصنوعی «متن‌باز» نیستم، اما نگران چینم

داریو آمودی، بنیان‌گذار و مدیرعامل آنتروپیک (Anthropic)، روز دوشنبه به شایعات اخیر در مورد موضع شرکتش درباره مدل‌های هوش مصنوعی "متن‌باز" (open-weight) واکنش نشان داد. برخی گمانه‌زنی‌ها حاکی از آن بود که آنتروپیک از تلاش‌های دولت آمریکا برای ممنوعیت مدل‌های متن‌باز چینی، یا حتی همه مدل‌های متن‌باز، حمایت می‌کند.

آمودی در پاسخ به این شایعات، با تأکید نوشت: «هر کس که نوشته‌های قبلی مرا خوانده باشد، می‌داند که من چنین ممنوعیت‌هایی را اقدامی مفید نمی‌دانم. اما برای رفع هرگونه تردید، صراحتاً اعلام می‌کنم: آنتروپیک هرگز از ممنوعیت مدل‌های متن‌باز حمایت نکرده است.»

جنجال مدل‌های متن‌باز و نامه سرگشاده انویدیا

این اظهارات آمودی پس از آن منتشر شد که جنسن هوانگ، بنیان‌گذار و مدیرعامل انویدیا (Nvidia)، روز جمعه برای اولین بار در X پستی منتشر کرد. او در این پست، نامه‌ای سرگشاده را به اشتراک گذاشت که توسط انویدیا و فهرست بلندبالایی از شرکت‌های هوش مصنوعی دیگر، از جمله Hugging Face، متا (Meta)، مایکروسافت (Microsoft) و Mistral، امضا شده بود. این نامه از سیاست‌گذاران می‌خواست تا از اعمال "محدودیت‌های نارس" گسترده بر مدل‌های هوش مصنوعی متن‌باز خودداری کنند.

اگرچه در آن نامه به طور خاص به چین اشاره‌ای نشده بود، اما بحث‌های صنعت حول محور این ادعا متمرکز بود که آزمایشگاه‌های هوش مصنوعی چینی اغلب با سرقت مالکیت فکری از همتایان آمریکایی خود، در حال افزایش قابلیت‌هایشان هستند. یکی از روش‌های مورد اشاره، "تقطیر" (distillation) است که در آن یک هوش مصنوعی با بمباران مدل دیگری با درخواست‌ها، نحوه عملکرد آن را می‌آموزد.

نگرانی‌های آمودی: نه از مدل‌های متن‌باز، بلکه از دولت‌های اقتدارگرا

آمودی در پست وبلاگ خود که روز دوشنبه منتشر شد، اظهار داشت که مدل‌های متن‌باز را در دسته‌ای متفاوت از تهدید چین قرار می‌دهد. او گفت: «مدل‌های متن‌باز که قابلیت‌های خطرناکی ندارند، یک کالای عمومی محسوب می‌شوند: آن‌ها به جز هزینه محاسبات لازم برای اجرا، هیچ هزینه‌ای ندارند و برای کسب‌وکارها، توسعه‌دهندگان و محققان ارزش ایجاد می‌کنند.»

آمودی در پست خود اذعان کرد که مدت‌هاست از هوش مصنوعی ترس‌هایی دارد، اما کسب‌وکارهایی که از مدل‌های متن‌باز، حتی مدل‌های چینی، استفاده می‌کنند، جزو این نگرانی‌ها نیستند. ترس اصلی او این است که "دولت‌های اقتدارگرا" مدل‌هایی قدرتمندتر از مدل‌های موجود در آمریکا بسازند تا به "برتری نظامی دائمی" دست یابند و یا از هوش مصنوعی برای سرکوب مردم خود استفاده کنند. او افزود که حزب کمونیست چین (CCP) تنها دولت اقتدارگرایی نیست که نگران آن است، اما "توانمندترین" آن‌هاست.

آمودی همچنین ابراز نگرانی کرد که هوش مصنوعی نه تنها حملات سایبری، بلکه "حملات بیولوژیکی" را نیز ممکن می‌سازد. به عقیده او، مدل‌های متن‌باز در این سناریوها خطرناک‌ترند، زیرا اعمال محافظت‌ها (guardrails) یا نظارت بر استفاده از آن‌ها دشوار است. او همچنین با استناد به گزارشی از موسسه امنیت هوش مصنوعی بریتانیا، اشاره کرد که مدل‌های متن‌باز پس از انتشار، قابل بازپس‌گیری نیستند. این دیدگاه با استدلال حامیان متن‌باز که دسترسی به مدل‌های قدرتمند و غیرمتمرکز را به نفع مدافعان می‌دانند، در تضاد است.

راهکارهای پیشنهادی برای مقابله با تهدید چین

آمودی اقداماتی را برای مقابله با تهدید چین پیشنهاد کرد، از جمله محدود کردن دسترسی این کشور به تراشه‌های قدرتمند (که از دیرباز سیاست آمریکا بوده است) و درخواست برای مقابله جدی‌تر با "تقطیر". آمریکا تهدید کرده است که در صورت تأیید سرقت مالکیت فکری مدل‌های آمریکایی توسط چین، تحریم‌هایی را علیه این کشور اعمال خواهد کرد.

نکته جالب توجه اینجاست که آمودی از تلاش‌های فزاینده، که برخی از آن‌ها توسط آمریکا رهبری می‌شوند، برای ایجاد یک سازمان تست ایمنی مدل‌ها نیز حمایت کرد، به ویژه اگر تمام جهان، از جمله چین، با آن موافقت کنند.

او نوشت: «من فکر می‌کنم این ایده تقریباً به یک اجماع تبدیل شده است: از اینکه دولت ترامپ در ماه‌های اخیر در این مسیر حرکت کرده و همچنین از پیشنهادهای اخیر صنعت که چنین آزمون‌هایی را برای قدرتمندترین مدل‌ها، بدون توجه به کشور مبدأ یا متن‌باز یا متن‌بسته بودن آن‌ها (در حالی که مدل‌های کم‌توان‌تر، مانند مدل‌های استارتاپ‌ها و دانشگاه‌ها، به طور کامل معاف می‌شوند)، اعمال می‌کند، دلگرم شده‌ام.»

آمودی افزود: «توجه داشته باشید که برای مؤثر بودن، تست باید جهانی باشد، به این معنی که حتی حزب کمونیست چین نیز باید همکاری کند. من فکر می‌کنم این ممکن است... همکاری محدود در زمینه جلوگیری از تسلیحات بیولوژیکی هوش مصنوعی ممکن است، زیرا این به نفع چین نیز هست.»

تحلیل: معنای این تحولات برای کاربران فارسی‌زبان

اظهارات مدیرعامل آنتروپیک، یکی از شرکت‌های پیشرو در زمینه هوش مصنوعی، نشان‌دهنده پیچیدگی و چندوجهی بودن نگرانی‌های موجود در این حوزه است. از یک سو، او مانند بسیاری از فعالان فناوری، ارزش مدل‌های متن‌باز را برای نوآوری و دسترسی عمومی به فناوری به رسمیت می‌شناسد. از سوی دیگر، ترس او از سوءاستفاده دولت‌های اقتدارگرا، به ویژه چین، از هوش مصنوعی برای اهداف نظامی یا سرکوب داخلی، یک زنگ خطر جدی برای جامعه جهانی است. پیشنهاد او برای همکاری جهانی در زمینه تست ایمنی هوش مصنوعی، حتی با مشارکت چین، نشان از درک این واقعیت دارد که تهدیدات هوش مصنوعی مرز نمی‌شناسند و نیازمند راهکارهای بین‌المللی هستند. برای کاربران فارسی‌زبان، این بحث‌ها اهمیت زیادی دارد زیرا نشان می‌دهد که چگونه توسعه هوش مصنوعی می‌تواند بر مسائل ژئوپلیتیک، امنیت ملی و آزادی‌های فردی در سرتاسر جهان، از جمله منطقه ما، تأثیر بگذارد و تأکید می‌کند که جامعه جهانی باید به دنبال راهکارهایی برای بهره‌برداری از پتانسیل‌های مثبت این فناوری و در عین حال مهار خطرات آن باشد.