اوپن‌ای‌آی توسعه مدل Astra را به‌دلیل خطر امنیتی کند کرد

اوپن‌ای‌آی (OpenAI) در بیانیه‌ای تازه اعلام کرد روند توسعه‌ی مدل جدید هوش مصنوعی خود با نام رمز Astra را عمداً کند کرده است. طبق ارزیابی‌های داخلی این شرکت، Astra در زمینه‌ی کدنویسی خودمختار (agentic coding) و توانایی‌های امنیت سایبری پیشرفت‌های چشمگیری داشته، آن‌قدر که از مرزهای تعریف‌شده در چارچوب ایمنی داخلی اوپن‌ای‌آی عبور کرده است.

رسیدن به «آستانه بحرانی امنیت سایبری»

بر اساس سندی که اوپن‌ای‌آی در سال ۲۰۲۳ با عنوان «چارچوب آمادگی» (Preparedness Framework) منتشر کرده بود، مدلی به این آستانه می‌رسد که بتواند بدون دخالت انسان، آسیب‌پذیری‌های روز صفر (zero-day) را در سامانه‌های واقعی و حساس شناسایی و از آن‌ها بهره‌برداری کند، یا صرفاً با دریافت یک هدف کلی، راهبردی کامل برای حمله‌ی سایبری به اهداف محافظت‌شده طراحی کند. شرکت می‌گوید Astra دقیقاً به همین سطح از توانمندی رسیده است.

با این حال، اوپن‌ای‌آی تأکید کرده Astra ارتباطی به نفوذ اخیر به زیرساخت Hugging Face نداشته و آن حادثه به تست‌های ایمنی مدلی کاملاً دیگر در محیط آزمایشی مربوط بوده است.

چرا این اعلام غیرعادی است

توقف یا کند کردن آشکار توسعه‌ی یک محصول، پیش از عرضه‌ی رسمی آن، در فضای رقابتی و پرشتاب آزمایشگاه‌های هوش مصنوعی کاری نادر است. اوپن‌ای‌آی دلیل انتشار عمومی این تصمیم را پایبندی به شفافیت در برابر افکار عمومی و جامعه‌ی پژوهشگران ایمنی هوش مصنوعی عنوان کرده است.

در واکنش به یافته‌های داخلی، این شرکت مجموعه‌ای از تدابیر امنیتی سخت‌گیرانه‌تر را برای مدل‌های با توانمندی بالا اجرا کرده، از جمله راه‌اندازی یک سامانه‌ی «نظارت سراسری» برای شناسایی رفتارهای پرخطر در تمام کاربردهای عامل‌محور (agentic) این مدل. اوپن‌ای‌آی همچنین گفته با نهادهای دولتی و سازمان‌های تخصصی ایمنی هوش مصنوعی وارد همکاری نزدیک شده تا ارزیابی و ایمن‌سازی Astra با دقت بیشتری پیش برود.

تحلیل

این اقدام اوپن‌ای‌آی، فارغ از این‌که واقعاً از سر احتیاط باشد یا نوعی مانور رسانه‌ای برای بزرگ‌نمایی توان فنی Astra، نشانه‌ی روشنی از ورود صنعت هوش مصنوعی به فازی است که «توانایی مدل» دیگر به‌تنهایی خبر نیست؛ نحوه‌ی مدیریت آن ریسک تبدیل به بخش اصلی داستان شده. برای کاربران عادی، این خبر یعنی نسل بعدی مدل‌های اوپن‌ای‌آی ممکن است دیرتر از حد انتظار عرضه شود، اما در عوض با محدودیت‌ها و نظارت‌های بیشتری همراه باشد؛ روندی که به‌احتمال زیاد سایر رقبا مثل گوگل و انتروپیک هم ناچار به دنبال‌کردنش خواهند بود.