هوش مصنوعی روی خودِ گوشی؛ چرا پردازش محلی دارد جای ابر را می‌گیرد

تا همین چند سال پیش، تقریباً هر کاری که «هوشمند» به نظر می‌رسید در واقع روی سرورهای یک شرکت بزرگ انجام می‌شد. شما یک جمله به دستیار صوتی می‌گفتید، صدا به دیتاسنتر می‌رفت، آنجا تبدیل به متن می‌شد، پاسخ ساخته می‌شد و دوباره به گوشی برمی‌گشت. امروز بخش بزرگی از همین زنجیره روی خودِ دستگاه اجرا می‌شود و این تغییر، بیش از آنکه یک جزئیات فنی باشد، تجربه‌ی روزمره‌ی کاربر را عوض کرده است.

چرا این تغییر اتفاق افتاد

سه فشار هم‌زمان این مسیر را ساخت. اول هزینه: اجرای مدل‌های بزرگ روی سرور برای صدها میلیون کاربر گران تمام می‌شود و هر درخواست، پول و انرژی می‌برد. دوم تأخیر: رفت‌وبرگشت تا دیتاسنتر حتی در بهترین حالت چند صد میلی‌ثانیه طول می‌کشد و برای کارهایی مثل ترجمه‌ی هم‌زمان یا تشخیص متن از دوربین، همین تأخیر آزاردهنده است. سوم فشار قانونی و انتظار کاربران درباره‌ی حریم خصوصی، که ارسال مداوم صدا و تصویر به سرور را پرهزینه‌تر کرد.

چه چیزی روی گوشی ممکن شد

پردازنده‌های موبایل چند سالی است بخش جداگانه‌ای برای کارهای یادگیری ماشین دارند. این واحد، عملیات ضرب ماتریسی را با مصرف انرژی بسیار کمتری نسبت به پردازنده‌ی اصلی انجام می‌دهد. در کنار آن، تکنیک‌هایی مثل کوانتیزه‌کردن مدل، حجم مدل را چند برابر کم می‌کند بدون آنکه کیفیت خروجی به‌طور محسوس افت کند. نتیجه این است که کارهایی مثل تشخیص گفتار، ترجمه‌ی آفلاین، حذف نویز تصویر، جداسازی سوژه از پس‌زمینه و خلاصه‌سازی متن کوتاه، همگی روی یک گوشی معمولی قابل اجرا شده‌اند.

مزیت‌های ملموس برای کاربر

سرعت اولین چیزی است که حس می‌شود. وقتی ترجمه یا تشخیص متن نیازی به اینترنت ندارد، پاسخ تقریباً بی‌درنگ است. دوم، کارکرد آفلاین: در سفر، در مترو یا هر جایی که آنتن ضعیف است، قابلیت‌ها از کار نمی‌افتند. سوم، حریم خصوصی: وقتی صدا یا تصویر از گوشی خارج نمی‌شود، نگرانی درباره‌ی نگهداری آن روی سرورِ کسی وجود ندارد. و چهارم، مصرف داده: پردازش محلی ترافیک اینترنت مصرف نمی‌کند.

محدودیت‌هایی که هنوز هست

پردازش محلی همه‌چیز را حل نمی‌کند. مدل‌هایی که روی گوشی جا می‌شوند به‌مراتب کوچک‌تر از نسخه‌های ابری هستند و در کارهای پیچیده، استدلال طولانی یا دانش به‌روز، هنوز عقب‌ترند. باتری هم محدودیت واقعی است: اجرای مداوم مدل روی دستگاه گرم‌کننده و انرژی‌بر است. به همین دلیل بیشتر شرکت‌ها به سراغ مدل ترکیبی رفته‌اند؛ کارهای سبک و حساس روی گوشی، کارهای سنگین روی سرور.

این برای شما چه معنایی دارد

هنگام خرید گوشی، به‌جای تمرکز صرف بر تعداد هسته‌ها یا مگاپیکسل دوربین، به مقدار رم و نسل پردازنده توجه کنید؛ این دو بیشترین تأثیر را بر اجرای قابلیت‌های هوشمند روی دستگاه دارند. همچنین در تنظیمات گوشی بررسی کنید کدام قابلیت‌ها گزینه‌ی «پردازش روی دستگاه» یا «دانلود مدل آفلاین» دارند. فعال کردن همین گزینه‌ها معمولاً هم سریع‌تر است و هم داده‌ی کمتری از شما بیرون می‌فرستد.