گزارش‌ KPMG درباره هوش مصنوعی پس از مواجهه با «توهمات» حذف شد

گزارش KPMG پس از کشف توهمات در هوش مصنوعی متوقف شد

شرکت مشاوره‌ی بزرگ KPMG به‌دلیل بروز مشکلات جدی در داده‌های هوش مصنوعی، تصمیم به عقب‌نشینی از انتشار گزارشی که به بررسی نحوه استفاده از هوش مصنوعی در صنایع مختلف می‌پرداخت، گرفت. این اقدام پس از آن بود که تیم فنی شرکت، توهمات (hallucinations) واضحی را در خروجی‌های مدل‌های زبانی تشخیص داد؛ یعنی اطلاعات نادرست یا بی‌اساس که به‌صورت قطعی ارائه می‌شدند.

چرا توهمات در هوش مصنوعی به‌عنوان تهدیدی جدی شناخته می‌شوند؟

توهمات در مدل‌های زبانی به‌معنی تولید پاسخ‌های نادرست، گاهی حتی با جزئیات دقیق اما فاقد واقعیت است. این پدیده می‌تواند در تصمیم‌گیری‌های استراتژیک، به‌ویژه در حوزه‌های حساس مانند مالی، بهداشت و فناوری، خسارات جدی به‌بار آورد. در مورد KPMG، گزارش موردنظر می‌خواست تأثیر هوش مصنوعی بر فرآیندهای تجاری، به‌ویژه در شرکت‌های فناوری‌پیشه‌ای مانند اپل، گوگل، سامسونگ، مایکروسافت، اندروید و آیفون را تحلیل کند؛ اما وجود توهمات باعث شد نتایج مورداعتماد قرار نگیرند.

واکنش KPMG و برنامه‌های آینده

در بیانیه‌ای رسمی، KPMG اعلام کرد که برای رفع این مشکل، تیم تحقیق و توسعه خود را تقویت خواهد کرد و فرآیندهای ارزیابی صحت خروجی‌های هوش مصنوعی را بازنگری می‌کند. شرکت همچنین تأکید کرد که هدف نهایی، ارائه گزارش‌های دقیق و قابل اعتماد به مشتریان است و برای این منظور، از روش‌های ترکیبی شامل بازبینی انسانی و ابزارهای پیشرفته تشخیص خطا بهره خواهد برد.

پیامدهای این اتفاق برای صنعت فناوری

حذف این گزارش توسط KPMG، هشداری به تمام شرکت‌ها و مشاوران است که به‌سرعت در حال استفاده از هوش مصنوعی برای تجزیه و تحلیل داده‌ها هستند. شرکت‌های بزرگی مانند اپل، گوگل، سامسونگ و مایکروسافت باید به‌دقت به صحت نتایج حاصل از مدل‌های زبانی توجه کنند و فرایندهای نظارتی داخلی را تقویت نمایند. همچنین، این رویداد نشان می‌دهد که هرچند هوش مصنوعی می‌تواند ابزار قدرتمندی در شناسایی روندها و بهینه‌سازی فرآیندها باشد، اما جایگزین کامل قضاوت انسانی نیست.

نگاه به آینده: هوش مصنوعی با چه چالش‌هایی روبه‌روست؟

اگرچه پیشرفت‌های اخیر در زمینه یادگیری عمیق و مدل‌های زبانی مانند ChatGPT به‌سرعت در حال گسترش است، اما مسأله توهمات همچنان یکی از بزرگ‌ترین چالش‌های فنی محسوب می‌شود. پژوهشگران در حال کار بر روی الگوریتم‌های تشخیص خودکار خطا و بهبود قابلیت توضیح‌پذیری (explainability) هستند تا بتوانند به‌صورت مستمر کیفیت خروجی‌ها را ارزیابی کنند. تا زمانی که این راهکارها به‌صورت کامل پیاده‌سازی نشوند، گزارش‌های حساس و تصمیم‌گیری‌های کلان همچنان نیازمند نظارت انسانی خواهند بود.

**نتیجه‌گیری:** حذف گزارش KPMG نشان می‌دهد که حتی در عصر پیشرفت‌های چشمگیر هوش مصنوعی، اعتماد به داده‌های خودکار بدون بررسی دقیق، می‌تواند منجر به اشتباهات جدی شود؛ بنابراین ترکیب هوش مصنوعی با نظارت انسان، کلید موفقیت در بهره‌برداری مؤثر از این فناوری است.