پدرخوانده از چه می‌ترسد؟‌ / برای اولین بار با چیزی روبه‌رو می‌شویم که از ما باهوش‌تر است

به گزارش خبرآنلاین، جفری هینتون، دانشمندی که عنوان «پدرخوانده هوش مصنوعی» را یدک می‌کشد، بار دیگر هشدار داده است که بشر ممکن است در آینده نه‌چندان دور با موجوداتی روبه‌رو شود که از انسان‌ها باهوش‌تر هستند. هینتون بر این باور است که این احتمال دیگر یک سناریوی علمی‌تخیلی دور از ذهن نیست، بلکه موضوعی است که باید به طور جدی مورد توجه قرار گیرد.

گزارش Fortune نشان می‌دهد هینتون همچنان نسبت به سرعت پیشرفت هوش مصنوعی و پیامدهای آن نگران است. باید توجه داشت که هینتون صرفاً یک منتقد شکاک نیست. او یکی از بنیان‌گذاران فکری فناوری یادگیری عمیق (Deep Learning) است که در هسته بسیاری از مدل‌های هوش مصنوعی قرار دارد. دستاوردهای او در توسعه شبکه‌های عصبی مصنوعی نقش مهمی در ظهور ابزارهایی مانند چت‌بات‌های پیشرفته، سامانه‌های تولید تصویر و مدل‌های زبانی بزرگ داشته است.

به همین دلیل، هشدارهای او برای بسیاری از متخصصان اهمیت ویژه‌ای دارد. او سال‌ها برای توسعه این فناوری تلاش کرده و اکنون از نزدیک شاهد سرعت پیشرفت آن است.

چرا هینتون نگران است؟

به گفته هینتون، یکی از تفاوت‌های اساسی میان انسان و سیستم‌های هوش مصنوعی آینده این است که ماشین‌ها می‌توانند دانش و تجربه خود را بسیار سریع‌تر از انسان‌ها با یکدیگر به اشتراک بگذارند.

انسان‌ها برای انتقال دانش به آموزش، کتاب، دانشگاه و سال‌ها تجربه نیاز دارند. اما سیستم‌های هوش مصنوعی می‌توانند نسخه‌ای از دانش خود را تقریباً به صورت آنی در اختیار سامانه‌های مشابه قرار دهند.

هینتون معتقد است همین ویژگی می‌تواند باعث شود هوش مصنوعی با سرعتی رشد کند که در تاریخ تکامل موجودات زنده سابقه نداشته است.

یکی از بزرگ‌ترین نگرانی‌های هینتون مربوط به مسئله «کنترل» است. او بارها گفته است که اگر سیستم‌های آینده به سطحی از هوش برسند که بتوانند اهداف پیچیده خود را دنبال کنند، تضمینی وجود ندارد که همیشه منافع انسان را در اولویت قرار دهند.

هینتون توضیح داده که مشکل اصلی «شرور بودن» ماشین‌ها نیست. مسئله این است که یک موجود بسیار باهوش ممکن است اهدافی داشته باشد که با اهداف ما همسو نباشد.

او برای توضیح این نگرانی از یک مثال ساده استفاده می‌کند. همان‌طور که انسان‌ها معمولاً هنگام ساخت جاده یا ساختمان درباره خواسته‌های مورچه‌ها نظرخواهی نمی‌کنند، موجودی که به مراتب باهوش‌تر از انسان باشد نیز ممکن است به اولویت‌های ما اهمیت چندانی ندهد.

هینتون که از بنیان‌گذاران این فناوری است، از سرعت پیشرفت هوش مصنوعی شگفت‌زده شده است. چند سال پیش بسیاری از پژوهشگران تصور می‌کردند رسیدن به مدل‌های امروزی زمان بسیار بیشتری نیاز خواهد داشت. اما ظهور سامانه‌های مولد متن، تصویر، ویدئو و کدنویسی نشان داد پیشرفت‌ها سریع‌تر از بسیاری از پیش‌بینی‌ها رخ می‌دهند.

این مسئله باعث شده برخی متخصصان معتقد باشند فاصله میان هوش مصنوعی امروزی و سامانه‌های بسیار پیشرفته آینده ممکن است کوتاه‌تر از چیزی باشد که قبلاً تصور می‌شد.

هینتون بیش از حد بدبین است؟

دیدگاه هینتون با اجماع کامل جامعه علمی همراه نیست. برخی پژوهشگران معتقدند هنوز فاصله بسیار زیادی میان مدل‌های فعلی و چیزی که بتوان آن را «هوش مصنوعی کامل» یا AGI نامید وجود دارد. از نگاه این گروه، بسیاری از هشدارهای آخرالزمانی درباره هوش مصنوعی بیش از حد اغراق‌آمیز هستند.

با این حال حتی بسیاری از منتقدان نیز قبول دارند که سرعت رشد این فناوری بی‌سابقه است و نیاز به نظارت و چارچوب‌های ایمنی جدی دارد.

در دنیای فناوری، هشدارهای مربوط به هوش مصنوعی اغلب از سوی سیاستمداران، فعالان اجتماعی یا تحلیلگران مطرح می‌شود. اما هینتون در موقعیت متفاوتی قرار دارد. او یکی از دانشمندانی است که پایه‌های علمی فناوری امروز را بنا گذاشته‌اند. به همین دلیل وقتی از احتمال ظهور موجوداتی باهوش‌تر از انسان صحبت می‌کند، بسیاری این سخنان را نه به عنوان تبلیغات یا هیجان رسانه‌ای، بلکه به عنوان هشداری از درون جامعه علمی تلقی می‌کنند.

در نهایت پیش‌بینی دقیق آینده هوش مصنوعی تقریباً غیرممکن است. همان‌طور که بسیاری از کارشناسان در گذشته نتوانستند ظهور مدل‌های امروزی را پیش‌بینی کنند، ممکن است درباره مسیر سال‌های آینده نیز اشتباه کنیم.

اما اگر هشدارهای جفری هینتون درست باشد، پرسش اصلی دیگر این نیست که آیا هوش مصنوعی از انسان باهوش‌تر خواهد شد یا نه بلکه این است که وقتی آن روز فرا برسد، انسان‌ها تا چه اندازه برای آن آماده خواهند بود.

۵۸۵۸