تینا مزدکی_بر اساس بیانیهای که روز جمعه در وبسایت شرکت آنتروپیک (Anthropic) منتشر شد، این شرکت در پاسخ به حکم فوقالعاده محدودکننده دولت ایالات متحده، مجبور شد دسترسی به دو مورد از ارزشمندترین مدلهای هوش مصنوعی پیشرو خود را «به طور ناگهانی قطع کند». در این بیانیه آمده است: «ما معتقدیم که این اتفاق ناشی از یک سوءتفاهم است و در تلاشیم تا در اسرع وقت دسترسی به این مدلها را بازیابی کنیم.»
اقدام حکومتی مورد بحث، یک «دستورالعمل کنترل صادرات» است که بر اساس آن، اتباع خارجی (چه در داخل و چه در خارج از خاک ایالات متحده) اجازه استفاده از این مدلها را ندارند. این تصمیم انگیزه خود را از آنچه آنتروپیک «یک نگرانی نامشخص در حوزه امنیت ملی» مینامد، گرفته است.
اما واقعیت این است که دغدغههای امنیت ملی و سایر ترسهای مربوط به ایمنی و حفاظت، از همان ابتدا در مرکز توجه فرآیند عرضه این مدلها قرار داشت؛ موضوعی که نشان میدهد وقوع چنین رویدادی کاملاً قابل پیشبینی بود.
کمپین بزرگنمایی خطر و ایجاد وحشت
آنتروپیک در اوایل ماه آوریل، به جای عرضه عمومی مدل پیشنمایش خود یعنی Claude Mythos، فرآیند ساخت آن را به نوعی کمپین آگاهیبخشی درباره خطرات ظاهری و هولناک مدلهای هوش مصنوعی پیشرو تبدیل کرد.
این شرکت یک سند مشخصات سیستم (System Card) منتشر کرد و در آن توضیح داد که چرا این مدل به صورت عمومی عرضه نخواهد شد. در این سند به تواناییهای ترسناکی مانند «فریبکاری» و قابلیت فرار فرضی از محدودیتهای یک سیستم قرنطینه شده اشاره شده بود. این مدل همچنین به طرز نگرانکنندهای میتوانست در توسعه تسلیحات پیشرفته مفید واقع شود. به عنوان نمونه، در سند سیستم آمده بود که این هوش مصنوعی «قادر به ترکیب معنادار دادهها در حوزههای مختلف و مرتبط با توسعه تسلیحات بیولوژیکی فاجعهبار است.»
همزمان، این شرکت «پروژه گلسوینگ» (Project Glasswing) را راهاندازی کرد؛ برنامهای که در آن به گروه محدودی از شرکا و سازمانها اجازه داده شد تا این مدل را آزمایش کنند تا بفهمند چه وحشتهای جدیدی را میتواند به دنیای امنیت سایبری تحمیل کند. در پست وبلاگی آنتروپیک درباره این پروژه آمده بود: «ما پروژه گلسوینگ را به دلیل قابلیتهایی که در مدل پیشرو جدید خود مشاهده کردیم شکل دادیم؛ قابلیتهایی که معتقدیم میتوانند ساختار امنیت سایبری را بازتعریف کنند.»
وقتی پای رسانههای زرد و ترامپ به میان آمد
طولی نکشید که با وجود ماهیت تخصصی و فنی موضوع، مدل Mythos Preview به تیتر اول رسانههای زرد تبدیل شد. مقالهای در نیویورک پست با نقل قول از رومان یامپولسکی، دانشمند علوم کامپیوتر، پیشبینی کرد که با توجه به آنچه این مدل نوید میدهد، هوش مصنوعی به زودی میتواند «ابزارهای هک، تسلیحات بیولوژیکی، تسلیحات شیمیایی و تسلیحات نوظهوری را توسعه دهد که ما حتی قادر به تصور آنها نیستیم.» عبارت «تسلیحاتی که حتی قادر به تصورشان نیستیم» حتی به تیتر اصلی این روزنامه راه یافت.
مقامات دولت بریتانیا و رهبران بخش مالی بریتانیا نیز در واکنش به این خطر ادراکشده، برای تدوین یک برنامه اقدام اضطراری دست به کار شدند. به گزارش نیویورک تایمز، سیاست «عدم مداخله» دولت ترامپ در قبال هوش مصنوعی پس از اعلام خبر ساخت Mythos تغییر کرد و صرفِ وجود این فناوری، به تدوین یک فرمان اجرایی با تمرکز بر ایمنی هوش مصنوعی کمک کرد؛ فرمانی که دونالد ترامپ حدود یک هفته پیش آن را امضا کرد.
با این وجود، آنتروپیک هفته گذشته دو مدل Claude Fable ۵ و Mythos ۵ را روانه بازار کرد. این شرکت Fable ۵ را به عنوان «مدلی از کلاس Mythos که آن را برای استفاده عمومی ایمن کردهایم» توصیف کرد، اما افزود که قابلیتهای آن «از هر مدلی که تا به حال به صورت عمومی عرضه کردهایم فراتر میرود.» در همین حال، مدل Mythos ۵ به عنوان بخشی از پروژه گلسوینگ، به صورت بسیار محدود عرضه شد.
«براین مرچنت» در خبرنامه Blood in the Machine این وضعیت را اینگونه توصیف کرد: «استارتاپ هوش مصنوعی که اکنون رتبه اول کشور را دارد، پس از ایجاد یک موج خبری بزرگ در رسانههای فناوری با اعلام این مطلب در ماه آوریل که یک مدل هوش مصنوعی به نام Mythos ساخته که آنقدر قدرتمند و خطرناک است که کل نظم تمدن بشری را تهدید میکند—و اینکه با جدیت این محصول را از عموم مخفی نگه میدارد تا از ما محافظت کند—در نهایت تصمیم گرفت Mythos را برای فروش بگذارد.»
ضربه نهایی دولت و بهانهای به نام «جیلبریک»
تنها چند ساعت پس از اینکه مرچنت این کلمات را به رشته تحریر درآورد، دستورالعمل کنترل صادرات به آنتروپیک ابلاغ شد و دسترسی به Fable ۵ و Mythos ۵ به دلیل نگرانیهای آشکار امنیت ملی قطع گردید. به نظر میرسد به آنتروپیک فقط دستور داده شده بود که دسترسی کاربران غیرآمریکایی را لغو کند، اما کاملاً قابل درک است که چرا این شرکت از ترس سرپیچی از حکم، دسترسی کل کاربران جهان را قطع کرده است؛ چرا که در میان بسیاری از مسائل، افراد غیرآمریکایی حتی در خود شرکت آنتروپیک نیز کار میکنند و مسدود کردن کل سیستم تا زمان حل مشکل، راهکار سادهتری بوده است.
نکته جالب اینجاست که در بیانیه آنتروپیک اشاره شده که این شرکت با دولتهای آمریکا و بریتانیا و «چندین سازمان خصوصی شخص ثالث» برای ایجاد یک مجموعه از پادمانها و پروتکلهای امنیتی رضایتبخش همکاری کرده بود. هنگام عرضه، این پادمانها به نوعی برجستهترین ویژگی روایت رسانهای پیرامون Fable ۵ بودند. حتی یکی از این گاردریلهای سختگیرانه که برای تنبیه بیسروصدای کاربرانی که از مدل سوءاستفاده میکردند طراحی شده بود، به دلیل طراحی نادرست با انتقاد مواجه شد و آنتروپیک را مجبور به عذرخواهی کرد.
اما طبق گفته آنتروپیک، مقامات دولتی پس از مطلع شدن از یک روش «جیلبریک» (دور زدن قفلهای امنیتی) در مدل Fable ۵ که پادمانهای حیاتی آن را دور میزد، به وحشت افتادند:
«برداشت ما این است که دولت معتقد است از روشی برای دور زدن یا جیلبریک Fable ۵ آگاه شده است. ما نمایشی از این تکنیک خاص را که برای شناسایی تعداد کمی از آسیبپذیریهای جزئی و قبلاً شناختهشده استفاده شده بود، بررسی کردیم. همه این آسیبپذیریها نسبتاً ساده به نظر میرسند و ما دریافتیم که سایر مدلهای موجود در بازار نیز قادر به کشف آنها هستند، بدون اینکه حتی نیازی به دور زدن سیستم داشته باشند.»
آنتروپیک کاملاً درست اشاره میکند که در زمان عرضه Fable ۵، در بخش مربوط به ایمنی مدل در وبلاگ خود به صراحت اعلام کرده بود که وقوع برخی جیلبریکها همچنان ممکن است. آنتروپیک نوشته بود: «جلوگیری کاملاً مطلق از جیلبریکهای جهانی احتمالاً غیرممکن است، اما هدف ما این است که جیلبریکهای باقیمانده را آنقدر کند و پرهزینه کنیم که بتوانیم قبل از استفاده در مقیاس وسیع، آنها را شناسایی و از آنها جلوگیری کنیم.» در واقع، از آنجا که ساخت یک مدل کاملاً ضد جلبیریک هنوز ممکن نیست، آنتروپیک تلاش داشت تا فرآیند جیلبریک را پرهزینه یا بیش از حد محدود کند. آنها همچنین پنهان نکردند که دادههای کاربران مدلهای کلاس Mythos را بسیار بیشتر از حد معمول ذخیره و نظارت میکنند.
با این حال، اکنون تماشای اینکه آنتروپیک اهمیت خطرات درکشده مدلهای خود را کوچک جلوه میدهد و مینویسد این آسیبپذیریها «جزئی»، «از قبل شناختهشده» و «نسبتاً ساده» هستند، کمی عجیب به نظر میرسد.
وقتی آنتروپیک برای نخستین بار این کلاس از مدلها را تبلیغ کرد، به دنیا گفت که فناوریای با قدرت بیسابقه و پتانسیل آسیب واقعی به جهان خلق کرده است. دو ماه بعد، مدلی از کلاس Mythos به محصولی برای مصرف عمومی تبدیل شد و به عنوان یک قابلیت پرمیوم برای کاربران طرحهای Pro، Max، Team و Enterprise بدون هزینه اضافی (اما برای مدت محدود) در دسترس قرار گرفت. هدف آنتروپیک این بود که در تاریخ ۲۳ ژوئن، Fable ۵ را از این طرحها حذف کرده و استفاده از آن را منوط به پرداخت هزینهای جداگانه کند.
آنتروپیک ادعا میکند که اقدامات دولتی از این دست، در صورت تبدیل شدن به یک استاندارد، میتواند «عرضه تمام مدلهای جدید را برای همه ارائهدهندگان مدلهای پیشرو متوقف کند»؛ و شاید این حرف درست باشد. اما وقتی فرآیند معرفی یک محصول شامل تبلیغاتی است که ادعا میکند این فناوری نیازمند بازنگری جهانی در امنیت سایبری است، متوقف شدن عرضه آن در پی کشف حفرههای امنیتی و واکنش بیش از حد دولت، نباید مایه شگفتی شود؛ حتی اگر این واکنش بیش از حد، برای تجارت و کسبوکار آنها مضر باشد.
منبع: gizmodo
۲۲۷۳۲۳
نظر شما