آیا عاملهای سرکش هوش مصنوعی میتوانند ظرف ۶ ماه اینترنت را تصاحب کنند؟
سه متخصص حوزه هوش مصنوعی و امنیت سایبری، هشدار داریو آمودی، مدیرعامل Anthropic، درباره احتمال تسلط گروهی از عاملهای هوش مصنوعی سرکش بر اینترنت طی شش ماه آینده را مبهم و از نظر فنی بسیار بعید دانستهاند؛ با این حال تأکید کردهاند که نگرانی درباره سوءاستفاده از عاملهای هوش مصنوعی را نباید کاملاً نادیده گرفت.
به گزارش گَری مارکوس در Substack، اظهارات اخیر داریو آمودی درباره خطرات آینده هوش مصنوعی با واکنش انتقادی برخی کارشناسان مواجه شده است. آمودی در مقالهای درباره ضرورت کاهش سرعت توسعه هوش مصنوعی، نسبت به احتمال شکلگیری گروههایی از عاملهای هوش مصنوعی سرکش هشدار داده که ممکن است در مدت کوتاهی کنترل بخش بزرگی از اینترنت را در دست بگیرند.
Axios نیز با استناد به مقاله آمودی، این هشدار را با این مضمون منتشر کرد که گروههایی از عاملهای سرکش هوش مصنوعی ممکن است ظرف شش ماه آینده بتوانند اینترنت را تحت کنترل خود درآورند.
گری مارکوس، ناتان همیل و زک کورمن در واکنش به این ادعا معتقدند چنین گزارهای هم بیش از حد کلی است و هم با توجه به اطلاعات فعلی، چندان محتمل به نظر نمیرسد. آنها البته تأکید میکنند که این برداشت دقیقاً همان چیزی نیست که آمودی گفته و باید میان متن اصلی هشدار او و تفسیر رسانهای از آن تفاوت قائل شد.
تصاحب کل اینترنت چقدر عملی است؟
نویسندگان میگویند از کار انداختن یا «تصاحب» کل اینترنت، کاری بسیار دشوار است و ساختار غیرمتمرکز اینترنت نیز اساساً با چنین سناریویی سازگار نیست.
البته برخی شرکتها مانند Google، AWS و Cloudflare به دلیل نقش گسترده خود در زیرساخت اینترنت، تأثیر بسیار زیادی بر عملکرد سرویسهای آنلاین دارند و اختلال در آنها میتواند همزمان تعداد زیادی از وبسایتها و برنامهها را تحت تأثیر قرار دهد.
با این حال، نویسندگان معتقدند حتی از کار افتادن همزمان چنین شرکتهایی نیز به معنای از بین رفتن کل اینترنت نخواهد بود؛ بلکه اینترنت با اختلال گسترده به فعالیت خود ادامه خواهد داد.
آنها همچنین یادآوری میکنند که شرکتهای بزرگ ارائهدهنده زیرساخت اینترنت معمولاً از سطح امنیتی بسیار بالاتری نسبت به یک وبسایت معمولی برخوردارند.
به گفته نویسندگان، گزارشی درباره سامانه Mythos از سوی آژانس امنیت هوش مصنوعی بریتانیا نشان داده است که این سامانه در سطح فعلی میتواند بهصورت خودکار تنها سیستمهای کوچک، آسیبپذیر و با دفاع ضعیف را به خطر بیندازد. بنابراین هنوز مشخص نیست حتی با ادامه پیشرفت مدلها، آیا عاملهای هوش مصنوعی قادر خواهند بود شرکتهای بزرگ زیرساختی را برای مدت طولانی از کار بیندازند یا کنترل کنند.
هدف مهاجمان چه خواهد بود؟
مارکوس و همکارانش پرسش دیگری را نیز مطرح میکنند: اگر عاملهای هوش مصنوعی بتوانند اینترنت را مختل یا تصاحب کنند، هدف آنها چه خواهد بود؟
به اعتقاد آنها، حملهای با هدف از کار انداختن کل اینترنت، برای مهاجمان نیز پیامدهای منفی خواهد داشت؛ زیرا در صورت از کار افتادن کامل شبکه، خود مهاجمان نیز نمیتوانند از بسیاری از خدمات آن استفاده کنند.
از سوی دیگر، مهاجمان معمولاً اهداف و محدودیتهای مالی مشخصی دارند. حملهای در مقیاس کل اینترنت به منابع محاسباتی و مالی بسیار زیادی نیاز خواهد داشت و مشخص نیست چه کسی هزینه چنین عملیاتی را تأمین خواهد کرد.
نویسندگان همچنین درباره نحوه هماهنگی تعداد بسیار زیادی از عاملهای هوش مصنوعی برای انجام چنین حملهای تردید دارند و معتقدند سناریوی مطرحشده، دستکم در شکل فعلی، جزئیات فنی کافی ندارد.
تفاوت عاملهای هوش مصنوعی با باتنتهای سنتی
آمودی در هشدار خود به باتنتها نیز اشاره کرده است. باتنتهای سنتی معمولاً از مجموعهای از دستگاههای آلوده تشکیل میشوند که برای حملات محرومسازی از سرویس، ارسال هرزنامه یا حملات فیشینگ مورد استفاده قرار میگیرند.
اما نویسندگان میپرسند اگر منظور آمودی نوعی «باتنت هوش مصنوعی» متشکل از عاملهای واقعی هوش مصنوعی باشد، این عاملها دقیقاً کجا اجرا خواهند شد و چگونه منابع محاسباتی مورد نیاز خود را تأمین خواهند کرد؟
به باور آنها، اگر هر عامل برای ایجاد اختلال گسترده به یک مدل پیشرفته و پرهزینه نیاز داشته باشد، اجرای چنین عملیاتی بدون سهلانگاری شدید شرکتهای سازنده مدلها بسیار دشوار خواهد بود.
آنها همچنین این پرسش را مطرح میکنند که آیا منظور آمودی این است که مدلهای پیشرفته هوش مصنوعی خودِ اینترنت را تصاحب خواهند کرد یا خیر. به گفته نویسندگان، در حال حاضر تنها تعداد محدودی از شرکتها به مدلهای واقعاً پیشرفته دسترسی دارند و اگر چنین خطری مستقیماً از سوی مدلهای پیشرفته ایجاد شود، شرکتهای سازنده باید بتوانند از سوءاستفاده از نرمافزارهای خود جلوگیری کنند.
با وجود تردیدها، خطر را نباید نادیده گرفت
مارکوس، همیل و کورمن در عین حال تأکید میکنند که نگرانی آمودی را نباید کاملاً کنار گذاشت.
نخست اینکه هشدار او یادآوری میکند بسیاری از شرکتها طی دهههای گذشته به اندازه کافی روی امنیت سایبری سرمایهگذاری نکردهاند. اگرچه زیرساختهایی مانند Google، AWS و Cloudflare از امنیت بالاتری برخوردارند، تعداد زیادی از وبسایتها و سامانههای کوچکتر همچنان آسیبپذیر هستند.
بنابراین حتی اگر احتمال فروپاشی یا تصاحب کل اینترنت بسیار پایین باشد، حمله به تعداد زیادی از سامانههای منفرد میتواند کاملاً محتمل باشد.
نویسندگان همچنین هشدار میدهند که شرایط ممکن است تغییر کند. در حال حاضر اجرای سناریویی مشابه آنچه آمودی ترسیم کرده، بسیار پرهزینه است و احتمالاً در مقیاس گسترده به زیرساختهای ابری نیاز دارد.
اما با بهینهتر شدن مدلها و پیشرفت سختافزارهای محلی، اجرای برخی عملیات پیچیده و مخرب ممکن است بدون اتکا به مراکز داده عظیم نیز امکانپذیر شود.
به همین دلیل، نویسندگان معتقدند شرکتهای ارائهدهنده خدمات ابری و سازندگان مدلهای زبانی بزرگ باید سامانههای نظارتی و امنیتی کافی برای جلوگیری از حملات گسترده داشته باشند.
«شش ماه» بیش از حد اغراقآمیز است
مارکوس و همکارانش در جمعبندی میگویند در شرایط فعلی، ادعای آمودی درباره تصاحب اینترنت چندان قابلباور نیست و مشخصاً بازه زمانی ششماهه را «اغراقآمیز» میدانند.
با این حال، از نظر آنها همین هشدار میتواند دلیلی برای اعمال محدودیت بیشتر بر عاملهای هوش مصنوعی باشد که امکان نظارت دقیق بر آنها وجود ندارد.
آنها در نهایت این پرسش را مطرح میکنند که چرا باید اجازه داد تعداد زیادی عامل هوش مصنوعی با قابلیت کنترل دشوار، بدون نظارت کافی به اینترنت دسترسی پیدا کنند؛ بهویژه در شرایطی که هنوز سازوکارهای لازم برای پیشبینی و مهار رفتار آنها بهطور کامل ایجاد نشده است.
منبع: Substack، یادداشت گری مارکوس با همکاری ناتان همیل و زک کورمن
