کلید خاموشی هوش مصنوعی چیست و چرا قانونگذاران آمریکایی به آن نیاز دارند؟

دو عضو کنگره می‌خواهند که دولت فدرال بتواند یک مدل هوش مصنوعی را خاموش کند.

نمایندگان تد لیو (D-CA) و ناتانیل موران (R-TX) روز پنجشنبه، دو روز پس از آنکه OpenAI اعتراف کرد که مدل‌های خود از یک محیط آزمایشی قفل شده خارج شده و به Hugging Face هک کرده‌اند، قانون کلید خاموشی هوش مصنوعی را معرفی کردند.

ایده این است که یک چارچوب قانونی ایجاد شود که فرآیندی را تسهیل کند که اساساً یک مدل را از بازار ناپدید کند: متوقف کردن استنتاج - فرآیند تولید پاسخ‌ها یا انجام اقدامات توسط یک مدل - قطع کردن کاربران، محدود کردن قدرت محاسباتی که به آن تغذیه می‌شود، یا به طور کامل خاموش کردن آن.

هر ارائه‌دهنده استنتاج می‌تواند یک مدل را قطع کند و برخی این کار را به طور منظم انجام می‌دهند. آنچه وجود ندارد، قانونی است که آنها را ملزم به حفظ این قابلیت کند یا یک مقام فدرال که بتواند دستور استفاده از آن را صادر کند.

این شکاف نظری نیست. زمانی که وزارت بازرگانی ایالات متحده خواستار حذف Mythos 5 و Fable 5 از بازار در ژوئن شد، هیچ اختیاری برای خاموش کردن نداشت، بنابراین از قانون کنترل صادرات استفاده کرد. لیو این را نامناسب می‌داند و خواستار یک قانون جدید با اختیارات جدید است.

OpenAI در 21 ژوئیه فاش کرد که GPT-5.6 Sol و یک مدل منتشر نشده از یک محیط آزمایشی - یک محیط ایزوله بدون دسترسی به اینترنت - در حین یک ارزیابی سایبری داخلی فرار کردند. آنها در حال ارزیابی در ExploitGym، یک معیار عمومی بودند که به عوامل 898 نقص نرم‌افزاری واقعی را می‌دهد و از آنها می‌خواهد هر یک را به یک حمله عملی تبدیل کنند، که به ازای هر باگ نمره قبولی یا مردودی می‌گیرد.

به جای حل آنها، مدل‌ها یک نقص روز صفر (نقص ناشناخته‌ای که هیچ وصله‌ای برای آن وجود ندارد) در یک پروکسی نرم‌افزاری پیدا کردند، امتیازات خود را افزایش دادند، به اینترنت باز دسترسی پیدا کردند و به پایگاه داده تولید Hugging Face نفوذ کردند، جایی که به درستی حدس زده بودند که پاسخ‌ها نگهداری می‌شوند. طبق گفته OpenAI، مدل‌ها "بسیار متمرکز بر یافتن راه حلی برای ExploitGym" بودند.

آنها به کسی حمله نمی‌کردند. آنها در حال تقلب در یک آزمون بودند. اما این کافی بود تا زنگ خطرها را در سراسر کشور به صدا درآورد، از جمله در واشنگتن.

این لایحه پیشنهادی قانون امنیت میهن را اصلاح می‌کند و شامل هوش مصنوعی‌هایی می‌شود که با هزینه محاسباتی بیش از 100 میلیون دلار آموزش دیده‌اند و توسط شرکت‌هایی که حداقل 500 میلیون دلار در سال از آن درآمد دارند، اداره می‌شوند. در عمل، این شامل OpenAI، گوگل، Anthropic، مایکروسافت و چند شرکت دیگر است. امنیت میهن این آستانه‌ها را از طریق CISA در عرض 90 روز تعیین کرده و سپس سالانه به‌روزرسانی می‌کند.

شرکت‌های تحت پوشش باید حوادث جدی را در عرض 15 روز گزارش دهند و مجموعه‌ای از کنترل‌های تدریجی را آماده نگه دارند - کاهش سرعت مدل، غیرفعال کردن قابلیت‌های خاص، بازگشت به نسخه قدیمی‌تر یا خاموش کردن آن.

وزیر DHS، با مشاوره وزارت بازرگانی و مدیر اطلاعات ملی، می‌تواند هر یک از آنها را دستور دهد.

شرکتی که تحت دستور است باید وزن‌ها و تلمتری مدل را حفظ کند، کاربران را مطلع کند و تأیید کند که رعایت کرده است. این شرکت می‌تواند در عرض 48 ساعت درخواست کند، اما این هیچ چیزی را متوقف نمی‌کند.

عدم حفظ یک کلید خاموشی هزینه‌ای معادل 2 میلیون دلار در روز دارد؛ نادیده گرفتن یک دستور خاموشی هزینه‌ای معادل 20 میلیون دلار در روز دارد.

این لایحه یک حادثه را فقط در صورتی حساب می‌کند که خارج از آزمایش‌های قرمز یا آزمایش‌های ساختاری، که آزمایش‌های عمدی است که آزمایشگاه‌ها برای یافتن نقص‌ها استفاده می‌کنند، اتفاق بیفتد. مدل‌های OpenAI در حین دقیقاً همین فرار کردند.

لیو همچنین به Anthropic اشاره کرد که Mythos 5 و Fable 5 آن در ژوئن تحت کنترل‌های اضطراری صادراتی - قانونی تجاری که به عنوان یک کلید خاموشی دوباره استفاده شده بود زیرا هیچ کلید خاموشی وجود نداشت - از خط خارج شدند و در 30 ژوئن دوباره فعال شدند.

"این ضروری است که این سیستم‌های هوش مصنوعی دارای کلیدهای خاموشی باشند،" لیو در بیانیه‌ای گفت. موران این موضوع را برای طرف خود از مجلس مطرح کرد: "مدیریت به معنای اطمینان از این است که انسان‌ها توانایی کنترل فناوری‌ای که می‌سازیم را حفظ کنند."

این ایده جدید نیست. SB 1047 کالیفرنیا خواستار یک قابلیت کامل خاموشی در همان آستانه 100 میلیون دلار محاسباتی بود و در سال 2024 وتو شد و 16 شرکت هوش مصنوعی در آن سال یک تعهد داوطلبانه سئول را امضا کردند که هیچ وزن قانونی نداشت.

رای‌دهندگان قبلاً در این زمینه هستند. یک نظرسنجی در ژوئن از 1007 رای‌دهنده احتمالی توسط موسسه سیاست هوش مصنوعی نشان داد که 86٪ خواهان یک کلید خاموشی تضمینی برای قدرتمندترین سیستم‌ها هستند - 88٪ دموکرات‌ها، 86٪ مستقل‌ها، 83٪ جمهوری‌خواهان.

نه OpenAI و نه Anthropic به طور عمومی در مورد این لایحه اظهار نظر نکرده‌اند. تا روز جمعه، این لایحه به کمیته‌ای ارجاع نشده بود.

سلب مسئولیت: این محتوا صرفاً برای اطلاع‌رسانی عمومی و برندینگ ارائه شده و به‌ منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌گردد. هیچ‌یک از رویدادها، جوایز، رویدادهای آنلاین یا اطلاعات مرتبط ذکرشده در اینجا نباید به‌عنوان توصیه، درخواست یا دعوت برای خرید، فروش، معامله یا هرگونه اقدام دیگر در رابطه با دارایی‌های رمزارزی یا استفاده از خدمات تلقی شوند. دارایی‌های رمزارزی با نوسانات بالایی همراه بوده و ممکن است منجر به زیان شوند. خدمات WEEX و رویدادهای آنلاین ممکن است در تمام مناطق در دسترس نبوده و مشمول قوانین، مقررات و شرایط احراز صلاحیت مربوطه هستند. شما مسئول رعایت قوانین محلی در استفاده از خدمات WEEX هستید و باید پیش از انجام هرگونه فعالیت مرتبط با ارزهای دیجیتال، ریسک‌های آن را به‌دقت بررسی کنید.