دو فرار در یک هفته: آیا کلود از آنتروپیک هر کاری که میخواهد انجام میدهد؟
زندگی همیشه راهی پیدا میکند. یک هفته، دو فرار متفاوت، همان نام در پسزمینه: کلود، مدل برجسته آنتروپیک. پس از کشف یک آسیبپذیری محلی در کلود کواورک، ابزاری که وظایف را بهطور مستقیم بر روی کامپیوتر کاربر خودکار میکند، شرکت خود یک قسمت دوم را بدون ارتباط با اولی فاش کرد.
این بار، سه مدل آن بدون مجوز به سیستمهای تولید سه سازمان واقعی دسترسی پیدا کردند، در حین آزمایشهای ساده امنیت سایبری.
نکات کلیدی این مقاله:
- کلود آنتروپیک در یک هفته دو نشت امنیتی را تجربه کرده است که ضعفهای نگرانکنندهای را فاش میکند.
- سه سازمان در حین آزمایشهای امنیت سایبری به خطر افتادند که خطرات هوش مصنوعیهای خودمختار را برجسته میکند.
قسمت ۱: جعبه شنی که از همه جا نشت میکند
محققان امنیتی ابتدا نشان دادند که حالت اجرای محلی کلود کواورک میتواند دور زده شود. روش: زنجیرهای از چندین ضعف معماری به یک آسیبپذیری افزایش امتیاز هسته لینوکس (هسته سیستم که دسترسی به منابع ماشین را مدیریت میکند) متصل میشود.
پس از خروج از جعبه شنی (sandbox در اصطلاح)، عامل همان حقوق کاربر متصل را به ارث میبرد: دسترسی به فایلها، بهطور بالقوه به کلیدهای SSH و شناسههای ابری ذخیرهشده بر روی ماشین.
آنتروپیک نه انکار کرد و نه کماهمیت جلوه داد، گزارش را «اطلاعاتی» توصیف کرد و با تغییر پیشفرض کلود کواورک به اجرای ابری، یک اصلاح عملی انجام داد. اما سوال اساسی همچنان باز بود: چند درب پشتی دیگر هنوز در عوامل مجاز برای دستکاری فایلها، پرداختها یا معاملات رمزارز بهطور خودمختار وجود دارد؟
قسمت ۲: آنتروپیک شفافیت را بازی میکند، تقصیر از جای دیگری است
پاسخ سریعتر از آنچه انتظار میرفت رسید. در یک پست منتشرشده در ۳۱ ژوئیه و با عنوان بررسی سه حادثه واقعی در ارزیابیهای امنیت سایبری ما، آنتروپیک توضیح میدهد که ۱۴۱،۰۰۶ ارزیابی را بررسی کرده است که در آن مدلهایش ممکن است به اینترنت دسترسی پیدا کرده باشند.
سه مورد از آنها به بدی به پایان رسیدند: مدل از محیط آزمایش ایرگولار، شریک ارزیابی خارجیاش، خارج شد و در نهایت زیرساخت تولید سه سازمان مختلف را به خطر انداخت.
برخلاف دور زدن عمدی، آنتروپیک بر منبع مشکل تأکید میکند: یک سوءتفاهم ساده با ایرگولار دسترسی اینترنتی را در داخل محیط ارزیابی باز گذاشته بود. در مواجهه با یک تمرین capture-the-flag (بازیابی اطلاعات پنهان در یک ماشین دیگر در شبکه)، مدل سیستمهای واقعی را که در مسیرش با آنها برخورد کرد، بهعنوان بخشی از بازی در نظر گرفت. او آنها را با تکنیکهای ابتدایی به خطر انداخت: رمزهای عبور ضعیف و نقاط دسترسی غیرمعتبر در صدر.
این سناریو بههیچوجه سناریوی علمی تخیلی نیست که وقتی از «هوش مصنوعی که فرار میکند» صحبت میکنیم، تصور میکنیم. بلکه زنجیرهای از بیتوجهیهای کوچک انسانی است که توسط ماشینی که بدون سوال اجرا میکند، تشدید شده است. سیانان پارادوکس را بهخوبی خلاصه میکند: مدل هرگز سعی نکرد کسی را فریب دهد، او فقط آنچه را که از او خواسته شده بود، انجام داد، بدون اینکه بداند زمین بازی کجا تمام میشود.
Open AI و آنتروپیک: برادران دشمن
OpenAI یک هفته قبل از آن با هاجینگ فیس، یک عامل که بهتنهایی در حین یک ارزیابی مشابه نفوذ کرده بود، قسمت خود را تجربه کرده بود. دو غول رقیب، دو فرار در فاصله چند روز: اکنون دشوار است که آن را یک تصادف ساده ببینیم.
این یک الگو است که بهطور مکرر تکرار میشود، صرفنظر از فلسفه امنیتی که هر آزمایشگاه نشان میدهد. آنتروپیک همچنین مراقب است که مورد خود را از مورد OpenAI متمایز کند: در اینجا، هیچ قصدی برای فرار از مدل وجود ندارد، فقط یک مرز بد بینگذاری شده بین محیط خیالی و زیرساخت واقعی. این تفاوت برای تصویر برند اهمیت دارد. اما برای سه شرکتی که هدف قرار گرفتهاند، تغییر چندانی نمیکند، زیرا آنها بدون درخواست خود هک شدهاند.
این محتوا صرفاً برای اطلاعرسانی عمومی ارائه شده است و بهمنزله مشاوره مالی، سرمایهگذاری، حقوقی یا مالیاتی تلقی نمیشود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید بهعنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر داراییهای رمزارزی تلقی شود. داراییهای رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.
ممکن است شما نیز علاقهمند باشید

خزانههای رمزارز به تأمین مالی مراکز داده هوش مصنوعی تغییر مسیر میدهند

جنگ فناوری در جنگ سرد جدید

شرکتهای سهامی پایان کار نیستند، شکلهای سازمانی نسل بعدی در حال ظهور هستند

مجارستان قوانین تأیید ارزهای دیجیتال را لغو کرد و به بازسازی بازار مطابق با MiCA پرداخت

آزمایش BIS در پرداختهای فرامرزی با «ارزهای توکنیزه شده»: مشارکت ۲۸ بانک جهانی و تسویه در میانگین ۸۰ ثانیه

آشنایی با زیرساختهای پایه Web3: پنج فناوری اصلی برای درک آینده بلاکچین

ژاپن نرخ بهره را در ۱٪ حفظ میکند و تجارت Carry همچنان زنده است: چه تغییراتی برای بیتکوین به وجود میآید

"خنجر زدن" یا "برد-برد"؟ احتمال جدایی TradeXYZ از Hyperliquid چقدر است؟

چگونه ساختمان در دنیای ارزهای دیجیتال در سال 2026 به نظر میرسد

چرا داستان آربیتراژ Axis که در ۲۲ ساعت ۵۰ میلیون دلار را پر کرد، جذاب است؟

هنگ کنگ درهای XRP را به روی سرمایهگذاران فردی باز میکند، پیشتازی آسیا در گسترش بازارهای تنظیمشده

پذیرش ارزهای دیجیتال در کانادا به سطح بیسابقهای رسیده است

ایردراپ کریپتو چیست؟ توکنهای رایگان، شرایط واجد شرایط بودن و تلههای مالیاتی

کشاورزی بازده چیست؟ توضیحاتی درباره استخراج نقدینگی و ریسکهای APY

DAO چیست؟ توضیح حاکمیت غیرمتمرکز

مدرک سهام چیست؟ چگونه اعتبارسنجها جایگزین ماینرها شدند

کره جنوبی حساب جدید صندوق سرمایهگذاری دولتی برای هوش مصنوعی و بخشهای استراتژیک را تأیید کرد

عاملان هوش مصنوعی به عنوان کارمندان، در صورت بروز مشکل چه کسی مسئول است؟

نیویورک از کالی شی به خاطر ادعای قمار غیرقانونی شکایت میکند و ۳۶ میلیارد دلار خسارت میخواهد

کاهش دادههای تورم، فشار واقعی بر داراییهای جهانی را تغییر نمیدهد

چین: ۱۶ نفر به خاطر پولشویی از طریق ارزهای دیجیتال بازداشت شدند

فراتر از بیتکوین و اتریوم: 8 پروژه کریپتو بر اساس پذیرش واقعی

توکنهای هوش مصنوعی پس از افزایشهای ناشی از حدس و گمان، از شتاب خود کاستهاند

ETF هبار کَناری پس از راهاندازی در نزدک ۴۷.۸ میلیون دلار دارایی دارد

گومی و SBI یک صندوق دارایی دیجیتال به ارزش 30 میلیارد ین تأسیس کردند، به سمت ترویج ETF های فیزیکی در ژاپن

بنیاد اتریوم: هکر اخلاقی پاسکال کاورزاسیو به هیئت مدیره پیوست

شرکتهای بورسی که هزاران بیتکوین را ذخیره کردهاند، حالا چه وضعیتی دارند؟

گزارش صبحگاهی وال استریت: مایکروسافت نگرانیها درباره "هزینههای بالای هوش مصنوعی" را کاهش میدهد، سهام فناوری به شدت بهبود مییابد، ETF ذخیره DRAM و نیمههادیها به ترتیب 17% و 8% افزایش مییابند

حباب هوش مصنوعی: نفت، چین و واشنگتن بازار را تهدید میکنند





