تریک جدید افکار پنهان هوش مصنوعی را فاش می‌کند و جنگ تقطیر را دوباره به راه می‌اندازد

**یک تریک کامپیوتری اجازه می‌دهد تا "تفکر" مدل‌های هوش مصنوعی پیشرفته را برملا کند و تقطیرهای پنهانی و نشت داده‌ها را فاش کند. محققان نشان می‌دهند که نسخه‌های کوچکتر مدل‌ها می‌توانند استدلال‌های پنهان خود را افشا کنند.

• محققان آسیب‌پذیری در APIهای OpenAI، Anthropic و Google کشف کرده‌اند که استدلال داخلی مدل‌های هوش مصنوعی را فاش می‌کند.
• این روش اجازه می‌دهد تا اطلاعات از مدل‌های بسته تقطیر شود و رمزهای عبور و کلیدهای API بازیابی شوند، هرچند که این مشکل برطرف شده است.
• تقطیر به موضوعی ژئوپولیتیکی تبدیل می‌شود در حالی که چین و ایالات متحده برای برتری در هوش مصنوعی رقابت می‌کنند.

یک تریک جدید کامپیوتری اجازه می‌دهد تا استدلال‌های داخلی مدل‌های هوش مصنوعی پیشرفته را برملا کند و اسراری را که شرکت‌های فناوری سعی در محافظت از آن دارند، فاش کند. بر اساس یک مقاله از Wired، تحقیقات اخیر یک آسیب‌پذیری در APIهای OpenAI، Anthropic و Google را فاش کرده است که نه تنها تسهیل‌کننده تقطیر در مقیاس بزرگ است، بلکه می‌تواند رمزهای عبور و کلیدهای API را نیز نشت دهد.

این روش که توسط دانشمندان دانشگاه توبینگن، موسسه ماکس پلانک، MATS Research و شرکت Snyk توسعه یافته است، اجازه می‌دهد تا "افکار" پنهان مدل‌های پیشرفته استخراج شود. هرچند که این آسیب‌پذیری برطرف شده است، این یافته شواهدی --- هرچند غیرقطعی --- از این که برخی مدل‌های چینی ممکن است با تقطیر اطلاعات استدلالی از مدل‌های آمریکایی آموزش دیده باشند، ارائه می‌دهد.

تریک که استدلال هوش مصنوعی را برملا می‌کند

مدل‌های پیشرفته هوش مصنوعی مسائل دشوار را با تقسیم آن‌ها به بخش‌هایی که در یک "زنجیره تفکر" مصنوعی تحلیل می‌کنند، حل می‌کنند. شرکت‌ها این استدلال را مخفی نگه می‌دارند، اما نسخه‌ای رمزگذاری شده را به کامپیوتر کاربر ارسال می‌کنند تا بخشی از محاسبات را منتقل کنند.

حمله محققان بر این اساس است که اکثر شرکت‌ها مدل‌هایی با اندازه‌های مختلف ارائه می‌دهند. مدل‌های کوچکتر ضعیف‌تر هستند اما همچنین کمتر هم‌راستا هستند، به این معنی که بیشتر تمایل دارند تا افکار داخلی خود را فاش کنند.

تغذیه ردپاهای استدلال رمزگذاری شده به یک نسخه کوچکتر از همان مدل می‌تواند استدلال پنهان را فاش کند، الکساندر پانفیلوف، دانشمند کامپیوتر دانشگاه توبینگن توضیح می‌دهد. "تمام تأمین‌کنندگان اصلی مدل‌های پیشرفته‌ای که آزمایش کردیم این آسیب‌پذیری را دارند،" او هشدار می‌دهد.

پانفیلوف و همکارانش مدل‌های OpenAI، Anthropic و Google را از طریق APIهای آن‌ها آزمایش کردند و همان مشکل را پیدا کردند. آن‌ها همچنین نشان دادند که این روش می‌تواند اطلاعات محرمانه، مانند کلیدهای API و رمزهای عبور که در ردپاهای استدلال جاسازی شده‌اند، استخراج کند.

"ایده تبادل پیام‌ها به یک واریانت از مدل ضعیف‌تر که همان کلید رمزگشایی را دارد اما هم‌راستایی ضعیف‌تری دارد، عالی است،" فلوریان ترامر، دانشمند امنیت سایبری در ETH زوریخ می‌گوید. "این قطعاً در حال تبدیل شدن به یک مشکل است،" او اضافه می‌کند.

جنجال تقطیر

تقطیر یک تکنیک شناخته‌شده برای کپی‌برداری کارآمد از قابلیت‌های مدل‌های موجود به مدل‌های جدید است. این روش به‌ویژه در توسعه مدل‌های با وزن‌های باز یا کاملاً قابل دانلود رایج است.

اخیراً، تقطیر به موضوعی جنجالی تبدیل شده است به دلیل ادعاهایی که شرکت‌های چینی هوش مصنوعی از آن برای کپی‌برداری از بهترین مدل‌های آمریکایی استفاده می‌کنند. در فوریه، OpenAI به قانون‌گذاران ایالات متحده گفت که DeepSeek به نظر می‌رسد یکی از مدل‌های آن‌ها را برای ساخت R1 کپی کرده است.

در ژوئن، Anthropic به قانون‌گذاران گفت که علی‌بابا به‌طور سیستماتیک مدل‌های آن‌ها را برای ساخت مدل خود به نام Qwen تقطیر کرده است. هیچ نشانه‌ای وجود ندارد که آن‌ها از این تکنیک خاص استفاده کرده باشند، اما محققان معتقدند که روش آن‌ها اجازه می‌دهد تا اطلاعات بیشتری از مدل‌های بسته تقطیر شود از آنچه که قبلاً تصور می‌شد.

مارک زاکربرگ، مدیر اجرایی متا، گفت که تقطیر یک اصل مهم در نحوه عملکرد اکوسیستم متن باز است. او هشدار داد که محدود کردن این عمل، ایالات متحده را در موقعیت نامناسبی قرار می‌دهد.

از سوی دیگر، کایل میلر، پژوهشگر مرکز امنیت و فناوری‌های نوظهور، می‌گوید که مشخص نیست تقطیر واقعاً چقدر به چین کمک می‌کند. "اگر توانایی آزمایشگاه‌های چینی برای تقطیر حذف شود، چشم‌انداز رقابتی به‌طور چشمگیری تغییر نخواهد کرد،" او می‌گوید.

پژوهشگران به هر مدل 90 سؤال داده‌اند تا بررسی کنند که آیا مدل‌های وزن باز از مدل‌های بسته تقطیر می‌کنند یا خیر. هنگام ارائه اولین کلمات از ردپای استدلال‌های ثبت شده، گاهی مشاهده کردند که مدل‌های باز پاسخ‌های به‌طور قابل توجهی مشابهی تولید می‌کنند.

شواهد شباهت و واکنش‌ها

مدل چینی وزن باز Kimi K3، از Moonshot AI، خروجی به‌طور شگفت‌آوری مشابهی با ردپای استدلال‌های پنهان Claude Opus 4.8 و GPT 5.6 Sol برای برخی از درخواست‌ها تولید کرد. با وجود شباهت‌ها، پژوهشگران اشاره می‌کنند که این کار نمی‌تواند به‌طور علی تقطیر را اثبات کند.

دو مدل دیگر وزن باز، DeepSeek از چین و Inkling از شرکت آمریکایی Thinking Machines، این شباهت را نشان ندادند. Moonshot AI و Z.ai به درخواست‌های اظهار نظر پاسخ ندادند.

در شبکه‌های اجتماعی چینی، حدس و گمان‌هایی درباره امکان کشف و استفاده از ردپای استدلال‌های پنهان برای تقطیر وجود داشت. یارین گال، دانشمند کامپیوتر از دانشگاه آکسفورد، می‌گوید که تقطیر نه تنها رایج است، بلکه به پیشرفت سریع‌تر هوش مصنوعی کمک کرده است.

شرکت‌ها قبلاً اقداماتی انجام داده‌اند: پانفیلو و همکارانش به OpenAI، Anthropic و Google هشدار دادند و هر یک API خود را برای کاهش این مشکل تنظیم کردند. مایکل آچیمن، سخنگوی Anthropic، گفت که آن‌ها به پژوهش مستقل ارزش می‌دهند و شروع به توسعه تدابیر کوتاه‌مدت کرده‌اند.

گوگل و OpenAI از اظهار نظر خودداری کردند. پانفیلو اضافه می‌کند که اصلاح کامل تقطیر نیاز به بازنگری بنیادی در نحوه عملکرد APIها دارد.

پیامدهای ژئوپولیتیکی و امنیتی

تقطیر به یک موضوع مهم ژئوپولیتیکی تبدیل شده است در حالی که ایالات متحده و چین برای برتری در هوش مصنوعی رقابت می‌کنند. سخت‌گیران خط‌مشی با چین ادعا می‌کنند که این کشور با تقطیر فناوری آمریکایی، مزیت استراتژیک به‌دست می‌آورد.

دیگران معتقدند که تقطیر یک روش به‌طور گسترده‌ای استفاده شده برای تسریع در توانایی‌های یک مدل هوش مصنوعی است. زاکربرگ از این عمل از منظر متن باز دفاع می‌کند.

کایل میلر اشاره می‌کند که این تنها بهبودهای محدودی در توانایی‌های مدل‌های موجود ایجاد می‌کند و به نظر می‌رسد که شرکت‌های چینی تجربه لازم برای ساخت مدل‌های پیشرفته از صفر را دارند. "هیچ‌کس در اینجا در ایالات متحده نمی‌داند که تقطیر چقدر به آزمایشگاه‌های چینی کمک می‌کند،" او می‌گوید.

پژوهشگران همچنین تأکید می‌کنند که این روش می‌تواند برای بازیابی اطلاعات شخصی استفاده شود، اگرچه آن آسیب‌پذیری قبلاً اصلاح شده است. با این حال، برخی از ردپای استدلال هنوز می‌تواند با همان روش کشف شود.

پانفیلو و همکارانش ادعا می‌کنند که استفاده از روش آن‌ها اجازه می‌دهد تا اطلاعات بیشتری از مدل‌های بسته تقطیر شود از آنچه تا کنون تصور می‌شد. این می‌تواند پیامدهای قابل توجهی برای مالکیت معنوی در صنعت هوش مصنوعی داشته باشد.

این محتوا صرفاً برای اطلاع‌رسانی عمومی ارائه شده است و به‌منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌شود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید به‌عنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر دارایی‌های رمزارزی تلقی شود. دارایی‌های رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.