تله افراد باهوش: چرا ویتالیک می‌خواهد ما به «قوانین احمقانه» پایبند باشیم؟

نویسنده اصلی: Zhixiong Pan، هم‌بنیان‌گذار ChainFeeds

مقاله ویتالیک با عنوان "مقاومت در برابر مغز کهکشانی" (Galaxy Brain Resistance) که چند هفته پیش منتشر شد، بسیار پیچیده بود و تفسیر خوبی از آن ارائه نشد. بنابراین، من سعی می‌کنم آن را تحلیل کنم.

به هر حال، از آنجایی که Karpathy، خالق اصطلاح Vibe Coding، نیز این مقاله را خوانده و یادداشت‌برداری کرده است، حتماً نکته خاصی در آن وجود دارد.

ابتدا بیایید در مورد معنای عنوان "مغز کهکشانی" (Galaxy Brain) و "مقاومت" (Resistance) صحبت کنیم. پس از تفسیر این عنوان، درک کلی از موضوع این مقاله خواهید داشت.

1. ترجمه چینی Galaxy Brain "银河大脑" (مغز کهکشانی) است، اما در واقع از یک میم اینترنتی نشأت گرفته است، شبیه به تصویری که در آن کهکشان و مغز با هم ترکیب شده‌اند و قطعاً آن را دیده‌اید.

در ابتدا، این اصطلاح قطعاً مثبت بود و برای ستایش ایده‌های بسیار مبتکرانه و هوشمندانه به کار می‌رفت. با این حال، با گسترش استفاده از آن، به تدریج به نوعی طعنه تبدیل شد که تقریباً به معنای "بیش از حد فکر کردن، استدلال‌های بسیار دور از ذهن" است.

وقتی ویتالیک در اینجا به Galaxy Brain اشاره می‌کند، او به طور خاص به رفتاری اشاره دارد که در آن فرد "از هوش بالای خود برای انجام حرکات آکروباتیک ذهنی استفاده می‌کند و به زور چیزهای غیرمنطقی را به حقایق ظاهراً عمیق تبدیل می‌کند". برای مثال:

- اخراج گسترده کارکنان برای صرفه‌جویی در هزینه‌ها، اما اصرار بر اینکه این کار "کمک به جامعه با استعدادهای باکیفیت" است.

- توزیع توکن‌های ایردراپ برای کلاهبرداری (Rug Pull)، اما ادعای اینکه این کار "توانمندسازی اقتصاد جهانی از طریق حاکمیت غیرمتمرکز" است.

همه این‌ها می‌توانند نمونه‌هایی از تفکر "Galaxy Brain" در نظر گرفته شوند.

2. پس Resistance به چه معناست؟ این مفهوم می‌تواند به راحتی گیج‌کننده باشد. با استفاده از یک اصطلاح رایج، می‌توان آن را به "توانایی مقاومت در برابر گمراه شدن" یا "توانایی مقاومت در برابر فریب خوردن" تشبیه کرد.

بنابراین، Galaxy Brain Resistance باید مقاومت در برابر [تبدیل شدن به] Galaxy Brain باشد، یعنی "توانایی مقاومت در برابر (تکامل به) مهملات Galaxy Brain".

به عبارت دقیق‌تر، این اصطلاح برای توصیف دشواری سوءاستفاده از یک سبک تفکر/استدلال برای "اثبات هر نتیجه‌ای که می‌خواهید" به کار می‌رود.

بنابراین، این "مقاومت" می‌تواند یک "نظریه" خاص را هدف قرار دهد، برای مثال،

- نظریه با مقاومت پایین: با کمی بررسی، می‌تواند به منطق بسیار عجیب و غریب "Galaxy Brain" تبدیل شود.

- نظریه با مقاومت بالا: مهم نیست چقدر آن را بررسی کنید، بدون تغییر باقی می‌ماند و توسعه آن به منطق عجیب و غریب دشوار است.

به عنوان مثال، ویتالیک اشاره کرده است که قانون اجتماعی ایده‌آل او باید یک خط قرمز داشته باشد: تنها زمانی که فرد بتواند به وضوح توضیح دهد که یک رفتار خاص چگونه به یک قربانی خاص آسیب می‌رساند یا برای او خطر ایجاد می‌کند، می‌توان آن را ممنوع کرد. این استاندارد سطح بالایی از مقاومت در برابر Galaxy Brain را نشان می‌دهد زیرا دلایل مبهمی مانند "من ذهناً آن را دوست ندارم" یا "آن از نظر اخلاقی فاسد است" که می‌توانند بی‌نهایت کشیده یا محو شوند را نمی‌پذیرد.

3. در این مقاله، ویتالیک همچنین مثال‌های زیادی ارائه می‌دهد و حتی از نظریه‌های رایج مانند "آینده‌نگری" (longtermism) و "اجتناب‌ناپذیری" (inevitabilism) به عنوان تصویر استفاده می‌کند.

برای "آینده‌نگری" دشوار است که در برابر فرسایش تفکر Galaxy Brain مقاومت کند زیرا مقاومت آن بسیار پایین است، شبیه به یک "چک سفید امضا". این به این دلیل است که "آینده" بسیار دور و بسیار مبهم است.

- بیانیه با مقاومت بالا: "این درخت در ۱۰ سال آینده ۵ متر بلندتر خواهد شد." این قابل تأیید است و به راحتی قابل جعل نیست.

- بیانیه با مقاومت پایین در "آینده‌نگری": "اگرچه من اکنون در حال ارتکاب یک عمل بسیار غیراخلاقی هستم (مانند حذف یک گروه از مردم یا شروع یک جنگ)، اما این به خاطر بشریت است که در ۵۰۰ سال آینده در یک مدینه فاضله زندگی می‌کند. طبق محاسبات من، شادی آینده بی‌نهایت است، بنابراین فداکاری‌های اکنون ناچیز هستند."

همانطور که می‌بینید، تا زمانی که خط زمانی را به اندازه کافی طولانی کنید، می‌توانید هر کار اشتباهی در حال حاضر را توجیه کنید. همانطور که ویتالیک گفت: "اگر استدلال شما می‌تواند هر چیزی را توجیه کند، پس استدلال شما هیچ چیزی را ثابت نمی‌کند."

با این حال، ویتالیک اهمیت بلندمدت را نیز تأیید می‌کند؛ آنچه او انتقاد می‌کند "استفاده از مزایای بلندمدت بسیار مبهم و غیرقابل تأیید برای تحت‌الشعاع قرار دادن آسیب‌های واضح کنونی" است.

یکی دیگر از حوزه‌های حیاتی "اجتناب‌ناپذیری" است.

این همچنین یک تکنیک دفاع شخصی مورد علاقه در سیلیکون ولی و صنعت فناوری است.

لفاظی به این صورت است: "جایگزینی مشاغل انسانی توسط هوش مصنوعی بخشی اجتناب‌ناپذیر از تاریخ است، حتی اگر من آن را انجام ندهم، شخص دیگری انجام خواهد داد. بنابراین، توسعه رادیکال هوش مصنوعی توسط من در حال حاضر نه برای سود، بلکه برای همسویی با روند تاریخی است."

مقاومت پایین کجاست؟ این به طور کامل مسئولیت را از دوش افراد برمی‌دارد. از آنجایی که "اجتناب‌ناپذیر" است، من نیازی نیست پاسخگوی خسارتی باشم که ایجاد می‌کنم.

این نیز یک Galaxy Brain معمولی است: تبدیل خواسته‌های خودخواهانه "من می‌خواهم پول در بیاورم / من می‌خواهم قدرت را حفظ کنم" به "من در حال انجام یک مأموریت تاریخی هستم".

4. پس چگونه باید با این "تله‌های افراد باهوش" برخورد کنیم؟

پادزهری که ویتالیک ارائه می‌دهد به طرز شگفت‌آوری ساده است، حتی کمی "احمقانه". او معتقد است که هرچه فرد باهوش‌تر باشد، بیشتر به قوانین با مقاومت بالا نیاز دارد تا خود را محدود کند و از انحراف آکروباتیک‌های فکری خود جلوگیری کند.

اول، به "اخلاق وظیفه‌گرا" (Deontological Ethics) پایبند باشید، که یک اصل اخلاقی مطلق در سطح کودکستان است.

برای "آینده بشریت" محاسبات ریاضی پیچیده انجام ندهید؛ در عوض، به سخت‌گیرانه‌ترین اصول بازگردید:

- دزدی نکنید

- افراد بی‌گناه را نکشید

- کلاهبرداری نکنید

- به آزادی دیگران احترام بگذارید

این قوانین مقاومت بالایی دارند زیرا سیاه و سفید هستند و قابل مذاکره نیستند. وقتی سعی می‌کنید توضیح دهید که چرا وجوه کاربران را با استدلال بزرگ "آینده‌نگری" اختلاس کرده‌اید، قانون سخت‌گیرانه "دزدی نکنید" مستقیماً با شما روبرو خواهد شد: دزدی، دزدی است، درباره اینکه برای انقلاب مالی بزرگ است صحبت نکنید.

دوم، "موقعیت" صحیح را حفظ کنید، حتی شامل موقعیت فیزیکی.

همانطور که می‌گویند، جایی که نشسته‌اید تعیین می‌کند کجا ایستاده‌اید. اگر هر روز خود را با افرادی که درگیر شتاب‌گرایی هوش مصنوعی در اتاق پژواک (echo chamber) منطقه خلیج سان‌فرانسیسکو هستند محاصره کنید، سالم ماندن دشوار است. ویتالیک حتی یک پیشنهاد با مقاومت بالا در سطح فیزیکی ارائه می‌دهد: در منطقه خلیج سان‌فرانسیسکو زندگی نکنید.

5. نتیجه‌گیری

این مقاله ویتالیک در واقع هشداری به آن نخبگان بسیار باهوش است: فکر نکنید که فقط به این دلیل که IQ بالایی دارید، می‌توانید از مرزهای اخلاقی اساسی عبور کنید.

نظریه‌های "مغز کهکشانی" که به نظر می‌رسد می‌توانند همه چیز را توضیح دهند، اغلب خطرناک‌ترین بهانه‌های جهانی هستند. از سوی دیگر، قوانین "با مقاومت بالا" که ظاهراً سخت‌گیرانه و جزمی هستند، آخرین خط دفاعی در برابر خودفریبی هستند.

لینک مقاله اصلی