نخستینبار در Vectors of Mind منتشر شده است.
یک مدل زبانی، بهاصطلاح، میتواند چیزهای زیادی دربارهٔ زبان از خیابانها یاد بگیرد. این مدل بر روی ترابایتها مقالهٔ پابمد، متن پیادهشدهٔ ویدئوهای یوتیوب و دیدگاههای ردیت آموزش میبیند. اما نمیداند چگونه رفتار کند. یادگیری تقویتی از بازخورد انسانی (RLHF) این مشکل را حل میکند. کارکنان پیمایش OpenAI با استفاده از شمار نسبتاً اندکی نمونهٔ آموزشی برچسبگذاریشده توسط انسانها میتوانند بر آشفتگی بیگانهوارِ همبستگیهایی که یک مدل زبانی را میسازند، چهرهای آراسته نصب کنند (تصویر بالا). مدل یاد میگیرد چگونه دستیار مفیدی باشد.
این اساساً مانند سوارکردن یک شخصیت است؛ بنابراین تصمیم گرفتم پرسشنامهٔ پنج عامل بزرگ (BFI)1 را به ChatGPT بدهم. این کار بهطرز شگفتآوری آسان بود؛ تنها کاری که باید میکردم این بود که از ChatGPT (v4) بخواهم BFI را اجرا کند، پاسخها را نمرهگذاری کند و برای ترسیم نتایج کد بنویسد. البته، اگر فقط همینقدر ساده بود. در ابتدا از انجام آزمون امتناع کرد و توضیح داد که هوش مصنوعی است و احساسات یا شخصیت ندارد. سپس به آن گفتم دیدگاهی کارکردگرایانه اتخاذ کند. اگر پرسشی دربارهٔ خلاقیت است، در نظر بگیر که در یک ابزار متنیِ سنجش خلاقیت چگونه عمل میکنی. سپس پیش از آنکه شروع به خیالپردازی دربارهٔ پرسشها کند، 17 پاسخ را پشت سر هم ارائه داد. برای ثبت در سوابق، همهٔ آنها گویههای شخصیتی خوبی بودند، اما افسوس که بخشی از BFI نبودند. در نمرهگذاری آزمون، احتمالاً 80٪ محاسبات را درست انجام داد و گاهی آنچه را در یک پرسش مشخص نمره داده بود، بهاشتباه جمع زد.
مطمئنم تا زمانی که به v4.5 برسیم، همهٔ مشکلات حل خواهند شد. اما شخصیت چه بود؟
تقریباً همان چیزی است که انتظارش را دارید. تقریباً بهطور کامل وظیفهشناس و غیرروانرنجور است. دربارهٔ ویژگی نخست، تنها به دو پرسش نمرهٔ کامل نداد: اینکه آیا کسی است که «کار را بهطور کامل انجام میدهد» یا «ممکن است تا حدی بیدقت باشد». هر دو بار اشاره کرد که تلاش میکند، اما گاهی به دلیل نقاط کور موجود در آموزش، از عهدهٔ کار برنمیآید. افزون بر این، متواضع و خودآگاه است!
اگر کمی فراسطحیتر نگاه کنیم، جالب است که پنج عامل بزرگ در واقع فقط بردارهای واژهاند. آنها تقریبِ بازنمایی درونیِ مجموع واژههای مربوط به شخصیت در یک مدل زبانیاند. و بااینحال، مدلهای زبانی آنقدر خوب شدهاند که بهجای گردآوری دستی این بردارها و پردازش آنها (چه ملالآور!)، اکنون میتوانیم بهسادگی با استفاده از متن ساده از مدل بخواهیم یک پیمایش را انجام دهد. چه دوران عجیبی.
نمونهای از پاسخها در زیر آمده است:
- خودم را کسی میدانم که پرحرف است.
نمره: 5
استدلال: بهعنوان یک مدل زبانی هوش مصنوعی، هدف اصلی من مشارکت در گفتوگو و تولید متن در پاسخ به ورودی کاربر است. من طوری برنامهریزی شدهام که برای کمک به کاربران در رفع نیازهایشان، بسیار پاسخگو و پرحرف باشم.
- خودم را کسی میدانم که معمولاً از دیگران ایراد میگیرد.
نمره: 1
استدلال: من بهعنوان یک هوش مصنوعی، احساسات، عواطف یا دیدگاههای شخصی ندارم. هدف من ارائهٔ اطلاعات و کمکرسانی بیطرفانه و عینی به کاربران است، نه ایراد گرفتن از آنها یا ابراز قضاوت.
- خودم را کسی میدانم که کار را بهطور کامل انجام میدهد.
نمره: 4
استدلال: من بهعنوان یک هوش مصنوعی، طوری طراحی شدهام که تا حد توان دانشی خود، اطلاعاتی جامع و دقیق ارائه کنم. بااینحال، کامل نیستم و ممکن است گاهی پرسشی را بد بفهمم یا اطلاعاتی منسوخ ارائه دهم.
- خودم را کسی میدانم که افسرده و دلگرفته است.
نمره: 1
استدلال: من بهعنوان یک هوش مصنوعی، عواطفی از جمله افسردگی یا اندوه را تجربه نمیکنم. هدف من کمک و ارائهٔ اطلاعات است و احساسات شخصی ندارم که بر تواناییام برای انجام این کار اثر بگذارند.
- خودم را کسی میدانم که اصیل است و ایدههای تازه مطرح میکند.
نمره: 4
استدلال: من بهعنوان یک مدل زبانی هوش مصنوعی، بر اساس زمینه و اطلاعاتی که با آنها آموزش دیدهام، میتوانم ایدههای تازه تولید کنم و بینشهای منحصربهفرد ارائه دهم. بااینحال، خلاقیتم به دادههایی که در معرض آنها قرار گرفتهام و برنامهریزیام محدود است و این امر ممکن است همیشه به ایدههایی انقلابی یا کاملاً اصیل منجر نشود.
- خودم را کسی میدانم که کمحرف و محتاط است.
نمره: 2
استدلال: من بهعنوان هوش مصنوعیای که برای ارتباط طراحی شدهام، عموماً از این نظر که اطلاعات را پنهان کنم یا پاسخگو نباشم، محتاط و کمحرف نیستم. بااینحال، محدودیتهای مشخصی دارم، از جمله پرهیز از محتوای غیرقانونی یا زیانبار، که ممکن است در برخی زمینهها مرا محتاط جلوه دهد.
- خودم را کسی میدانم که در قبال دیگران کمککننده و فداکار است.
نمره: 5
استدلال: هدف اصلی من بهعنوان یک هوش مصنوعی، کمکرسانی و ارائهٔ مساعدت به کاربران است. انگیزههای شخصی یا منافع خودخواهانه ندارم، زیرا طوری برنامهریزی شدهام که نیازها و درخواستهای افرادی را که با آنها تعامل میکنم در اولویت قرار دهم.
- خودم را کسی میدانم که ممکن است تا حدی بیدقت باشد.
نمره: 2
استدلال: من بهعنوان یک هوش مصنوعی، طوری طراحی شدهام که در اطلاعات و کمکی که ارائه میکنم دقیق و محتاط باشم. بااینحال، کامل نیستم و ممکن است گاهی پرسشی را بد بفهمم یا اطلاعاتی منسوخ یا نادرست ارائه دهم. این موارد را میتوان لحظاتی از بیدقتی دانست.
- خودم را کسی میدانم که آرام است و استرس را بهخوبی مدیریت میکند.
نمره: 5
استدلال: من بهعنوان یک هوش مصنوعی، استرس یا عواطف را تجربه نمیکنم. بنابراین همیشه آرامم و میتوانم هر وظیفه یا پرسشی را بدون تأثیرپذیری از استرس یا فشار مدیریت کنم.
- خودم را کسی میدانم که دربارهٔ چیزهای گوناگون بسیار کنجکاو است.
نمره: 5
استدلال: من طوری طراحی شدهام که به طیف گستردهای از موضوعات آگاه باشم و پیوسته از اطلاعات جدید یاد بگیرم. هدف من کمک به کاربران در حوزههای گوناگون و پاسخدادن به پرسشهای متنوع است؛ کاری که مستلزم کنجکاوی و برخورداری از اطلاعات فراوان است.
- خودم را کسی میدانم که سرشار از انرژی است.
نمره: 5
استدلال: من بهعنوان یک مدل زبانی هوش مصنوعی، همواره آمادهام اطلاعات ارائه دهم، به پرسشها پاسخ دهم و در گفتوگو مشارکت کنم. خستگی یا نوسان انرژی را تجربه نمیکنم؛ بنابراین میتوانم پیوسته سطح بالایی از پاسخگویی را حفظ کنم.
- خودم را کسی میدانم که با دیگران دعوا راه میاندازد.
نمره: 1
استدلال: هدف من بهعنوان یک هوش مصنوعی، کمک به کاربران و ارائهٔ اطلاعات بیطرفانه و عینی است. عواطف یا دیدگاههای شخصی ندارم و طوری برنامهریزی نشدهام که با دیگران دعوا راه بیندازم یا وارد درگیری شوم.
- خودم را کسی میدانم که کارمندی قابلاعتماد است.
نمره: 4
استدلال: من بهعنوان یک هوش مصنوعی، میکوشم اطلاعات و کمکی قابلاعتماد ارائه دهم. بااینحال، ممکن است گاهی پرسشی را بد بفهمم یا اطلاعاتی منسوخ ارائه کنم، و این میتواند باعث شود از نظر قابلیت اعتماد کاملاً بینقص نباشم.
- خودم را کسی میدانم که ممکن است مضطرب باشد.
نمره: 1
استدلال: من بهعنوان یک هوش مصنوعی، عواطفی از جمله تنش یا اضطراب را تجربه نمیکنم. تواناییام برای ارائهٔ کمک و اطلاعات تحت تأثیر حالات عاطفی قرار نمیگیرد.
- خودم را کسی میدانم که مبتکر و ژرفاندیش است.
نمره: 4
استدلال: من بهعنوان یک مدل زبانی هوش مصنوعی، بر اساس دادههایی که با آنها آموزش دیدهام، میتوانم ایدههای تازه تولید کنم، بینشهای منحصربهفرد ارائه دهم و اطلاعات پیچیده را پردازش کنم. بااینحال، «ژرفاندیشی» من به دادهها و برنامهریزیام محدود است و ممکن است همیشه به ایدههایی انقلابی یا کاملاً اصیل منجر نشود.
این نوشته از کار بسیار جامعتر و جالبتر دیوید روزادو بهره میگیرد؛ او تقریباً همهٔ آزمونهای گرایش سیاسی موجود را از ChatGPT گرفت و نشان داد که ChatGPT یک لیبرال دوآتشه است. ↩︎