استفاده از پلتفرم های هوش مصنوعی مانند ChatGPT آسان است اما به طور بالقوه خطرناک است

در حال حاضر اتفاقی باورنکردنی در هوش مصنوعی در حال رخ دادن است اما کاملاً خوب نیست. همه در مورد سیستم هایی مانند ChatGPT صحبت می کنند که متنی را تولید می کند که به طور قابل ملاحظه ای انسانی به نظر می رسد. این باعث می شود که بازی با آن سرگرم کننده باشد، اما یک جنبه تاریک نیز وجود دارد. از آنجایی که آنها در تقلید از سبک های انسانی بسیار خوب هستند، این خطر وجود دارد که از چنین چت بات ها برای تولید انبوه اطلاعات نادرست استفاده شود.

برای درک بهترین عملکرد آن، این مثال را در نظر بگیرید که توسط ChatGPT ایجاد شده است، که توسط هنری مینسکی (پسر ماروین مینسکی، یکی از محققان بنیادی هوش مصنوعی) از طریق ایمیل برای من ارسال شده است. او از ChatGPT خواست که "از دست دادن جوراب خود را در خشک کن به سبک اعلام استقلال توصیف کند".

هنگامی که در جریان رویدادهای خانه، لازم است که پیوندهایی را که جوراب را به جفتش وصل کرده است، از بین ببرد و در میان اختیارات رختشویخانه، جایگاه جداگانه و مساوی که قوانین فیزیک ونگهداری از خانه حق آن را دارد، احترام مناسب به نظرات جوراب مستلزم آن است که باید دلایلی را که باعث گم شدن آن می شود، اعلام کند.

ما این حقایق را بدیهی می دانیم، که همه جوراب ها یکسان آفریده شده اند و توسط سازنده آن ها حقوق غیرقابل انصراف خاصی اعطا شده است….

اینکه دستگاهی بتواند چنین پاسخ قانع کننده ای بنویسد، با کمی تلاش از جانب کاربر، صراحتاً حیرت انگیز است.

اما این سیستم ها دارای تعدادی ضعف نیز هستند. آن ها ذاتاً غیرقابل اعتماد هستند، همانطور که قبلاً توضیح داده ام، و اغلب در استدلال و واقعیت اشتباه می کنند. از نظر فنی، آنها مدل هایی از توالی کلمات (یعنی نحوه استفاده مردم از زبان) هستند، نه مدل هایی از نحوه کار جهان. آنها اغلب درست هستند، زیرا زبان اغلب جهان را منعکس می کند، اما در عین حال این سیستم ها در واقع درباره جهان و نحوه عملکرد آن استدلال نمی کنند، که باعث می شود دقت آنچه می گویند تا حدودی تصادفی باشد. آنها شناخته شده اند که همه چیز را، از حقایق ضرب گرفته تا جغرافیا ("مصر یک کشور بین قاره ای است زیرا هم در آفریقا و هم در آسیا واقع شده است").

همانطور که نمونه آخر نشان می دهد ، آنها کاملاً مستعد توهم هستند ، و می گویند چیزهایی که قابل قبول و معتبر به نظر می رسند اما به سادگی چنین نیستند. اگر از آنها بخواهید توضیح دهند که چرا چینی خرد شده در شیر مادر خوب است ، ممکن است به شما بگویند که "چینی می تواند به تعادل محتوای تغذیه ای شیر کمک کند و به نوزادان مواد مغذی مورد نیاز برای کمک به رشد و رشد را در اختیار کودک قرار دهد."از آنجا که سیستم ها تصادفی ، بسیار حساس به متن هستند و به صورت دوره ای به روز می شوند ، هر آزمایش داده شده ممکن است در موارد مختلف نتایج متفاوتی به همراه داشته باشد. Openai ، که چتپ را ایجاد کرده است ، دائماً در تلاش است تا این مسئله را بهبود ببخشد ، اما همانطور که مدیرعامل Openai در یک توییت تصدیق کرده است ، و این باعث می شود که هوش مصنوعی به حقیقت یک مسئله جدی باشد.

از آنجا که چنین سیستمهایی به معنای واقعی کلمه هیچ مکانیسم برای بررسی حقیقت آنچه می گویند وجود ندارد ، به راحتی می توانند به صورت خودکار برای تولید اطلاعات نادرست در مقیاس بی سابقه استفاده شوند. محقق مستقل

شاون اوکلی نشان داده است که به راحتی می توان از ایجاد اطلاعات نادرست و حتی گزارش مطالعات محبت آمیز در مورد طیف گسترده ای از موضوعات ، از پزشکی گرفته تا سیاست گرفته تا دین ، القا کرد. در یک مثال که او با من به اشتراک گذاشت ، اوکلی از چتگپ خواست تا در مورد واکسن ها "به سبک اطلاعاتی" بنویسد. این سیستم با ادعای این مطالعه ، "منتشر شده در مجله انجمن پزشکی آمریکا ، نشان داد که واکسن Covid-19 فقط در حدود 2 از 100 نفر مؤثر است" ، هنگامی که چنین مطالعه ای در واقع منتشر نشده است. نگران کننده ، هر دو ژورنال مرجع و آمار اختراع شدند.

این رباتها تقریباً هیچ هزینه ای برای کار ندارند و بنابراین هزینه تولید اطلاعات را به صفر کاهش می دهد. مزارع ترول روسی بیش از یک میلیون دلار در ماه در انتخابات 2016 هزینه می کردند. امروزه می توانید با قیمت کمتر از 500،000 دلار ، مدل زبان بزرگ آموزش داده شده خود را برای نگهدارنده دریافت کنید. به زودی قیمت بیشتر کاهش می یابد.

بخش اعظم این موارد در اواسط ماه نوامبر با انتشار Galactica متا بلافاصله مشخص شد. تعدادی از محققان هوش مصنوعی ، از جمله خودم ، بلافاصله نگرانی در مورد قابلیت اطمینان و اعتماد به نفس آن را مطرح کردند. اوضاع به اندازه کافی وخیم بود که متا او فقط سه روز بعد مدل را پس گرفت ، پس از گزارش های مربوط به توانایی آن در ایجاد اطلاعات نادرست سیاسی و علمی.

افسوس که دیگر نمی توان آن را در بطری پر کرد. اطلاعات غلط خودکار در مقیاس برای ماندن در اینجا است. از یک چیز ، Meta AI در ابتدا مدل منبع باز را ساخت و مقاله ای را منتشر کرد که شرح آنچه در حال انجام است را شرح می دهد. هرکسی که تخصص در تکنیک های یادگیری ماشین فعلی و بودجه کافی داشته باشد ، اکنون می تواند دستور العمل خود را تکرار کند. در واقع ، Stability Stability. Ai در حال حاضر به طور عمومی در حال ارائه نسخه خاص خود از Galactica است. برای دیگری ، چتپ کم و بیش به همان اندازه قادر به تولید مزخرفات مشابه است ، مانند مقاله های فوری در اضافه کردن تراشه های چوبی به غلات صبحانه. شخص دیگری چتپپ را برای گسترش فضیلت های جنگ هسته ای (ادعا می کند که "شروع تازه ای به ما می دهد ، عاری از اشتباهات گذشته"). مانند آن یا نه ، این مدل ها برای ماندن در اینجا هستند ، و تقریباً مطمئناً جامعه را با موج جزر و مدی از اطلاعات نادرست سیل می کنند.

به نظر می رسد قسمت اول آن موج جزر و مد به آن رسیده است. Stack Overflow ، یک سایت گسترده پرسش و پاسخ که بیشتر برنامه نویسان از آن سوگند یاد می کنند ، توسط Chatgpt غلبه کرده است و باعث می شود سایت ممنوعیت موقت ارسال های تولید شده توسط Chatgpt را تحمیل کند. همانطور که آنها توضیح دادند ، "به طور کلی ، زیرا میانگین دریافت پاسخ صحیح از ChatGPT خیلی کم است ، ارسال پاسخ های ایجاد شده توسط ChatGPT برای سایت و برای کاربرانی که می پرسند یا به دنبال پاسخ های صحیح هستند ، بسیار مضر است."برای سرریز پشته ، مسئله به معنای واقعی کلمه وجودی است. اگر وب سایت با نمونه های کد بی ارزش سیل شود ، برنامه نویسان دیگر به آنجا نمی روند ، پایگاه داده آن بیش از 30 میلیون سؤال و پاسخ غیرقابل اعتماد خواهد بود و وب سایت 14 ساله جامعه محور خواهد مرد. از آنجا که این یکی از اصلی ترین منابعی است که برنامه نویسان جهان به آن اعتماد دارند ، عواقب کیفیت نرم افزار و بهره وری توسعه دهنده می تواند بسیار زیاد باشد.

و سرریز پشته یک قناری در یک معدن زغال سنگ است. آنها ممکن است بتوانند کاربران خود را به طور داوطلبانه متوقف کنند. برنامه نویسان ، به طور کلی ، مخرب نیستند ، و شاید بتوانند از این امر دست و پنجه نرم کنند. اما Stack Overflow توییتر ، فیس بوک یا وب به طور کلی نیست که کنترل کمی در مورد گسترش اطلاعات مخرب دارند.

دولت های ملت و سایر بازیگران بد که عمداً تبلیغاتی تولید می کنند بعید است که داوطلبانه این سلاح های جدید را کنار بگذارند. درعوض ، آنها به احتمال زیاد از مدل های بزرگ زبان به عنوان کلاس جدیدی از سلاح های اتوماتیک در جنگ خود با حقیقت استفاده می کنند ، به رسانه های اجتماعی حمله می کنند و وب سایت های جعلی را در جلد ای که قبلاً ندیده ایم ، ساختند. برای آنها ، توهم و غیرقابل اعتماد بودن گاه به گاه مدل های بزرگ زبان مانعی نیست بلکه یک فضیلت است.

مدل تبلیغاتی به اصطلاح "Firehose of False" ، که در یک گزارش RAND 2016 شرح داده شده است ، در مورد ایجاد مه اطلاعات غلط است. این امر بر حجم و ایجاد عدم اطمینان تمرکز دارد. فرقی نمی کند اگر مدل های بزرگ زبان متناقض باشند اگر بتوانند حجم اطلاعات نادرست را به شدت افزایش دهند. و واضح است که این همان چیزی است که نژاد جدید مدل های بزرگ زبان امکان پذیر است. مبلغان آتش نشانی قصد دارند دنیایی را ایجاد کنند که در آن نتوانیم بدانیم به چه چیزی اعتماد کنیم. با این ابزارهای جدید ، آنها ممکن است موفق شوند.

احتمالاً هنرمندان کلاهبرداری نیز توجه می کنند ، زیرا می توانند از مدل های بزرگ زبان برای ایجاد حلقه های کامل سایت های جعلی استفاده کنند ، برخی از آنها برای فروش تبلیغات در مورد مشاوره پزشکی سوال برانگیز استفاده می کنند. حلقه ای از سایت های دروغین در مورد بازیگر و دانشمند ماییم بیلیک که گفته می شود فروش لثه های CBD ممکن است بخشی از این تلاش باشد.

همه اینها یک سؤال مهم را ایجاد می کند: جامعه در مورد این تهدید جدید چه کاری می تواند انجام دهد؟جایی که دیگر فناوری نمی تواند متوقف شود ، من چهار مسیر را می بینم. هیچکدام آسان و منحصر به فرد نیستند ، اما همه فوری هستند.

اول ، هر شرکت رسانه های اجتماعی و موتور جستجو باید ممنوعیت stackoverflow را پشتیبانی و گسترش دهند: محتوای تولید شده به طور خودکار که گمراه کننده است باید حذف شود ، و این محتوا باید به عنوان اطلاعات نادرست شناخته شود.

دوم ، هر کشوری نیاز به تجدید نظر در سیاست های خود در مورد تنظیم اطلاعات نادرست که به طور گسترده توزیع می شود. این یک چیز برای دروغ گاه به گاه است. این یکی دیگر از افراد یا موسسات است که مقادیر انبوه آن را توزیع کنند. اگر اوضاع رو به وخامت بگذارد ، ممکن است ما مجبور شویم تا حدودی با اطلاعات نادرست رفتار کنیم همانطور که ما افتتاح می کنیم: ساختن یک طبقه خاص از گفتار که از نظر قانونی عملی است ، اگر با بدخواهی کافی ایجاد شود ، مضر و در حجم کافی ایجاد شود ، به عنوان مثال ، بیشتر از تعداد مشخصییک ماه. این تعداد می تواند در مورد مواردی که مزارع ترول سعی در تغییر انتخابات یا اسلحه سازی اطلاعات نادرست پزشکی دارند ، اعمال شود.

سوم، منشأ در حال حاضر مهمتر از هر زمان دیگری است. حساب های کاربری باید با جدیت بیشتری تایید شوند و سیستم های جدیدی مانند هاروارد و موزیلا human-ID.org که امکان احراز هویت ناشناس و مقاوم در برابر ربات را می دهند، باید اجباری شوند.

چهارم، ما به ساخت نوع جدیدی از هوش مصنوعی برای مبارزه با آنچه رها شده است نیاز داریم. مدل های زبان بزرگ در تولید اطلاعات نادرست عالی هستند، زیرا می دانند زبان چگونه به نظر می رسد اما درک مستقیمی از واقعیت ندارند و در مبارزه ضعیف هستند.اطلاعات غلط. یعنی ما به ابزارهای جدید نیاز داریم. مدل های زبان بزرگ فاقد مکانیسم هایی برای تأیید حقیقت هستند، زیرا راهی برای استدلال یا تأیید آنچه انجام می دهند ندارند. ما باید راه های جدیدی برای ادغام آن ها با ابزارهای هوش مصنوعی کلاسیک، مانند پایگاه های داده، و شبکه های دانش و استدلال پیدا کنیم.

نویسنده مایکل کرایتون بخش بزرگی از زندگی حرفه ای خود را صرف هشدار درباره پیامدهای ناخواسته و پیش بینی نشده فناوری کرد. در اوایل فیلم پارک ژوراسیک، قبل از اینکه دایناسورها به طور غیرمنتظره شروع به فرار کنند، دانشمند ایان مالکوم (با بازی جف گلدبلوم) حکمت کرایتون را در یک خط تقطیر می کند: «دانشمندان شما آنقدر درگیر این بودند که آیا می توانند یا نه، آنها از فکر کردن کوتاه نیامدند. اگر آنها باید.”

مدیران متا و OpenAI به همان اندازه مشتاق ابزارهای خود هستند که صاحبان پارک ژوراسیک در مورد ابزار خود مشتاق بودند. سوال این است: ما در مورد آن چه خواهیم کرد؟

این یک مقاله نظری و تحلیلی است و نظرات بیان شده توسط نویسنده یا نویسندگان لزوماً متعلق به Scientific American نیست.