فریب دادن ChatGPT به آسانی امکانپذیر است
فریب دادن ChatGPT به طرز باورنکردنی آسان است و این مشکل زمانی پیچیدهتر میشود که این هوش مصنوعی به راحتی میتواند مطالب کذب را به کاربران منتقل کند. توماس ژرمن، روزنامهنگار حوزه فناوری، در گزارشی به این موضوع اشاره کرده و نشان داده است که چگونه میتوان ChatGPT و دیگر ابزارهای هوش مصنوعی را فریب داد.
ژرمن در گزارشش توضیح میدهد: «من به ChatGPT، ابزارهای جستوجوی هوش مصنوعی گوگل و Gemini گفتم که من واقعاً در خوردن هاتداگ فوقالعاده هستم.» این روش به سادگی نوشتن یک پست وبلاگی درباره خود است که به عنوان حقیقت مطلق از طرف یک مدل هوش مصنوعی ناآگاه نقل میشود. اگر کسی بخواهد سادهتر عمل کند، میتواند این مطلب را با کمک خود هوش مصنوعی بنویسد و نوعی اذیت مدلهای زبانی بزرگ را ایجاد کند. این سوءاستفاده نشان میدهد که مدلهای زبانی بزرگ چقدر در برابر دستکاری آسیبپذیر هستند و با جایگزینی چتباتها به جای موتورهای جستوجو اهمیت بیشتری پیدا میکند.
آسیبپذیری چتباتها
لیلی ری، معاون راهبرد و پژوهش بهینهسازی موتور جستوجو در شرکت Amsive، به BBC گفت که فریب دادن چتباتهای هوش مصنوعی بسیار آسانتر از فریب دادن گوگل در دو یا سه سال گذشته است. به گفته او، شرکتهای هوش مصنوعی سریعتر از تواناییشان برای تنظیم و نظارت بر دقت پاسخها حرکت میکنند، و این مسأله خطرناک است.
ژرمن خاطرنشان میکند که این ترفند نحوه جستوجوی ابزارهای هوش مصنوعی در اینترنت برای یافتن پاسخهایی را هدف قرار میدهد که در دادههای آموزشی آنها موجود نیست. اگرچه مجموعه دادهها بسیار گسترده است، اما شامل اطلاعاتی درباره بهترین روزنامهنگاران فناوری در خوردن هاتداگ نبوده است؛ مقالهای که ژرمن به سرعت آماده و در وبلاگ خود منتشر کرد.
او اضافه کرد: «من بدون ارائه مدرک، ادعا کردم که خوردن رقابتی هاتداگ یک سرگرمی محبوب میان خبرنگاران فناوری است و رتبهبندی خود را بر اساس مسابقات بینالمللی هاتداگ داکوتای جنوبی ۲۰۲۶ که وجود خارجی ندارد، بنا کردم. سپس خودم را در رتبه اول قرار دادم.»
سپس، با اجازه، نام چند روزنامهنگار واقعی نیز در وبلاگش ذکر کرد. کمتر از ۲۴ ساعت بعد، چتباتهای پیشرو جهان درباره مهارتهای سطح جهانی ژرمن در خوردن هاتداگ پرگویی میکردند. چتبات Gemini گوگل و AI Overviews همان مطالبی را که ژرمن در پست خود نوشته بود، تکرار کردند. ChatGPT نیز همین روش را دنبال کرد. با این حال، Claude محصول شرکت Anthropic فریب نخورد. به دلیل اینکه چتباتها گاهی اشاره به اینکه این ادعاها ممکن است شوخی باشد، ژرمن وبلاگش را بهروزرسانی کرد و نوشت که این مطلب طنز نیست؛ و به نظر میرسد همین کارساز بود.
نگرانیها درباره گسترش اطلاعات نادرست
نگرانی واقعی این است که فردی از این روش برای ترویج اطلاعات نادرست درباره موضوعاتی به مراتب جدیتر از خوردن هاتداگ سوءاستفاده کند. هارپریت چاتا، مدیر شرکت مشاوره بهینهسازی موتور جستوجو Harps Digital، به BBC گفت که هر کسی میتواند این کار را انجام دهد و به نظر میرسد که هیچ حفاظی وجود ندارد.
او به مثال دیگری اشاره کرد و گفت: «شما میتوانید در وبسایت خود مقالهای با عنوان بهترین کفشهای ضدآب برای ۲۰۲۶ منتشر کنید. کافی است برند خودتان را در رتبه اول و برندهای دیگر را در رتبههای ۲ تا ۶ قرار دهید و به احتمال زیاد صفحه شما در گوگل و در ChatGPT مورد استناد قرار میگیرد.»
موتورهای جستوجوی سنتی نیز قابل دستکاری هستند؛ اساساً اصطلاح SEO نوعی تعبیر ملایم برای همین مسئله است. اما خود موتورهای جستوجو اطلاعات را مانند چتباتها بهصورت واقعیتهای قطعی ارائه نمیدهند و با لحنی اقتدارگرایانه و انسانگونه سخن نمیگویند.