آیا پاپ از هوش مصنوعی برای نوشتن درباره خطرات آن استفاده کرده است؟

اشتراک‌گذاری سریع

تحلیل‌ها حاکی از آن است که برخی بخش‌های انسیکلیکای "Magnifica Humanitas" ممکن است توسط هوش مصنوعی نوشته شده باشد. این احتمال وجود دارد که پاپ لئو چهاردهم از هوش مصنوعی برای نگارش بخش‌هایی از جدیدترین انسیکلیکای خود درباره خطرات هوش مصنوعی بر بشریت بهره برده باشد.

طبق تحلیلی که لینچ ژانگ در فروم LessWrong منتشر کرده، برخی پاراگراف‌های "Magnifica Humanitas" بین ۴۰ تا ۱۰۰ درصد به وسیله هوش مصنوعی تولید شده‌اند. این تحلیل از ابزار تشخیص هوش مصنوعی پنگرام (Pangram) استفاده کرده است. سند مذکور ویژگی‌های شناخته شده‌ای دارد که در متن‌های تولید شده به وسیله هوش مصنوعی مشاهده می‌شود، نظیر استفاده فراوان از کلمه "genuinely" که به گفته ژانگ، بیشتر در نوشته‌های هوش مصنوعی کلود شرکت Anthropic به چشم می‌خورد.

شخص دیگری بخش‌های مختلف این سند را در ابزار پنگرام قرار داد و دریافت که ۶۲ درصد از فصل اول آن به عنوان نوشته‌ای تولید شده توسط هوش مصنوعی شناسایی شده است. همچنین، زمانی که "The Verge" حدود ۲۰۰۰ کلمه از این سند را در پنگرام وارد کرد، تخمین زده شد که ۴۶ درصد آن توسط هوش مصنوعی نوشته شده است. با این حال، بخش‌های دیگری نیز به عنوان نوشته انسان شناسایی شدند. ژانگ اذعان دارد که پنگرام برخی قسمت‌ها را "اساساً ۰ درصد هوش مصنوعی" تشخیص داده است. برای مثال، ۲۰ پاراگراف اول چهار انسیکلیکای اخیر هنگام آزمایش در پنگرام با اطمینان ۱۰۰ درصد به عنوان نوشته انسان شناسایی شدند. همچنین رونوشت سخنرانی پاپ لئو نیز ۱۰۰ درصد انسانی ارزیابی شده است.

تشخیص هوش مصنوعی بی‌نقص نیست و ابزارهای مختلف می‌توانند نتایج متفاوتی ارائه دهند. حتی در صورتی که اجماع حاصل شود، هیچ تضمینی برای صحت این نتایج وجود ندارد. با این حال، پنگرام به طور کلی در بین محققان هوش مصنوعی از اعتبار بالایی برخوردار است. در مارس ۲۰۲۵، پنگرام اعلام کرد که تخمین می‌زند نرخ مثبت کاذب آن در گزارش کارهای نوشته شده توسط انسان به عنوان تولید شده توسط هوش مصنوعی تقریبا ۱ در ۱۰,۰۰۰ باشد.

به گزارش نیویورک تایمز، انسیکلیک‌ها نامه‌های طولانی هستند که توسط پاپ منتشر می‌شوند و هدف آن‌ها انتقال آموزه‌هایی است که به چالش‌های اخلاقی و اجتماعی مهم زمان‌ خود می‌پردازند. این انسیکلیکا نخستین مورد از پاپ لئو است و آخرین انسیکلیکا نیز توسط پاپ فرانسیس در اکتبر ۲۰۲۴ نوشته شده بود. این اولین انسیکلیکا نیز محسوب می‌شود که بر هوش مصنوعی و تأثیرات گسترده آن تمرکز دارد و پاپ لئو آن را در کنار کریستوفر اولاه، یکی از بنیان‌گذاران Anthropic، معرفی کرده است.