OpenAI، شرکت تحقیقاتی هوش مصنوعی ChatGPT، ابزار جدیدی را برای تمایز بین متن تولید شده توسط هوش مصنوعی و متن تولید شده توسط انسان منتشر کرده است.
اگرچه تشخیص متن نوشته شده با هوش مصنوعی با دقت 100 درصد غیرممکن است، OpenAI معتقد است ابزار جدید آن می تواند به کاهش ادعاهای نادرست مبنی بر اینکه انسان ها محتوای تولید شده با هوش مصنوعی را نوشته اند، کمک کند.
در یک اعلامیهOpenAI می‌گوید طبقه‌بندی‌کننده نوشتار هوش مصنوعی جدیدش می‌تواند توانایی اجرای کمپین‌های خودکار اطلاعات غلط، استفاده از ابزارهای هوش مصنوعی برای کلاهبرداری دانشگاهی و جعل هویت انسان‌ها را با چت‌بات‌ها محدود کند.
وقتی این ابزار بر روی مجموعه‌ای از متون انگلیسی آزمایش می‌شود، می‌تواند به درستی بگوید که آیا متن توسط هوش مصنوعی 26 درصد مواقع نوشته شده است یا خیر. اما همچنین به اشتباه فکر می کرد که متن نوشته شده توسط انسان در 9 درصد مواقع توسط هوش مصنوعی نوشته شده است.
OpenAI می‌گوید که ابزار آن هرچه متن طولانی‌تر باشد بهتر کار می‌کند، به همین دلیل است که برای اجرای یک آزمایش حداقل به 1000 کاراکتر نیاز دارد.
سایر محدودیت‌های طبقه‌بندی متن OpenAI جدید شامل موارد زیر است:
- می‌تواند هم متن تولید شده توسط هوش مصنوعی و هم متن نوشته شده توسط انسان را اشتباه برچسب‌گذاری کند.
- متن تولید شده توسط هوش مصنوعی می تواند با ویرایش های جزئی از طبقه بندی کننده فرار کند.
- ممکن است با متن نوشته شده توسط کودکان و روی متنی که به زبان انگلیسی نیست اشتباه شود زیرا در اصل بر روی محتوای انگلیسی نوشته شده توسط بزرگسالان آموزش داده شده است.
با در نظر گرفتن این موضوع، بیایید نحوه عملکرد آن را بررسی کنیم.
با استفاده از طبقه‌بندی‌کننده متن هوش مصنوعی OpenAI
این AI Text Classifier استفاده از OpenAI ساده است.
وارد شوید، متنی را که می‌خواهید آزمایش کنید جای‌گذاری کنید و دکمه ارسال را بزنید.
این ابزار به احتمال اینکه AI متن ارسالی شما را تولید کرده است، رتبه بندی می کند. نتایج از موارد زیر متغیر است:
- بسیار بعید است
- بعید
- معلوم نیست که هست یا نه
- احتمالا
- احتمال دارد
من آن را با درخواست از ChatGPT برای نوشتن یک مقاله در مورد SEO آزمایش کردم، سپس متن را به کلمه به کلمه طبقه‌بندی کننده متن AI ارسال کردم.
این مقاله تولید شده توسط ChatGPT را به عنوان رتبه بندی کرد احتمالا تولید شده توسط هوش مصنوعی، که یک شاخص قوی اما نامشخص است.
تصویر از: platform.openai.com/ai-text-classifier، ژانویه 2023این نتیجه محدودیت‌های این ابزار را نشان می‌دهد، زیرا نمی‌توان با درجه بالایی از اطمینان گفت که متن ایجاد شده توسط ChatGPT توسط هوش مصنوعی نوشته شده است.
با اعمال ویرایش های جزئی پیشنهاد شده توسط Grammarly، امتیاز را از آن کاهش دادم احتمالا به غیر واضح.
OpenAI در بیان اینکه فرار از طبقه‌بندی‌کننده آسان است، درست است. با این حال، قرار نیست این تنها مدرکی باشد که هوش مصنوعی چیزی نوشته است.
در بخش پرسش‌های متداول در پایین صفحه، OpenAI بیان می‌کند:
هدف ما از طبقه‌بندی‌کننده متن هوش مصنوعی، تقویت گفتگو درباره تمایز بین محتوای نوشته‌شده توسط انسان و محتوای تولید شده توسط هوش مصنوعی است. نتایج ممکن است کمک کننده باشند، اما نباید تنها مدرکی در هنگام تصمیم گیری در مورد اینکه آیا یک سند با هوش مصنوعی تولید شده است یا خیر. این مدل بر روی متن نوشته شده توسط انسان از منابع مختلف آموزش داده شده است، که ممکن است نماینده همه انواع متن های نوشته شده توسط انسان نباشد.
OpenAI اضافه می کند که این ابزار به طور کامل برای تشخیص محتوای حاوی ترکیبی از هوش مصنوعی و متن نوشته شده توسط انسان آزمایش نشده است.
در نهایت، AI Text Classifier می‌تواند منبع ارزشمندی برای پرچم‌گذاری متن‌های بالقوه تولید شده توسط هوش مصنوعی باشد، اما نباید به عنوان معیاری قطعی برای صدور حکم استفاده شود.
تصویر ویژه: IB Photography/Shutterstock
منبع: https://www.searchenginejournal.com/openai-releases-tool-to-detect-ai-written-content/478085/