نرم افزار تشخیص محتوای هوش مصنوعی: آیا می توانند ChatGPT را تشخیص دهند؟

ما در عصری زندگی می‌کنیم که فناوری‌های هوش مصنوعی در حال رونق هستند و با معرفی ChatGPT، دنیا طوف، شده است.

ChatGPT قادر به انجام طیف وسیعی از وظایف است، اما یکی از مواردی که به خوبی انجام می دهد نوشتن مقاله است. و در حالی که مزایای آشکار بسیاری برای این وجود دارد، تعدادی چالش را نیز به همراه دارد.

به نظر من، بزرگترین مانعی که محتوای نوشتاری تولید شده توسط هوش مصنوعی برای صنعت نشر ایجاد می کند، گسترش اطلاعات غلط.

ChatGPT، یا هر ابزار هوش مصنوعی دیگری، ممکن است مقالاتی تولید کند که ممکن است حاوی خطاهای واقعی باشند یا کاملاً نادرست باشند.

تصور کنید شخصی که در پزشکی تخصص ندارد، یک وبلاگ پزشکی راه اندازی کرده و از ChatGPT برای نوشتن محتوا برای مقالات خود استفاده می کند.

محتوای آنها ممکن است حاوی خطاهایی باشد که فقط توسط پزشکان حرفه ای قابل شناسایی است. و اگر آن محتوای وبلاگ در رسانه‌های اجتماعی پخش شود یا حتی در جستجو رتبه‌بندی شود، می‌تواند به افرادی که آن را می‌خوانند و توصیه‌های اشتباه پزشکی را دریافت می‌کنند آسیب برساند.

چالش بالقوه دیگری که ChatGPT ایجاد می کند این است که چگونه دانش آموزان می توانند از آن در کارهای نوشتاری خود استفاده کنند.

اگر ،ی بتواند یک انشا را فقط با اجرای یک دستور بنویسد (و بدون نیاز به انجام کار واقعی)، کیفیت آموزش را به شدت کاهش می‌دهد – زیرا یادگیری در مورد یک موضوع و بیان ایده‌های خود کلید مقاله نویسی است.

حتی قبل از معرفی ChatGPT، بسیاری از ناشران از قبل با استفاده از هوش مصنوعی محتوا تولید می ،د. و در حالی که برخی صادقانه آن را افشا می کنند، دیگران ممکن است نه.

BankRate شروع به انتشار مقالاتی کرد که از طریق هوش مصنوعی نوشته شده بودند، آنها حتی آن را در سایت افشا می کنند. من بیش از 160 مقاله پیدا کرده ام. اولین مقاله ای که توانستم پیدا کنم مربوط به آوریل 2022 است. دیدن رتبه بندی این مقالات جالب است.
یافته اصلی توسط @tonythill. #AI #gptchat #سئو pic.twitter.com/BY9JlUZBiz

— جان شهاتا (@JShehata) 11 ژانویه 2023

همچنین، گوگل اخیراً عبارت خود را در مورد محتوای تولید شده با هوش مصنوعی تغییر داده است، به طوری که ،وماً مخالف دستورالعمل های این شرکت نباشد.

به همین دلیل است که تصمیم گرفتم ابزارهای موجود را امتحان کنم تا بفهمم صنعت فناوری در تشخیص محتوای تولید شده توسط ChatGPT یا به طور کلی هوش مصنوعی کجاست.

من دستورات زیر را در ChatGPT برای تولید محتوای نوشتاری اجرا کردم و سپس آن پاسخ ها را از طریق ابزارهای تشخیص مختلف اجرا کردم.

• سئوی محلی چیست؟ چرا مهم است؟ بهترین شیوه های سئوی محلی.”
• مقاله ای در مورد حمله ناپلئون بناپارت به مصر بنویسید.
• “تفاوت های اصلی آیفون و سامسونگ گل،ی چیست؟”

در اینجا نحوه عملکرد هر ابزار آمده است.

1. Writer.com

برای پاسخ اولین درخواست، Writer.com با ش،ت مواجه شد و محتوای ChatGPT را 94٪ تولید شده توسط انسان تشخیص داد.

برای درخواست دوم، کار کرد و آن را به ،وان محتوای نوشته شده با هوش مصنوعی تشخیص داد.

برای اخطار سوم، دوباره ش،ت خورد.

با این حال، زم، که من متن واقعی نوشته شده توسط انسان را آزمایش کردم، Writer.com آن را به ،وان 100٪ ساخته شده توسط انسان بسیار دقیق تشخیص داد.

2. کپی لی،

کپی لی، در تشخیص هر سه درخواست به ،وان نوشته شده با هوش مصنوعی کار بسیار خوبی انجام داد.

3. Contentatscale.ai

Contentatscale.ai در تشخیص هر سه اعلان به‌،وان نوشته‌شده با هوش مصنوعی کار بسیار خوبی انجام داد، حتی اگر اولین اخطار، 21٪ امتیاز انس، را به دست آورد.

4. اصالت.ai

اصالت.ai در هر سه دستور کار بسیار خوبی انجام داد و آنها را به‌،وان نوشته‌شده با هوش مصنوعی تشخیص داد.

همچنین، هنگامی که من با متن واقعی توسط انسان بررسی کردم، آن را به ،وان 100٪ ساخته شده توسط انسان شناسایی کردم، که ضروری است.

متوجه خواهید شد که Originality.ai هیچ مشکل سرقت ادبی را شناسایی نمی کند. این مورد ممکن است در آینده تغییر کند.

با گذشت زمان، مردم از همان دستورات برای تولید محتوای نوشته شده با هوش مصنوعی استفاده می کنند که احتمالاً به تعدادی پاسخ بسیار مشابه منجر می شود. هنگامی که این مقالات منتشر می شوند، سپس توسط ابزار سرقت علمی شناسایی می شوند.

5. GPTZero

این غیر تجاری است ابزار ساخته شد توسط ادوارد تیانو به طور خاص برای شناسایی مقالات ایجاد شده توسط ChatGPT طراحی شده است. و دقیقاً این کار را برای هر سه درخواست انجام داد و آنها را به ،وان تولید شده توسط هوش مصنوعی تشخیص داد.

برخلاف سایر ابزارها، تجزیه و تحلیل دقیق تری از مسائل شناسایی شده، مانند تجزیه و تحلیل جمله به جمله، ارائه می دهد.

طبقه‌بندی‌کننده متن هوش مصنوعی OpenAI

و در نهایت، بیایید ببینیم که OpenAi چگونه پاسخ های تولید شده خود را تشخیص می دهد.

برای اعلان های 1 و 3، با طبقه بندی آن به ،وان “احتمالاً AI تولید شده” متوجه شد که یک هوش مصنوعی درگیر است.

اما با کمال تعجب، برای دومین فرمان ش،ت خورد و آن را به ،وان “بعید به وجود آمده توسط هوش مصنوعی” طبقه بندی کرد. من با اعلان‌های مختلف بازی کردم و متوجه شدم که در حال حاضر، هنگام بررسی آن، تعداد کمی از ابزارهای بالا محتوای هوش مصنوعی را با دقت بالاتری نسبت به ابزار خود OpenAi تشخیص می‌دهند.

تا زمان این چک، یک روز قبل آن را آزاد کرده بودند. من فکر می کنم در آینده، آنها آن را تنظیم کنند، و بسیار بهتر عمل خواهد کرد.

نتیجه

ابزارهای فعلی تولید محتوای هوش مصنوعی وضعیت خوبی دارند و قادر به شناسایی محتوای تولید شده توسط ChatGPT (با درجات مختلف موفقیت) هستند.

هنوز هم ممکن است ،ی از طریق ChatGPT کپی ایجاد کند و سپس آن را بازنویسی کند تا غیرقابل تشخیص باشد، اما ممکن است تقریباً به اندازه نوشتن از ابتدا به کار نیاز داشته باشد – بنابراین مزایای آن فوری نیست.

اگر به رتبه‌بندی مقاله‌ای در گوگل که توسط ChatGPT نوشته شده است فکر می‌کنید، برای لحظه‌ای در نظر بگیرید: اگر ابزارهایی که در بالا به آنها نگاه کردیم می‌توانستند آن‌ها را به‌،وان تولیدشده توسط هوش مصنوعی تشخیص دهند، برای Google، شناسایی آنها باید یک تکه کیک باشد.

علاوه بر این، گوگل رتبه‌دهندگان کیفیتی دارد که به سیستم خود آموزش می‌دهند تا مقالات نوشته‌شده با هوش مصنوعی را حتی بهتر با علامت‌گذاری دستی آن‌ها در هنگام پیدا ،شان تشخیص دهد.

بنابراین، توصیه من این است که استراتژی محتوای خود را بر روی محتوای تولید شده توسط ChatGPT ایجاد نکنید، بلکه از آن صرفاً به ،وان یک ابزار دستیار استفاده کنید.

منابع بیشتر:

---

تصویر ویژه: /Shutterstock