امکان تشخیص نوشته های انسانی و ماشینی در GPT Chat - وبلاگ ساعت گلورایا

به گزارش وبلاگ ساعت گلورایا، شرکت فناوری OpenAI برنامه ای را برای تشخیص متون نوشته شده در GPT Chat راه اندازی نموده است.

به گزارش باشگاه وبلاگ ساعت گلورایا، شرکت فناوری OpenAI در آمریکا و توسعه دهنده پلتفرم چت هوش مصنوعی ChatGBT، در پاسخ به نگرانی های فزاینده مبنی بر نادرست بودن متون ماشینی، برنامه ای را معرفی نموده که می تواند بین متن های ماشینی و انسانی ارائه شده به وسیله یک شخص واقعی با استفاده از هوش مصنوعی تمایز قائل گردد.

قابل ذکر است که GBT Chat می تواند گفتار انسان را به روشی نو تقلید کند، که نگرانی هایی را در خصوص بسیاری از موارد از جمله امکان استفاده از آن برای تقلب در آزمون های مدرسه، تهیه مقالات تحقیقاتی دانشگاه یا جعل اطلاعات گمراه کننده و انتشار آن در مقیاس بزرگ ایجاد می نماید.

شرکت OpenAP با وجود تمام کوشش های خود، در یک پیغام آنلاین در روز سه شنبه اعتراف کرد که ابزار نوش همچنان ضعیف عمل می نماید.

پلتفرم هوش مصنوعی ChatGBT با بیان اینکه ابزار طبقه بندی و آنالیز نو کاملاً قابل اعتماد نیست، تأکید کرد که در حال اجرا آزمایشاتی در این زمینه است و این ابزار توانسته ماهیت متن را در 26 درصد موارد به درستی شناسایی کند.

در عین حال، این برنامه نو در خصوص متون نوشته شده به وسیله کاربران گفته است که در 9 ٪ موارد متون اتوماتیک هستند، بنابراین در حال حاضر توصیه می نماید که عمدتاً برای ارزیابی متون به برنامه اعتماد نکنید.

این شرکت اضافه نمود که به توسعه و به روز رسانی این برنامه ادامه خواهد داد و امیدوار است در آینده روش های بهبود یافته ای را ارائه دهد.

OpenAI گفت که با توجه به امکان استفاده از هوش مصنوعی برای انتشار اتوماتیک کمپین های اطلاعات نادرست و بعلاوه استفاده از ابزار های هوش مصنوعی در تقلب تحصیلی و استفاده از تکنیک های مکالمه هوش مصنوعی به عنوان یک ابزار، احتیاج به نرم افزار برای تشخیص استفاده از هوش مصنوعی در نوشتن متن واضح است.