تصمیم مهم OpenAI: آیا واترمارک‌کردن متون ChatGPT باعث نارضایتی کاربران می‌شود؟
OpenAI متون ChatGPT را واترمارک نمی‌کند تا کاربران رضایت بیشتری داشته باشند
واترمارک‌کردن متن‌ها به این صورت است که مدل هوش مصنوعی سازوکار پیش‌بینی کلمات و عبارات را به نحوی تنظیم می‌کند که یک الگوی قابل تشخیص ایجاد کند.
شرکت OpenAI هنوز در مورد واترمارک‌کردن متون تولیدشده توسط ChatGPT تصمیم‌گیری نکرده است. با این وجود برخی کاربران نگران این مسأله هستند و اعلام کرده‌اند درصورت اعمال واترمارک از ChatGPT کمتر استفاده خواهند کرد.
بر اساس گزارش وال استریت ژورنال ، OpenAI سیستمی برای نشانه‌گذاری روی متون تولیدشده توسط ChatGPT و ابزاری برای شناسایی این نشانه‌ها آماده کرده است. اما اختلافاتی در داخل این شرکت درباره انتشار این ویژگی وجود دارد. از یک سو این کار به نظر مسئولانه می‌آید؛ اما از سوی دیگر می‌تواند به ضرر درآمدهای شرکت باشد.
OpenAI متون ChatGPT را واترمارک نمی‌کند تا کاربران رضایت بیشتری داشته باشند
واترمارک‌کردن متن‌ها به این صورت است که مدل هوش مصنوعی سازوکار پیش‌بینی کلمات و عبارات را به نحوی تنظیم می‌کند که یک الگوی قابل تشخیص ایجاد کند. این رویکرد می‌تواند به معلمان کمک کند تا از استفاده دانش‌آموزان از هوش مصنوعی برای نوشتن تکالیف جلوگیری کنند. تحقیقات نشان داده که واترمارک‌کردن کیفیت خروجی متون ChatGPT را تحت تأثیر قرار نمی‌دهد و نظرسنجی‌ها نیز نشان می‌دهند که مردم از این ابزار تشخیص هوش مصنوعی حمایت می‌کنند.
OpenAI تأیید کرده که روی واترمارک‌کردن متن‌ها کار کرده و این روش بسیار دقیق و مقاوم در برابر تغییرات است. اما بازنویسی متن‌ها با مدل‌های دیگر می‌تواند این واترمارک را دور بزند. همچنین، این شرکت نگران است که این اقدام باعث ایجاد بدبینی نسبت به ابزارهای هوش مصنوعی در میان کاربران شود.
نتایج نظرسنجی‌ها نشان می‌دهد که نزدیک به 30 درصد از کاربران اعلام کرده‌اند که در صورت اعمال واترمارک، کمتر از ChatGPT استفاده خواهند کرد. بااین‌حال، برخی از کارمندان OpenAI همچنان به کارآمدی واترمارک‌کردن اعتقاد دارند و پیشنهاد می‌کنند روش‌های دیگری که کمتر مورد بحث کاربران هستند، آزمایش شوند.
