دستورالعمل‌های اپل برای جلوگیری از بروز توهم در Apple Intelligence برملا شد
دستورات کشف‌شده برای هوش مصنوعی اپل
در مثال ارائه‌شده در بالا، به یک بات هوش مصنوعی که از آن به‌عنوان «دستیار ایمیل مفید» یاد شده است، گفته می‌شود که چگونه براساس محتوای ایمیل مجموعه‌ای از سؤالات را مطرح کند. با چند ضربه، شما آماده ارسال پاسخ با جواب به سؤالات کلیدی هستید.»
نکته قابل‌توجه دیگر نیز به دستورات مثال بالا مربوط می‌شود که ظاهراً برای ویژگی « Rewrite » اپل در نظر گرفته شده است، یکی از ابزارهای مخصوص نوشتن غول فناوری که با برجسته‌کردن بخشی از متن و کلیک راست به آن دسترسی پیدا می‌کنید. اپل در دستورالعمل‌های خود از جملاتی مانند «لطفاً پاسخ را در 50 کلمه محدود کن»، «توهم نداشته باش» و «اطلاعات واقعی را جعل نکن» استفاده کرده است.
دستور کوتاه بالا نیز به هوش مصنوعی اپل می‌گوید که ایمیل‌ها را با یک دستورالعمل دقیق و بدون پاسخگویی به هیچ سؤالی خلاصه کند.
نهایتاً دستور بالا ظاهراً به ایجاد ویدیوهای خاطره‌انگیز «Memories» با اپل فوتوز مربوط می‌شود.
یکی از کاربران ردیت در نسخه بتا macOS 15.1 دستورالعمل‌های داخلی Apple Intelligence را کشف کرده است که در آن اپل به هوش مصنوعی خود می‌گوید که توهم نداشته باشد، یعنی اطلاعات جعلی به کاربران ارائه نکند. ویژگی Smart Reply هوش مصنوعی اپل، به کاربران کمک می‌کند تا به ایمیل‌ها و پیام‌های خود پاسخ دهند.
همانطور که احتمالاً می‌دانید، وظایف سیستم‌های هوش مصنوعی با استفاده از دستورالعمل‌های متنی به آن‌ها گفته می‌شود. برخی از این دستورات توسط کاربران ارائه می‌شود و برخی دیگر توسط توسعه‌دهنده سیستم نوشته و در مدل تعبیه شده است. حالا یکی از کاربران ردیت با نام devanxd2000 مجموعه‌ای از فایل‌های JSON را در بتای macOS 15.1 کشف کرده است که ظاهراً دستورالعمل‌های پیش‌فرض اپل برای ویژگی Smart Reply هستند.
دستورات کشف‌شده برای هوش مصنوعی اپل
در مثال ارائه‌شده در بالا، به یک بات هوش مصنوعی که از آن به‌عنوان «دستیار ایمیل مفید» یاد شده است، گفته می‌شود که چگونه براساس محتوای ایمیل مجموعه‌ای از سؤالات را مطرح کند. این مثال می‌تواند به بخشی از ویژگی Smart Reply اپل اشاره داشته باشد.
اپل در وب‌سایت خود درباره ویژگی Smart Reply می‌گوید:
«از Smart Reply می‌توانید برای ایجاد پیش‌نویس سریع پاسخ ایمیل خود با تمام جزئیات مناسب استفاده کنید. Apple Intelligence می‌تواند سؤالاتی که در ایمیل از شما پرسیده شده است را شناسایی کند و سپس انتخاب‌های مرتبطی را برای پاسخ به شما ارائه کند. با چند ضربه، شما آماده ارسال پاسخ با جواب به سؤالات کلیدی هستید.»
نکته قابل‌توجه دیگر نیز به دستورات مثال بالا مربوط می‌شود که ظاهراً برای ویژگی « Rewrite » اپل در نظر گرفته شده است، یکی از ابزارهای مخصوص نوشتن غول فناوری که با برجسته‌کردن بخشی از متن و کلیک راست به آن دسترسی پیدا می‌کنید. اپل در دستورالعمل‌های خود از جملاتی مانند «لطفاً پاسخ را در 50 کلمه محدود کن»، «توهم نداشته باش» و «اطلاعات واقعی را جعل نکن» استفاده کرده است.
دستور کوتاه بالا نیز به هوش مصنوعی اپل می‌گوید که ایمیل‌ها را با یک دستورالعمل دقیق و بدون پاسخگویی به هیچ سؤالی خلاصه کند.
نهایتاً دستور بالا ظاهراً به ایجاد ویدیوهای خاطره‌انگیز «Memories» با اپل فوتوز مربوط می‌شود. در بخشی از این دستور آمده است:
«داستان مذهبی، سیاسی، مضر، خشونت‌آمیز، جنسی، کثیف یا به هرطریقی منفی، ناراحت‌کننده یا تحریک‌آمیز ننویس.»
دستورالعمل‌هایی که برای جلوگیری از توهم هوش مصنوعی اپل تلاش می‌کند، کاملاً خوش‌بینانه به‌نظر می‌رسد. دلیل اصلی توهم سیستم‌های هوش مصنوعی این است که آن‌ها درک درستی از محتوا ندارند و بنابراین هیچ راه مطمئنی برای تشخیص درست یا نادرست‌بودن خروجی آن‌ها وجود ندارد.
آخرین نسخه بتای توسعه‌دهندگان سیستم‌عامل‌های اپل هفته گذشته با تعدادی از ویژگی‌های هوش مصنوعی این شرکت که در WWDC شاهد آن‌ها بودیم، منتشر شد. طی چند ماه آینده نیز همزمان با معرفی آیفون 16 و عرضه عمومی iOS 18 این قابلیت‌ها برای آیفون‌ها، آیپدها و مک‌ها عرضه خواهند شد.
