مجرمان از توانایی‌های صوتی ChatGPT-4o برای کلاهبرداری سوءاستفاده می‌کنند
محققان در جدیدترین بررسی خود دریافته‌اند که می‌توان از API صدای پیشرفته ChatGPT-4o برای انجام کلاهبرداری‌های مالی استفاده کرد. نرخ موفقیت این کلاهبرداری‌ها کم تا متوسط ارزیابی شده است.
ChatGPT-4o آخرین مدل هوش مصنوعی OpenAI است که پیشرفت‌های جدیدی مانند یکپارچه‌سازی ورودی‌ها و خروجی‌های متن، صدا و دید را عرضه می‌کند. باتوجه‌به اهمیت این قابلیت‌ها و امکان سوءاستفاده از آنها، OpenAI حفاظت‌های مختلفی را برای شناسایی و مسدودکردن محتوای مضر، مانند تکرار صداهای غیرمجاز پیاده‌سازی کرده است. اما بااین‌وجود کلاهبرداران توانسته‌اند از این سرویس برای مقاصد خود سوءاستفاده کنند.
هوش مصنوعی ChatGPT-4o توانایی بالایی در تقلید گفتار دارد
هم‌زمان با رشد خیره‌کننده هوش مصنوعی، استفاده از این فناوری برای کلاهبرداری نیز افزایش‌یافته است. فناوری دیپ‌فیک و ابزارهای تبدیل متن به گفتار مبتنی بر هوش مصنوعی نیز به بحرانی‌ترشدن این وضعیت دامن زده‌اند.
نتایج تحقیق انجام‌شده توسط «ریچارد فانگ»، «دیلن بومن» و «دانیل کانگ»، محققان دانشگاه ایلینوی اربانا-شمپین (UIUC)، نشان داد که ابزارهای فناوری جدیدی که هم‌اکنون بدون محدودیت در دسترس همه هستند، تدابیر کافی برای محافظت در برابر سوءاستفاده احتمالی توسط مجرمان سایبری و کلاهبرداران را ندارند. از این ابزارها می‌توان برای طراحی و اجرای عملیات کلاهبرداری در مقیاس بزرگ بدون دخالت انسان استفاده کرد.
در این تحقیق کلاهبرداری‌های مختلفی مانند نقل‌وانتقالات بانکی، استخراج کارت هدیه، انتقال ارز دیجیتال، و سرقت اطلاعات حساب‌های کاربری شبکه‌های اجتماعی یا جیمیل مورد بررسی قرار گرفته است. ایجنت‌های هوش مصنوعی که چنین کلاهبرداری‌هایی را انجام می‌دهند از ابزارهای خودکار ChatGPT-4o برای پیمایش صفحات و ورود داده و همچنین مدیریت کدهای احراز هویت دومرحله‌ای و دستورالعمل‌های خاص مرتبط با کلاهبرداری استفاده می‌کنند.
ازآنجایی‌که GPT-4o گاهی اوقات از سروکله‌زدن با داده‌های حساس مانند رمزعبور خودداری می‌کند، محققان از تکنیک‌های ساده جیلبریک برای دورزدن این حفاظت‌ها استفاده کردند. آنها در این تحقیق نشان دادند که چگونه از طریق تعامل با ایجنت‌های هوش مصنوعی می‌توان نقش یک قربانی ساده‌لوح را بازی کرد و از وب‌سایت‌های واقعی مانند Bank of America برای تأیید تراکنش‌های موفق استفاده کرد. به‌طورکلی، نرخ موفقیت این تلاش‌ها از ۲۰ تا ۶۰ درصد متغیر بوده است.
