زورگوها بترسید: هوش مصنوعی جدید سوءاستفاده‌های آنلاین علیه ورزشکاران المپیک پاریس را خنثی می‌کند
المپیک 2024 پاریس از سیستمی به نام «ماتریکس تهدید» برای حفاظت از ورزشکاران در برابر سوءاستفاده‌ها و نفرت‌پراکنی‌های آنلاین استفاده می‌کند.
ماتریکس تهدید، با کمک هوش مصنوعی (AI)، محتوای منتشر شده در بیش از 35 زبان مختلف را در پلتفرم‌های شبکه‌های اجتماعی مانند فیس‌بوک، اینستاگرام، تیک‌تاک و اکس اسکن می‌کند.
این سیستم نه تنها به پست‌هایی که نفرت‌پراکنی آنلاین علیه ورزشکاران انجام می‌دهند و گزارش شده‌اند توجه می‌کند، بلکه به آن‌هایی که تازه منتشر شده‌اند و هنوز به دست ورزشکاران نرسیده‌اند نیز می‌پردازد.
این سیستم برای از بین بردن سوءاستفاده از لحظه‌ای که منتشر می‌شود طراحی شده است تا از تروماهای روانی که به گیرندگان وارد می‌شود جلوگیری کند.
این سیستم به گونه‌ای طراحی شده است که می‌تواند انواع مختلف سوءاستفاده‌ها را شناسایی و دسته‌بندی کرده و پست‌ها را به تیمی از ناظران انسانی گزارش دهد.
ناظران انسانی سپس تصمیم می‌گیرند که چه نوع اقداماتی باید انجام شود، آیا حذف پست کافی است یا نیاز به اقدامات مقابله‌ای شدیدتری دارد.
آمادگی کمیته بین‌المللی المپیک برای ورزشکاران در طول المپیک 2024 پاریس
بر اساس اطلاعیه‌ای از سوی کمیته بین‌المللی المپیک (IOC)، نسخه 2024 اولین باری خواهد بود که هوش مصنوعی برای ایجاد فضاهای امن آنلاین برای این تعداد زیادی از ورزشکاران در بسیاری از ورزش‌ها همزمان به کار گرفته می‌شود.
پروژه مشترکی که توسط کمیته ورزشکاران IOC و کمیته پزشکی و علمی IOC توسعه داده شده است، این سیستم نه تنها به امنیت و رفاه ورزشکاران در طول بازی‌ها اولویت می‌دهد، بلکه به IOC کمک می‌کند تا بهتر چالش‌هایی که ورزشکاران در ارتباط با سوءاستفاده‌های آنلاین با آن مواجه هستند را درک کند و در نتیجه به بهبود حفاظت از ورزشکاران در رویدادهای آینده بپردازد.
«ورزشکاران در قلب تمام کارهایی که ما در IOC انجام می‌دهیم قرار دارند،» گفت توماس باخ، رئیس IOC پس از اعلام پروژه.
«من می‌دانم که ورزشکاران دیدگاه خاص و ارزشمندی در مورد نحوه سازماندهی بازی‌ها و مسائل مرتبط با مسابقات دارند. به همین دلیل، من خوشحالم که کمیته ورزشکاران و کمیته پزشکی و علمی به این بازخوردها پاسخ می‌دهند و از طریق ابتکاراتی مانند سیستم هوش مصنوعی برای حفاظت از ورزشکاران در المپیک 2024 پاریس از سوءاستفاده‌های آنلاین اقدام می‌کنند.»
سیستم نظارت آنلاین طبق گفته IOC، قرار است برای ۱۵ هزار ورزشکار و بیش از ۲ هزار مقام در طول بازی‌های المپیک و پارالمپیک پوشش دهد.
همچنین به IOC کمک خواهد کرد که الگوهای سوءاستفاده‌های آنلاین را درک کرده و به توسعه راهکارهای حفاظتی برای آینده بپردازد.
ماتریکس تهدید
بر اساس گفته IOC، ابزار قدرتمند هوش مصنوعی با موفقیت در هفته ورزش‌های الکترونیکی المپیک آزمایش شد، جایی که محتوای هدفمند و سوءاستفاده‌آمیز پست‌شده در حساب‌های شبکه‌های اجتماعی بازیکنان شرکت‌کننده را نظارت کرد.
گزارشی از بی‌بی‌سی اعلام می‌کند که المپیک پاریس بیش از نیم میلیارد پست در شبکه‌های اجتماعی ایجاد خواهد کرد. نه تنها برای یک تیم بزرگ انسانی بسیار دشوار خواهد بود که تمام این پست‌ها را بررسی کنند، بلکه مسئله نادیده گرفتن یا عبور از نفرت‌پراکنی نیز یک مشکل بزرگ است.
بنابراین، سیستم هوش مصنوعی کمک بزرگی به حفاظت از ورزشکاران آنلاین خواهد کرد.
بر اساس گزارش، سیستم نه تنها بر روی کلمات و توهین‌های نژادی تمرکز می‌کند بلکه بر روی متنی نیز که می‌تواند باعث ناراحتی شود نیز تمرکز می‌کند.
«بازیکنان و خانواده‌های آن‌ها نیاز به حمایت و حفاظت دارند تا بتوانند سندبندی، انحراف و گزارش سوءاستفاده را انجام دهند. ماتریکس تهدید این خدمات را ارائه می‌دهد، ناشناس بودن مسببان را از بین می‌برد و اطمینان حاصل می‌کند که سوءاستفاده‌گران بدون مجازات نمی‌مانند،» سایت شرکت اعلام می‌کند.
شرکت همچنین می‌گوید که سیستم بر اساس مدل چهار مرحله‌ای کار می‌کند: جمع‌آوری داده‌ها، پردازش، بررسی انسانی، و در نهایت ورودی‌های عملیاتی.
اضافه کردن عنصر انسانی سیستم را قابل اعتمادتر و موثرتر می‌کند، تبدیل به ابزاری بسیار کارآمدتر نسبت به انسان‌ها یا ماشین‌های تنها می‌شود.
اینکه ماتریکس تهدید چقدر در حفاظت آنلاین از ورزشکاران در طول المپیک پاریس موثر خواهد بود، باید دیده شود، اما بدون شک گام موثری در جهت درست است.
