خطرات جدید ناشی از افزایش استفاده بدون اجازه از هوش مصنوعی در محیط کار
انتقال بی‌رویه داده‌ها به هوش مصنوعی بدون کنترل
این روند نشان‌دهنده آسیب‌پذیری بحرانی است.
با افزایش سریع استفاده از هوش مصنوعی در محیط‌های کاری، خطرات جدیدی برای امنیت داده‌های شرکتی به وجود آمده است. بر اساس گزارشی از شرکت امنیت داده Cyberhaven، استفاده فزاینده از ابزارهای هوش مصنوعی و استفاده از هوش مصنوعی در محیط کار بدون اطلاع مدیران موجب افزایش قابل توجهی در افشای داده‌های حساس و به خطر افتادن امنیت اطلاعات شده است. این وضعیت به شرکت‌ها هشدار می‌دهد که باید با دقت بیشتری به مدیریت و حفاظت از داده‌های خود بپردازند.
به گزارش پیوست، افزایش شدید استفاده بدون اجازه کارفرمایان از حساب‌های هوش مصنوعی خطرات جدیدی برای داده‌های شرکتی ایجاد می‌کند. استفاده فزاینده از هوش مصنوعی در محیط کار، افشای داده‌ها را به سرعت افزایش می‌دهد و توانایی شرکت‌ها در حفاظت از داده‌های حساس را به چالش می‌کشد.
گزارشی که در ماه می توسط شرکت امنیت داده Cyberhaven منتشر شد و عنوان آن (مجرمان میزکار) است، روند پذیرش هوش مصنوعی و ارتباط آنها با افزایش خطرات را مورد بررسی قرار می‌دهد. این تحلیل بر اساس یک مجموعه داده از الگوهای استفاده سه میلیون کارگر برای ارزیابی پذیرش هوش مصنوعی و پیامدهای آن در محیط شرکتی انجام شده است.
مدیرعامل Cyberhaven، هاوارد تینگ می‌گوید:«تحقیقات ما در مورد استفاده از هوش مصنوعی و خطرات آن نه تنها تأثیر این فناوری‌ها را نشان می‌دهد، بلکه خطرات جدیدی را نیز مشخص می‌کند که می‌تواند با خطراتی که در تحولات بزرگ فناوری در گذشته تجربه کرده‌ایم، مقایسه شود.»
او افزود:«یافته‌های این گزارش بر نگرانی‌ها در مورد سوء استفاده‌های احتمالی از هوش مصنوعی تاکید می‌کند و نشان می‌دهد که پذیرش هوش مصنوعی در محیط کار به سرعت شتاب گرفته و استفاده توسط کاربران نهایی از واحد IT شرکتی پیشی گرفته است. این روند به نوبه خود، حساب‌های مخاطره‌آمیزی(هوش مصنوعی سایه) را تقویت می‌کند که شامل انواع بیشتری از داده‌های حساس شرکت می‌شود.»
آمار استفاده از هوش مصنوعی های مختلف و خطرات آن
محصولات سه غول فناوری هوش مصنوعی (OpenAI، گوگل و مایکرؤسافت) استفاده از هوش مصنوعی در محل کار را تحت تسلط خود دارند. محصولات آنها ۹۶% از استفاده هوش مصنوعی در محل کار را تشکیل می‌دهند.
بر اساس این تحقیق، کارکنان در سراسر جهان داده‌های حساس شرکت را وارد ابزارهای هوش مصنوعی کرده‌اند که از مارس ۲۰۲۳ تا مارس ۲۰۲۴ با افزایش نگران‌کننده‌ای ۴۸۵ درصدی روبرو بوده است. ما هنوز در اوایل منحنی پذیرش هستیم. تنها ۴.۷% از کارمندان در شرکت‌های مالی، ۲.۸% در داروسازی و علوم زیستی، و ۰.۶% در شرکت‌های تولیدی از ابزارهای هوش مصنوعی استفاده می‌کنند.
۷۳.۸% استفاده از ChatGPT در محل کار از طریق حساب‌های غیرشرکتی انجام می‌شود. برخلاف نسخه‌های سازمانی، این حساب‌ها داده‌های به اشتراک گذاشته شده را در مدل‌های عمومی قرار می‌دهند که خطر زیادی برای امنیت داده‌های حساس دارد.
انتقال بی‌رویه داده‌ها به هوش مصنوعی بدون کنترل
این روند نشان‌دهنده آسیب‌پذیری بحرانی است. تینگ گفت که حساب‌های غیرشرکتی فاقد تدابیر امنیتی قوی برای محافظت از چنین داده‌هایی هستند.
نرخ پذیرش هوش مصنوعی به سرعت به بخش‌ها و کاربرد‌های جدیدی که شامل داده‌های حساس هستند، گسترش می‌یابد. حدود ۲۷% از داده‌هایی که کارکنان وارد ابزارهای هوش مصنوعی می‌کنند، حساس است، در حالی که این رقم یک سال پیش ۱۰.۷% بود.
برای مثال، ۸۲.۸% از اسناد قانونی که کارکنان به ابزارهای هوش مصنوعی وارد کردند، به حساب‌های شخصی (که در کنترل شرکت‌ها نیست) ارسال شده است و این احتمال وجود دارد که اطلاعات به طور عمومی افشا شود.
تینگ هشدار داد که ثبت اطلاعات اختراعات جدید در محتوای تولید شده توسط ابزارهای هوش مصنوعی، خطرات زیادی را به همراه دارد. وارد کردن کد منبع به وسیله هوش مصنوعی در خارج از ابزارهای کدنویسی می‌تواند خطر آسیب‌پذیری‌هایی را ایجاد کند.
برخی شرکت‌ها در مقابله با جریان غیرمجاز ارسال داده‌های حساس به هوش مصنوعی هایی که خارج از دسترس واحد IT هستند، دچار سردرگمی هستند. آنها به ابزارهای امنیت داده‌های موجود اتکا دارند که فقط محتوای داده‌ها را برای شناسایی نوع آن اسکن می‌کنند.
انحراف غیرمنتظره در شناسایی مقصران
Cyberhaven شیوع خطرات داخلی را بر اساس نوع محیط کار، از جمله دورکاری، حضور در محل و مدل ترکیبی بررسی کرد. محققان دریافتند که مکان کار یک فرد بر نحوه انتشار داده‌ها در زمان وقوع یک حادثه امنیتی تأثیر می‌گذارد.
“تحقیقات یک انحراف غیرمنتظره را در این داستان نشان داد. کارکنان در محل کار، که به طور سنتی به عنوان گزینه‌های امن در نظر گرفته می‌شدند، اکنون پیشتاز در استخراج غیرمجاز داده‌های شرکتی هستند او فاش کرد.
بر اساس این تحقیق، به طور غافلگیرکننده‌ای، کارکنان دفتر ۷۷% بیشتر از همتایان دورکار خود احتمال دارد که داده‌های حساس را استخراج کنند. با این حال، زمانی که کارکنان دفتر از خارج از محل وارد سیستم شوند، ۵۱۰% بیشتر احتمال دارد که داده‌ها را استخراج کنند تا زمانی که در محل کار هستند، که این زمان را به پرخطرترین زمان برای داده‌های شرکتی تبدیل می‌کند.
