شرکت اسپیناف دانشگاه بریتانیا، مایندگارد، شرکت‌ها را از تهدیدات هوش مصنوعی محافظت می‌کند
هوش مصنوعی برای شرکت‌ها یک معضل ایجاد می‌کند: اگر از آن استفاده نکنید، ممکن است فرصت‌های افزایش بهره‌وری و دیگر مزایا را از دست بدهید؛ اما اگر اشتباه پیاده‌سازی کنید، ممکن است کسب و کار و مشتریان خود را در معرض خطرات جبران‌ناپذیر قرار دهید. در اینجاست که موج جدیدی از استارت‌آپ‌های «امنیت برای هوش مصنوعی» وارد می‌شوند، با فرض اینکه این تهدیدات مانند حملات شکست جعبه و تزریق به فرمان نمی‌توانند نادیده گرفته شوند.
مانند استارت‌آپ اسرائیلی نوما و رقبا مستقر در آمریکا هیدن لایر و پروتکت AI ، اسپیناف دانشگاهی بریتانیایی مایندگارد یکی از آن‌ها است. مدیرعامل و مدیر فناوری آن، پروفسور پیتر گاراغان، گفت: «هوش مصنوعی هنوز هم نرم‌افزار است، بنابراین تمامی ریسک‌های سایبری که احتمالاً درباره آن‌ها شنیده‌اید، بر هوش مصنوعی نیز اعمال می‌شوند.» اما او افزود: «اگر به ماهیت غیر شفاف و رفتار ذاتاً تصادفی شبکه‌های عصبی و سیستم‌ها نگاه کنید، این نیز یک رویکرد جدید را توجیه می‌کند.»
در مورد مایندگارد، این رویکرد تست امنیتی کاربردهای پویا برای هوش مصنوعی (DAST-AI) است که آسیب‌پذیری‌هایی را هدف می‌گیرد که تنها در زمان اجرا قابل شناسایی هستند. این شامل اجرای تیم قرمز پیوسته و خودکار است، راهی برای شبیه‌سازی حملات مبتنی بر کتابخانه تهدیدات مایندگارد. برای مثال می‌توان از مقاومت طبقه‌بندی‌کننده‌های تصویر در برابر ورودی‌های خصمانه استفاده کرد.
در آن زمینه و فراتر از آن، فناوری مایندگارد به پیشینه گاراغان به عنوان استاد و محقق متمرکز بر امنیت هوش مصنوعی مدیون است. این حوزه به سرعت در حال پیشرفت است — ChatGPT زمانی که او به آن وارد شد وجود نداشت، اما او احساس کرد که مدل‌های NLP و تصویر ممکن است با تهدیدات جدید مواجه شوند، او به TechCrunch گفت.
از آن زمان، چیزی که آینده‌نگر به نظر می‌رسید، به واقعیت تبدیل شده است در یک بخش به سرعت در حال رشد، اما مدل‌های LLM همچنان در حال تغییر هستند، همان‌طور که تهدیدها تغییر می‌کنند. گاراغان فکر می‌کند که روابط او با دانشگاه لنکستر می‌تواند به شرکت کمک کند که به‌روزرسانی کند: مایندگارد به صورت خودکار مالکیت معنوی کار ۱۸ محقق دکتری اضافی را در چند سال آینده خواهد داشت. «هیچ شرکتی در دنیا نیست که چنین معامله‌ای داشته باشد.»
در حالی که با تحقیق مرتبط است، مایندگارد محصولی کاملاً تجاری است و به‌طور دقیق‌تر، یک پلتفرم SaaS با استیو استریت به عنوان مدیر عملیات و مدیر درآمد مؤسس مشترک هدایت می‌شود. (یک هم‌بنیان‌گذار اولیه، نیرج سوری، که در سمت تحقیقات همکاری می‌کرد، دیگر با شرکت نیست.)
شرکت‌ها یک مشتری طبیعی برای مایندگارد هستند، همان‌طور که تیم‌های قرمز سنتی و آزمایش‌کنندگان نفوذ هستند، اما شرکت همچنین با استارت‌آپ‌های هوش مصنوعی که نیاز به نشان دادن جلوگیری از ریسک‌های هوش مصنوعی به مشتریان خود دارند همکاری می‌کند، گاراغان گفت.
از آنجایی که بسیاری از این مشتریان احتمالی مستقر در ایالات متحده هستند، شرکت برخی طعم آمریکایی به سرمایه‌گذاری خود اضافه کرده است. پس از جمع‌آوری یک دوره سرمایه‌گذاری ۳ میلیون پوندی در سال ۲۰۲۳، مایندگارد اکنون یک دوره ۸ میلیون دلاری جدید به رهبری .406 Ventures مستقر در بوستون را اعلام کرده است، با مشارکت Atlantic Bridge، WillowTree Investments و سرمایه‌گذاران موجود IQ Capital و Lakestar.
این بودجه با «ساخت تیم، توسعه محصول، تحقیق و توسعه و تمام چیزهایی که ممکن است از یک استارت‌آپ انتظار داشته باشد» کمک خواهد کرد، اما همچنین گسترش به ایالات متحده. معاون جدید بازاریابی آن، CMO سابق Next DLP، فرگال گلین، در بوستون مستقر است. با این حال، شرکت نیز قصد دارد تحقیق و توسعه و مهندسی را در لندن نگه دارد.
با تعداد ۱۵ نفر، تیم مایندگارد نسبتاً کوچک است و همین طور باقی خواهد ماند، با برنامه‌هایی برای رسیدن به ۲۰ تا ۲۵ نفر تا پایان سال آینده. زیرا امنیت هوش مصنوعی «هنوز در روزهای اوج خود نیست.» اما وقتی که هوش مصنوعی به‌طور گسترده‌ای اجرا شود و تهدیدات امنیتی نیز همراه آن بیایند، مایندگارد آماده خواهد بود. گاراغان می‌گوید: «ما این شرکت را برای انجام کار مثبت برای جهان ساختیم، و کار مثبت اینجا این است که مردم می‌توانند به‌طور امن و مطمئن از هوش مصنوعی استفاده کنند و به آن اعتماد کنند.»
