موسس Shield AI درباره مرگ، پهپادها در اوکراین و سلاح هوش مصنوعی که 'هیچ کس نمی‌خواهد'
حدود دو ماه پیش، برندون تسنگ، موسس مشترک Shield AI و یکی از کارکنانش در یک اوبر در حال عبور از کیف، اوکراین، به سمت جلسه‌ای با مقامات نظامی برای فروش سیستم‌های خلبانی هوش مصنوعی و پهپادهای خود بودند که ناگهان کارمندش به او هشدار روی گوشی‌اش نشان داد. بمب‌های روسی در راه بودند. تسنگ با بی‌تفاوتی به استقبال این مرگ احتمالی رفت. 'اگر زمانش برسد، زمانش فرا رسیده است.' او گفت.
تسنگ، یک نیروی ویژه سابق نیروی دریایی، به دنبال ماجراجویی بیشتر بود. کارکنان Shield AI قبلاً به مناطق بسیار خطرناک‌تری در اوکراین رفته و نیروها را در استفاده از نرم‌افزار و پهپادهای شرکت آموزش داده بودند. 'من حسادت می‌کنم که به کجا رفتند.' تسنگ گفت. 'از دیدگاه ماجراجویی.'
تسنگ نماد آن نگران‌ایستایی آرام است که بسیاری از موسسان فناوری دفاعی را فرا گرفته است. وقتی او را در دفتر شرکت در آرلینگتون ملاقات کردم، چاقویی را نشان داد که در دفترش به نمایش گذاشته شده بود و شعار 'در سکوت رنج ببر' اس‌ای‌ال بر روی آن حک شده بود. دیوارهای سفید که بالای آن‌ها با نورهای فلورسنت می‌درخشید (تا شبیه به یک سفینه فضایی به نظر برسند، تسنگ گفت)، با شعارهایی مانند 'آنچه که شرافت حکم می‌کند را انجام بده' و 'هر روز سپر خود را کسب کن' پوشیده شده بودند. به او گفتم که آن‌ها بسیار شدید به نظر می‌رسند. 'واقعا؟' تسنگ پاسخ داد.
در سال 2015، تسنگ همراه با برادرش رایان تسنگ، یک مهندس برق با ثبت اختراع، شرکت Shield AI را با مأموریت واضحی تأسیس کرد: 'ما بهترین خلبان هوش مصنوعی جهان را ساختیم.' او گفت. 'می‌خواهم یک میلیون خلبان هوش مصنوعی را به دست مشتریان برسانم.'
برای این منظور، او و برادرش بیش از 1 میلیارد دلار از سرمایه‌گذاران مانند Riot Ventures و صندوق فناوری نوآورانه ایالات متحده جمع‌آوری کرده‌اند. این شرکت نرم‌افزار هوش مصنوعی را برای خودمختاری وسایل نقلیه هوایی توسعه می‌دهد، هرچند تسنگ می‌گوید که آن‌ها می‌خواهند نرم‌افزار Shield AI در سیستم‌های زیرآب و سطحی نیز به‌کار گرفته شود. آن همچنین محصولات سخت‌افزاری مانند پهپاد V-BAT دارد.
Shield AI همچنین جزو گروه نادری از استارتاپ‌های فناوری دفاعی است که واقعاً قراردادهای حکومتی قدری خوبی به‌دست آورده است، مانند قرارداد 198 میلیون دلاری‌ای که امسال از گارد ساحلی آمریکا به‌دست آورد. انگار که در تلاش برای موقعیت‌گیری برای آینده‌ای بزرگتر باشند، موسسان یک دفتر جدید در محاصره سه طبقه از Raytheon، یکی از بزرگترین سازندگان سلاح دفاعی، انتخاب کردند.
اوکراین: آزمایشگاه استارتاپ‌های فناوری دفاعی ایالات متحده
16 سپتامبر نشانه‌ای از زمان‌های در حال تغییر بود: به‌جای اینکه موسسان فناوری دفاعی به واشنگتن سفر کنند، لباس رسمی بپوشند و به سیاستمداران تعظیم کنند، واشنگتن دی‌سی به آن‌ها سر زد.
اعضای کمیته خدمات مسلح مجلس نمایندگان ایالات متحده با شرکای شیم سانکار، مدیرعامل Palantir، برندون تسنگ و مدیران Skydio، Applied Intuition و Saildrone در دانشگاه سانتا کروز کالیفرنیا، پایگاه سیلیکون ولی جمع شدند. آن‌ها درباره اصلاح فرآیند کسب وزارت دفاع ایالات متحده و به طور اجتناب‌ناپذیری درباره نقش فناوری ایالات متحده در اوکراین بحث و بررسی کردند. این اولین جلسه عمومی بود که کمیته از سال 2006 خارج از واشنگتن برگزار می‌کرد.
تسنگ به سیاستمداران گفت که اوکراین 'آزمایشگاه بزرگی بوده است.' 'آنچه که من فکر می‌کنم اوکراینی‌ها کشف کرده‌اند این است که هیچ‌چیز را که در میدان جنگ کار نکند، استفاده نخواهند کرد.'
موسسان فناوری دفاعی، مانند موسس مشترک Anduril، پالم لاکی و موسس مشترک Skydio، آدام بری، همگی به کشور متلاطم سفر کرده‌اند تا فناوری نسبتاً جدیدی را برای میدان جنگی که به سرعت در حال زوال است، بفروشند. متأسفانه، همه فناوری‌های ایالات متحده کار نمی‌کنند. به گزارش روزنامه Wall Street، پهپادهای استارتاپ‌های ایالات متحده تقریباً به طور عمومی در برابر جنگ الکترونیکی در اوکراین ناموفق عمل کرده‌اند، به این معنا که پهپادها در زیر فناوری قطع کننده GPS روسیه کار نمی‌کنند.
هفته پیش در حالی که او به جلسه بازبینی می‌کرد، تسنگ به من گفت: 'اوکراین در جنگ است و مردم در حال کشته شدن هستند. اما ... شما می‌خواهید از آن درس‌ها استفاده کنید.' 'شما نمی‌خواهید هیچ‌کدام از آن درس‌ها را دوباره یاد بگیرید. ایالات متحده نباید بخواهد آن درس‌ها را دوباره یاد بگیرد.'
او مطمئن است که پهپادهای Shield AI در اوکراین بهتریعل از دیگران عمل کرده‌اند، زیرا به گفته خودش بدون وابستگی به GPS کار می‌کنند. 'ما در حال کار برای ارسال پهپادهای بیشتری در اینجا بر اساس موفقیت‌هایی که داشتیم، هستیم.' او گفت، اگرچه از ذکر جزئیات تعداد پهپادهایی که Shield AI فرستاده است، خودداری کرد.
قاتلان هوش مصنوعی شبیه به 'ترمیناتور'؟ یا 'بازی اندر'؟
دفتر تسنگ تقریباً خالی است جز یک نسخه قاب شده از قانون اساسی، که روی دیوار کج آویزان شده است. او آن را به عنوان یکی از بزرگترین الهامات خود ذکر کرده است. 'این به این دلیل نیست که ما کامل هستیم، بلکه به این دلیل است که ما سودای این ارزش‌ها را داریم که من ادعا می‌کنم ارزش‌های کاملی هستند.' او گفت. 'این چیزی است که بیشترین اهمیت را دارد. ما همیشه به آن سمت پیش می‌رویم.'
او قاب را صاف کرد قبل از اینکه از طریق تاریخ مختصری از جنگ‌ها مرور کند. او گفت که بازداری زمانی اتفاق می‌افتد که یک فناوری جدید انقلابی پیدا شود، مانند بمب اتم یا فناوری استیلت و GPS. او گفت که هوش مصنوعی دوره جدیدی از بازداری را به ارمغان خواهد آورد — به شرطی که وزارت دفاع به درستی آن را تأمین مالی کند. 'شرکت‌های خصوصی پول بیشتری برای هوش مصنوعی و خودمختاری نسبت به هر مقدار کل در بودجه دفاعی می‌گذارند.' او گفت.
ارزش بالقوه قراردادهای فدرال مرتبط با هوش مصنوعی در سال 2023 از 335 میلیون دلار به 4.6 میلیارد دلار افزایش یافت، در حالی که طبق گزارشی از موسسه بروکینگز بوده است. اما این هنوز یک جزء کوچکی از بیش از 70 میلیارد دلاری است که سرمایه‌گذاران سرمایه‌گذاری در فناوری دفاعی در حدود همان دوره می‌کنند، بر اساس داده‌های PitchBook.
به هر حال، بزرگترین سوال استفاده نظامی از هوش مصنوعی بودجه نیست — بلکه اخلاق است. موسسان و سیاست‌گذاران به یک اندازه با سوال اینکه آیا باید اجازه داد سلاح‌های کاملاً خودمختار استفاده شوند دست و پنجه نرم می‌کنند، بدین معنا که AI خودش تصمیم بگیرد که چه زمانی بکشد. اخیراً، برخی از موسسان به نظر می‌رسد که به ساخت چنین سلاح‌هایی متمایل هستند.
برای مثال، چند روز پیش، پالم لاکی از Anduril ادعا کرده بود که 'یک کارزار سایه‌وار در حال اجرا در سازمان ملل است که بسیاری از دشمنان ما انجام می‌دهند' تا کشورهای غربی را به عدم تعقیب تهاجمی هوش مصنوعی فریب دهند. او اشاره کرد که هوش مصنوعی کاملاً خودمختار بدتر از مین‌های زمینی نیست. او اشاره نکرد که ایالات متحده از جمله بیش از 160 کشوری است که موافقت کرده‌اند استفاده از مین‌های ضد نفر را در اکثریت وسیع مکان‌ها ممنوع کنند.
تسنگ به شدت مخالف سلاح‌های کاملاً خودمختار است. 'من باید تصمیم اخلاقی درباره استفاده از نیروی مرگ‌بار را در میدان جنگ بگیرم.' او گفت. 'این یک تصمیم انسانی است و همیشه یک تصمیم انسانی خواهد بود. این دیدگاه Shield AI است. این همچنین دیدگاه ارتش ایالات متحده است.'
او درست می‌گوید که ارتش ایالات متحده در حال حاضر سلاح‌های کاملاً خودمختار نمی‌خرد، هرچند که شرکت‌ها را از توسعه آن‌ها منع نمی‌کند. اگر ایالات متحده موضع خود را تغییر دهد؟ 'من فکر می‌کنم این یک سوال فرضی دیوانه‌واری است.' او پاسخ داد. 'کنگره آن را نمی‌خواهد. هیچ‌کس آن را نمی‌خواهد.'
بنابراین اگر او ارتشی از قاتلان شبیه به ترمیناتور را نمی‌بیند، چه چیزی را تجسم می‌کند؟ 'یک نفر می‌تواند یک میلیون پهپاد را کنترل و فرمان دهد.' تسنگ گفت. 'هیچ محدودیت فناوری درباره میزان چیزهایی که یک نفر می‌تواند به طور مؤثر در میدان جنگ فرمان دهد، وجود ندارد.'
او گفت که این شبیه به 'بازی اندر' خواهد بود، جایی که یک افسر نظامی کودک می‌تواند با حرکتی از دست، ارتش‌های فضای بی‌شمار را آزاد کند.
'به‌جز اینکه به جای انسان‌های واقعی که او فرمان می‌داد، این ربات‌ها باشند.' تسنگ گفت.
