TrueFoundry ، یک استارت‌آپ که توسط گروهی از مهندسان سابق متا اداره می‌شود تا به شرکت‌ها در استقرار سیستم‌های هوش مصنوعی در مقیاس بزرگ کمک کند، در سرمایه‌گذاری جدیدی به مبلغ ۱۹ میلیون دلار به رهبری Intel Capital موفق به جذب سرمایه شده است.
با ظهور GenAI پس از آغاز به کار ChatGPT در نوامبر ۲۰۲۲، شرکت‌ها در همه اندازه‌ها به جستجوی روش‌هایی برای پذیرش هوش مصنوعی پرداختند. اما GenAI برای ارائه هوشمندی به مدل‌های زبانی بزرگ تکیه دارد، که نیاز به قدرت محاسباتی قابل توجهی دارد. همه شرکت‌ها دسترسی به صدها یا هزاران GPU را ندارند، بنابراین بهینه‌سازی GPU ضروری است. علاوه بر این، شرکت‌ها باید با مدل‌های متنوعی آزمایش کنند تا بهترین تطابق برای مورد استفاده خود را پیدا کنند و مدل‌های موجود را تنظیم کنند تا سیستم‌های هوش مصنوعی برای عملیاتشان معنادار باشند.
TrueFoundry با نرم‌افزار خود که تحت مدل پلت‌فرم به عنوان یک سرویس ارائه می‌شود، به همه این موضوعات پرداخته و دانشمندان داده کامل استک را هدف قرار داده است. این نرم‌افزار ویژگی‌هایی مانند اسکال خودکار، نگهداری پیش‌فعال، کنترل‌های متمرکز دسترسی و نظارت زمان واقعی را ارائه می‌دهد تا استقرار سیستم‌های AI را از ابتدا تا انتها ساده کند.
این شرکت استارت‌آپ که در ژوئن ۲۰۲۱ توسط مهندسان سابق Meta نیکونج باجاج و آبیشک چودری و همکلاسی آنها در IIT خرگ‌پور، انوراگ گاتگاتیا تأسیس شد، در ابتدا نرم‌افزاری بومی فرا ابر را برای سرعت‌بخشیدن به استقرار یادگیری ماشینی ارائه کرد. با این حال، وقتی GenAI در سال ۲۰۲۳ به جریان اصلی تبدیل شد، استارت‌آپ سیستم خود را برای پشتیبانی از قابلیت‌های GenAI تغییر داد.
گاتگاتیا در مصاحبه‌ای انحصاری گفت: «قبلاً، دانشمندان داده تنها با مدل‌ها کار می‌کردند و با آنها آزمایش می‌کردند، اما بسیاری از استقرارها به مهندسان ML محول می‌شد. با سیستم ما، ما امکان‌پذیر می‌کنیم که دانشمندان داده خودشان می‌توانند این سیستم پیچیده را ساخته و در مقیاس تست کنند و سپس آن را برای استقرار نهایی به تیم پلت‌فرم تحویل دهند.»
این استارت‌آپ یک راه‌حل نرم‌افزاری به نام سیستم خلبان خودکار ارائه می‌دهد که از AI برای بررسی لاگ‌ها و مقادیر استفاده می‌کند تا با تنظیم استفاده از GPU و رفع نیازهای حافظه به مقیاس‌دهی برنامه‌های AI کمک کند.
با استفاده از سیستم خلبان خودکار، گاتگاتیا به تک‌کرانچ گفت که یکی از مشتریان TrueFoundry با تیم کوچکی متشکل از دو نفر موفق به مدیریت ۱۰ میلیون درخواست در ثانیه شد.
TrueFoundry در حال حاضر ۳۰ مشتری پولی در سراسر جهان دارد در کنار بسیاری از کاربران که به چارچوب منبع باز RAG برای آزمایش دسترسی دارند. از جمله این مشتریان، غول GPU انویدیا است که از نرم‌افزار استفاده می‌کند تا عوامل بهینه‌سازی خوشه‌های GPU خود را بسازد و استقرار دهد. شرکت med-tech Resmed نیز از خدمات TrueFoundry برای توسعه یک پلت‌فرم داخلی AI استفاده می‌کند. به همین ترتیب، Siemens Healthineers، Automation Anywhere، Games24x7 و Whatfix نیز از مشتریان هستند.
استارت‌آپ نرم‌افزار خود را با استفاده از Kubernetes معماری کرده است، که آن را آماده چند ابر می‌کند و با تمام پلت‌فرم‌های ابری اصلی، از جمله AWS، پلت‌فرم ابری گوگل، و Azure سازگار است. بعلاوه، شرکت‌ها می‌توانند این پلت‌فرم را به صورت بومی در محل استقرار دهند.
شرکت‌ها با استفاده از TrueFoundry توانسته‌اند پلت‌فرم‌های داخلی AI خود را در دو ماه بسازند و راه‌اندازی کنند و در چهار ماه به بازگشت سرمایه رسیده‌اند، در مقابل میانگین صنعتی ۱۴ ماه. باجاج اعلام کرد که میزان کاهش هزینه مشتریان حدود ۴۰ تا ۵۰ درصد در زمینه مصرف زیرساخت‌ها است و سرعت استقرار را تا ۱۰ برابر افزایش داده است، بدون توجه به اینکه آیا مشتریان در حال کار بر روی یک عامل، یک مدل یادگیری عمیق پیچیده یا یک مدل ریزتنظیم شده هستند.
فروشندگان ابری شروع به ارائه نرم‌افزارهای خود کرده‌اند تا ساخت و استقرار مدل‌های AI را ساده کنند، مانند Sagemaker آمازون و Vertex گوگل کلود. با این حال، گاتگاتیا به تک‌کرانچ گفت که راه‌حل TrueFoundry همچنان اهمیت دارد زیرا به «تسریع استفاده از محاسبات» برای ارائه‌دهندگان ابر کمک می‌کند، زمان برداشتن به بازار برای برنامه‌های AI را سرعت می‌بخشد و هزینه‌های کلی آنها را کاهش می‌دهد.
دور سری A کاملاً سهامی شاهد حضور شرکای Ventures Eniac، Peak XV Partners و Jump Capital، به‌همراه سرمایه‌گذاران فرشته‌ای چون گوکل راجارام، موهیت آرون و سیان باینستر بود.
استارت‌آپ از این سرمایه‌گذاری برای گسترش تعداد اعضای تیم خود از ۴۵ نفر مستقر در هند به موقعیت‌های بازاریابی در ایالات متحده، از جمله فروش، موفقیت مشتری و نقشه‌های بازاریابی محصول استفاده خواهد کرد. همچنین برنامه دارد در سرمایه‌گذاری در مشارکت‌ها، به‌ویژه با فروشندگان ابر سرمایه‌گذاری کند و در حال فرایند دریافت فهرست در بازارهای کلیدی ابرها آغاز با AWS Marketplace است.
علاوه بر این، TrueFoundry قصد دارد عامل AI خود را راه‌اندازی کند که به پیشنهاد منابع مناسب و فعال‌سازی اسکال خودکار و عیب‌یابی کمک می‌کند.
با سرمایه تازه، TrueFoundry در مجموع بیش از ۲۱ میلیون دلار جذب کرده است، شامل ۲.۳ میلیون دلار در دور اولیه خود در سپتامبر ۲۰۲۲ به رهبری Surge شرکت Peak XV (در آن زمان سیکویا هند).
این استارت‌آپ سال گذشته تعداد مشتریان خود را چهار برابر کرد و بیش از ۱۰۰۰ خوشه در سراسر مشتریان برای حجم‌کار ML استقرار داده است. گاتگاتیا همچنین به تک‌کرانچ گفت که به درآمد سالانه بالای ۱.۵ میلیون دلار رسیده است و قصد دارد این سال را به‌طور مضاعف افزایش دهد.
