تکنولوژی
دور ۴۰۰ میلیون دلاری لایتمتر هیجانآور برای مراکز داده فوتونیک در دوران هوش مصنوعی
استارتاپ لایتمتر ۴۰۰ میلیون دلار برای حل تنگناهای مراکز داده مدرن جمعآوری کرده است. لایه اتصال نوری این شرکت به صدها GPU اجازه میدهد بهصورت همزمان کار کنند که هزینه و پیچیدگی آموزش و اجرای مدلهای هوش مصنوعی را کاهش میدهد.
شرکت نوپای محاسبات نوری لایتمتر ۴۰۰ میلیون دلار جمعآوری کرده است تا یکی از گلوگاههای مراکز داده مدرن را باز کند. لایه اتصال نوری این شرکت به صدها واحد پردازش گرافیکی اجازه میدهد که بهطور همزمان کار کنند و کار پرهزینه و پیچیده آموزش و اجرای مدلهای هوش مصنوعی را سادهتر میکند.
رشد هوش مصنوعی و نیازهای پردازشی فراوان مرتبط با آن صنعت مرکز داده را تقویت کرده است، اما این کار به سادگی اتصال هزار پردازنده گرافیکی دیگر نیست. همانطور که کارشناسان محاسبات با کارایی بالا سالها است میدانند، مهم نیست هر کدام از گرههای ابررایانه شما چقدر سریع باشند، اگر این گرهها نیمه وقت منتظر ورود داده باشند.
لایههای اتصال یا لایههای اتصالی واقعاً قفسههای پردازنده و پردازنده گرافیکی را به یک ماشین عظیم تبدیل میکنند — بنابراین طبیعی است که هرچه اتصال سریعتر باشد، مرکز داده هم سریعتر است. و به نظر میرسد لایتمتر سریعترین لایه اتصال را با استفاده از بیتهای فوتونیک که از سال ۲۰۱۸ توسعه داده است، میسازد.
"ابر مقیاسها میدانند که اگر بخواهند یک کامپیوتر با یک میلیون گره داشته باشند، نمیتوانند این کار را با سوئیچهای سنتی سیسکو انجام دهند. وقتی از قفسه خارج میشوید، از اتصال پرچگالی به چیزی مثل یک فنجان بر روی ریسمان تبدیل میشوید،" نیک هریس، مدیرعامل و بنیانگذار شرکت به تککرانچ گفت. (شما میتوانید یک گفتار کوتاه او که این مسئله را خلاصه میکند اینجا ببینید.)
او در ادامه اشاره کرد که پیشرفتهترین حالت کنونی NVLink و به ویژه پلتفرم NVL72 است، که ۷۲ واحد Nvidia Blackwell را به هم متصل میکند و قادر به قابلیت حداکثر ۱.۴ اگزافلاپ در دقت FP۴ است. اما هیچ قفسهای یک جزیره نیست و همه این محاسبات باید از طریق ۷ ترابیت شبکه «گسترش یافتی» تحت فشار قرار بگیرد. به نظر میرسد زیاد است، و واقعاً هم هست، اما عدم توانایی در شبکهبندی این واحدها به همدیگر و به دیگر قفسهها یکی از موانع اصلی بهبود عملکرد است.
"برای یک میلیون GPU، به چندین لایه سوئیچ نیاز دارید که بار تأخیر عظیمی ایجاد میکند،" گفت هریس. "شما باید از برق به نوری به برق به نوری بروید... میزان برقی که مصرف میکنید و مدت زمانی که منتظر میمانید، زیاد است. و در خوشههای بزرگتر به طور چشمگیری بدتر میشود."
پس لایتمتر چه چیزی به میز آورده است؟ فیبر. تعداد زیادی فیبر که از طریق یک رابط کاملاً نوری هدایت میشود. با تا ۱.۶ ترابیت بر فیبر (با استفاده از چندین رنگ)، و تا ۲۵۶ فیبر در هر تراشه... خوب، بگذارید بگوییم که ۷۲ GPU در ۷ ترابیت شروع به صدایی عجیب میکنند.
"فوتونیکها به طرز قابل توجهی سریعتر از آنچه مردم فکر میکردند در حال پیشرفت هستند — مردم سالها مبارزه کردهاند که کار کنند، اما ما رسیدهایم," گفت هریس. "بعد از هفت سال grind," او افزود.
اتصال فلزی که اکنون از لایتمتر در دسترس است ۳۰ ترابیت ارسال میکند، در حالی که سیمبندی نوری روی قفسه قادر است ۱۰۲۴ واحد GPU را در قفسههای بهطور خاص طراحی شده خود به صورت همزمان کار کند. اگر در صورت نیاز بخواهید بدانید، این دو عدد به دلیل عوامل مشابه افزایش نمییابند، زیرا بسیاری از آنچه که نیاز به شبکهدهی به یک قفسه دیگر دارد، میتواند در یک خوشه GPU هزارگانه در قفسه انجام شود. (و به هر حال، ۱۰۰ ترابیت در راه است.)
بازار برای این چیز فوقالعاده بزرگ است، هریس اشاره کرد، با هر شرکت مرکز داده بزرگ از مایکروسافت تا آمازون تا تازهواردانی مثل xAI و OpenAI با یک سیری ناپذير برای محاسبه. "آنها در حال اتصال ساختمانها هستند! من تعجب میکنم چقدر میتوانند آن را ادامه دهند," او گفت.
بسیاری از این ابرمقياسها از قبل مشتری هستند، اگرچه هریس نمیخواست هیچکدام را نام ببرد. "فکر کنید از لایتمتر مانند یک کارخانه، مثل TSMC," او گفت. "ما مورد علاقهای را انتخاب نمیکنیم یا نام خود را به برندهای دیگر نمیچسبانیم. ما یک نقشه راه و یک پلتفرم برای آنها فراهم میکنیم — فقط به رشد کیک کمک میکنیم."
اما، او مخفیانه افزود, "شما ارزش خودتان را بدون بهرهبرداری از این فناوری چهار برابر نمیکنید," شاید اشاری به دور اخیر تامین مالی OpenAI که شرکت را با ارزش ۱۵۷ میلیارد دلار ارزیابی کرد، اما این نکته میتواند به همان اندازه در مورد شرکت خودش باشد.
این دور $۴۰۰ میلیون D ارزش آن را به $۴.۴ میلیارد میرساند، یک معادل مشابه از ارزیابی میانه ۲۰۲۳ خود که "ما را به وسیله دور بزرگترین شرکت فوتونیک میسازد. بنابراین این جالب است!" گفت هریس. این دور با رهبری T. Rowe Price Associates و با همکاری سرمایهگذاران موجود Fidelity Management &؛ Research Company و GV انجام شد.
چه بعدی است؟ به علاوه اتصال، شرکت در حال توسعه بسترهای جدید برای تراشهها است به طوری که آنها قادر به انجام وظایف شبکهای حتی بیشتر نزدیک، اگر بخواهید، با استفاده از نور باشند.
هریس حدس میزند که، جدا از اتصال، انرژی در هر تراشه به تفکیک کننده بزرگ رو به جلو خواهد بود. "در ۱۰ سال آینده شما تراشههایی از مقیاس ویفر خواهید داشت — تنها راه برای بهبود عملکرد در هر تراشه وجود ندارد," او گفت. Cerebras از قبل در حال کار بر روی این است، هرچند اینکه آیا قادر به جذب ارزش واقعی این پیشرفت در این مرحله از فناوری هستند پرسشی باز است.
اما برای هریس، دیدن اینکه صنعت تراشه با یک دیوار مواجه شده است، او قصد دارد برای گام بعدی آماده باشد. "ده سال از حالا، اتصال Moore's Law است," او گفت.