اطلاعیه بیرون آمدن یکی از استارتاپهای معتبر هوش مصنوعی دانشگاه برکلی به نام لتا
یک استارتاپ به نام لتا به تازگی از حالت پنهانی خارج شده است و با تکنولوژیای که به مدلهای هوش مصنوعی کمک میکند تا کاربران و مکالمات را به یاد بیاورند، وارد بازار شده است. این استارتاپ که در کارخانه استارتاپهای معروف دانشگاه برکلی ایجاد شده است، همچنین اعلام کرد که $10 میلیون سرمایه اولیه با رهبری آستاسیا مایرز از شرکت Felicis جذب کرده و دارای ارزشی بالغ بر $70 میلیون پس از پولگذاری است.
لتا همچنین توسط تعدادی از سرمایهگذاران اولیه معتبر در حوزه هوش مصنوعی مانند جف دین از گوگل، کلم دلانگ از Huggin Face، کریستوپال والنسوئلا از Runway، و رابرت نیشیهارا از Anyscale پشتیبانی میشود.
این استارتاپ که توسط دانشجویان دکتری برکلی به نامهای سارا وودرز و چارلز پاکر تأسیس شده، انتظار زیادی برای راهاندازی داشته است، زیرا کودک آزمایشگاه رایانه ای آسمان برکلی است و موجودیت تجاری پروژه محبوب منبع باز MemGPT میباشد.
آزمایشگاه رایانه ای آسمان برکلی، به رهبری پروفسور مشهور و همبنیانگذار Databricks آین استوئیکا، از نوادگان RISELab و AMPLab است که شرکتهایی مانند Anyscale، Databricks و SiFive از آنها برخاستهاند. آزمایشگاه آسمان به خصوص باعث تولد بسیاری از پروژه های مدل زبان بزرگ منبع باز مانند مدل زبان بزرگ گوریلا، vLLM و زبان ساختاری SGLang شده است.
وودرز توصیف کرد، “تعداد زیادی پروژه خیلی سریع، در یک سال زمانی، از آزمایشگاه بیرون آمدند. فقط مردم کنارمان نشستند.” پس این زمان برای ما شگفتانگیز بود.
MemGPT یکی از این پروژههاست و چنان کار پسندی است که قبل از اینکه حتی راهاندازی شود، ویروسی شد.
“کسی ما را جلو انداخت” پاکر به TechCrunch گفت. بنیانگذاران یک مقاله سفید در روز پنجشنبه، ۱۲ اکتبر ۲۰۲۳ منتشر کردند و قرار بود مقالهای دقیقتر و کد را در دوشنبه بعدی در GitHub منتشر کنند. شخصی تصادفی مقاله را پیدا کرد، آن را در Hacker News در روز یکشنبه پست کرد و آن “ویرال شد در Hacker News قبل از اینکه فرصتی برای انتشار صحیح کد، انتشار مقاله، یا مثلاً یک توئیت رشتهای انجام دهید یا هر چیز دیگری داشته باشند”، او گفت.
دلیل این هیجان این بود که MemGPT مشکلی خطرناک برای مدلهای زبان بزرگ را کاهش میدهد: در فرم ذاتی خود، مدلهایی مانند ChatGPT بدون وضعیت هستند، یعنی دادههای تاریخی را در حافظه بلندمدت ذخیره نمیکنند. این برای برنامههای کاربردی هوش مصنوعی که نیاز به شناخت و یادگیری از کاربران در طول زمان دارند، مشکل ساز است - هر چیزی از باتهای پشتیبانی مشتری تا برنامههای ردیابی علائم بهداشتی. MemGPT داده و حافظه را مدیریت میکند تا عوامل و چتباتهای هوش مصنوعی بتوانند کاربران و مکالمات قبلی را به خاطر بسپارند.
پست مربوط به مقاله بالای Hacker News، سایت محبوب برنامهنویسان که توسط Y Combinator اداره میشود، به مدت ۴۸ ساعت برجای ماند، پاکر توضیح داد. بنابراین او آخر هفته خود و چند روز بعد را به پاسخگویی به سوالات در سایت گذراند و در حال تلاش برای آمادهسازی کد برای انتشار بود. هنگامی که پروژه در GitHub در دسترس قرار گرفت، لینک آن بار دیگر ویروسی شد در Hacker News. مصاحبههای YouTube و آموزشها، پستهای Medium ، ۱۱,۰۰۰ ستاره و ۱.۲K فورک در GitHub به سرعت اتفاق افتاد.
VC آستاسیا مایرز از Felicis نیز با خواندن مقاله MemGPT با وودرز و پاکر آشنا شد و بلافاصله احتمالات تجاری این تکنولوژی را تشخیص داد.
“من مقاله را وقتی منتشر شد دیدم”، او به TechCrunch گفت، و بلافاصله با بنیانگذاران تماس گرفت. “ما یک تم سرمایهگذاری حول ساختار عامل هوش مصنوعی داشتیم و قدردان بودیم که یک جزء بسیار مهم از آن، مدیریت داده و حافظه برای مؤثر بودن این چتباتهای مکالمهای و عوامل هوش مصنوعی بود.”
بنیانگذاران همچنان مجازی به Sand Hill Road سفر کردند و تماس های Zoom با VCها انجام دادند تا با آن کسی که اولین بار آنها را دوست داشت توافق کنند.
در همین حال، استوئیکا معرفیهایی به دین، نیشیهارا و دیگر فرشتگان اسمدار در سیلیکون ولی انجام داد. “بسیاری از پروفسورها در برکلی، به عنوان یک نتیجه از بودن در برکلی، بسیار خوب متصل هستند”، پاکر یادآوری کرد که چگونه فرآیند سرمایهگذاری فرشته آسان بود. “آنها چشم خود را به پروژههای آزمایشگاهمان که قرار است تجاری شوند، دارند.”
رقابت و تهدید OpenAI o1
در حالی که MemGPT در حال حاضر منتشر شده و مورد استفاده قرار میگیرد، نسخه تجاری Letta به نام Letta Cloud هنوز برای کسب و کار باز نیست. از روز دوشنبه، لتا درخواستهای کاربران بتا را میپذیرد. این خدمات دهنده عامل میزبان در فضای ابری ارائه خواهد داد که به توسعهدهندگان اجازه میدهد عوامل حالت دار را در ابر مستقر و اجرا کنند، که از REST APIs قابل دسترسی است، یک واسط برنامهنویسی که میتواند حالت را حفظ کند. Letta Cloud دادههای بلندمدت لازم برای انجام این کار را ذخیره خواهد کرد. لتا همچنین ابزارهای توسعهدهنده برای ساخت عوامل هوش مصنوعی ارائه خواهد داد.
با MemGPT، وودرز کاربریهای گستردهای میبیند. “فکر میکنم اولین مورد استفادهای که میبینیم به طور اساسی، چتباتهای بسیار شخصیسازی شده و بسیار جذاب است”، او میگوید. اما همچنین موارد استفاده پیشرفته مانند “یک چتبات برای بیماران سرطانی” وجود دارد که بیماران تاریخچه خود را بارگذاری میکنند و سپس علائم مداوم را به اشتراک میگذارند تا بات بتواند یاد بگیرد و با گذر زمان راهنمایی ارائه دهد.
ارزش ذکر شدن دارد که MemGPT تنها نیست که روی این کار میکند. LangChain احتمالاً شناخته شدهترین رقیب آن است و در حال حاضر گزینههای تجاری ارائه میدهد. بزرگترین سازندگان مدل نیز ابزارهای ساخت عوامل هوش مصنوعی ارائه میدهند، مانند API دستیارهای OpenAI.
و مدل جدید OpenAI o1 ممکن است نیاز به اصلاح حالت را برای کاربران آن بیمعنی کند. زیرا یک مدل چند مرحلهای است، باید به نوعی حالت را حفظ کند تا بتواند “فکر کند” و قبل از پاسخ دهی بررسی صحت کند.
اما وودرز، پاکر و مایرز تفاوتهای کلیدی چندی بین آنچه لتا ارائه میدهد و آنچه که غول بازار OpenAI انجام میدهد میبینند. لتا ادعا میکند که با هر مدلی از هوش مصنوعی کار خواهد کرد و انتظار دارد که کاربرانش از بسیاری از آنها استفاده کنند: OpenAI، Anthropic، Mistral، مدلهای خانگی خودشان. تکنولوژی OpenAI در حال حاضر فقط با خودش کار میکند.
مهمتر از همه، لتا از MemGPT منبع باز استفاده میکند و به طور محکمی در سمت منبع باز مناظره FOSS در مقابل LLM جعبه سیاه قرار میگیرد، به این ادعا که منبع باز انتخاب بهتری برای برنامهنویسان کاربردهای هوش مصنوعی است.
پاکر میگوید، “ما خود را به عنوان جایگزین منبع باز برای OpenAI قرار میدهیم. فکر میکنم ساختن برنامههای هوش مصنوعی بسیار خوب، به ویژه هنگامی که به وضوح داشتن اهمیت میدهید، مانند توهم، اگر نمیتوانید ببینید که درون جعبه چه میگذرد، بسیار، بسیار دشوار است.”