استارتاپ نروژی Factiverse می‌خواهد با استفاده از هوش مصنوعی با اطلاعات نادرست مبارزه کند
در پی انتخابات ریاست‌جمهوری ایالات متحده در سال ۲۰۲۴، یک واقعیت آشکار شد: اطلاعات نادرست به‌طور شگفت‌انگیزی در فضای آنلاین منتشر شد و نظرات آمریکایی‌ها را در مورد هر نامزد و همچنین مجموعه‌ای متنوع از موضوعات شامل سلامت عمومی، تغییرات آب و هوایی و مهاجرت شکل داد. هوش مصنوعی مولد - با توانایی تولید دیپ‌فیک‌ها در عرض چند ثانیه و تمایل به تخیلات غیرواقعی - فقط می‌تواند به تشدید این مشکل کمک کند.
Factiverse , یک استارتاپ که در TechCrunch Disrupt Battlefield 200 در اکتبر شرکت کرد، خود را برای این هجوم آماده می‌کند. این شرکت، که در دسته امنیت، حریم خصوصی و شبکه‌های اجتماعی بهترین ارائه را کسب کرد، ابزاری برای تجارت به تجارت توسعه داده است که بررسی زنده صحت اطلاعات متنی، ویدیویی و صوتی را ارائه می‌دهد. معرفی شرکت: کمک به کسب‌وکارها در صرفه‌جویی ساعت‌ها تحقیق و کاهش هرگونه خطر شهرت یا مسئولیت قانونی.
این استارتاپ نروژی هنوز در مراحل اولیه خود است؛ از زمان راه‌اندازی در سال ۲۰۲۰، Factiverse حدود ۱.۴۵ میلیون دلار در مرحله پیش‌کاشت پول جمع‌آوری کرده است. با این حال، این شرکت با هر دو شریک رسانه‌ای و مالی کار خود را آغاز کرده است، از جمله یکی از بزرگترین بانک‌های نروژ، به گفته مدیرعامل و هم‌بنیان‌گذار Factiverse، ماریا آملی.
Factiverse حتی بررسی زنده صحت اطلاعات مناظره‌های ریاست‌جمهوری ایالات‌متحده را که توسط چندین شریک رسانه‌ای استفاده شد، و فراهم کرد، گفت آملی.
«ما مدل LLM (مدل زبانی بزرگ) نیستیم. ما نوع دیگری از مدل را بر اساس بازیابی اطلاعات ساخته‌ایم»، آملی به TechCrunch گفت.
به عنوان یک روزنامه‌نگار فناوری سابق و نویسنده منتشر شده، آملی تجربه دست اول در مبارزه علیه حقایق دارد. او با هم‌بنیان‌گذار و مدیر فناوری Factiverse وینی ستتی، که استاد مشارکتی در یادگیری ماشین در دانشگاه استاوانگر است، برای راه‌اندازی این استارتاپ با تمرکز بر تجارت به تجارت همکاری کرد.
به گفته آملی، مدل Factiverse بر روی داده‌های باکیفیت، خوب‌انتخاب‌شده و معتبر از منابع معتبر و بررسی‌کنندگان حقایق در سراسر جهان آموزش داده شده است و نه داده‌های «به درد نخور» که هوش مصنوعی مولد بر روی آنها آموزش دیده است.
«ما مدل هوش مصنوعی خود را آموزش می‌دهیم تا همانند کسی که تجربه زیادی در تحقیق بر روی اطلاعات دارد، به طور شهودی فکر کند» آملی گفت.
مدل، که بر اساس یادگیری ماشین و پردازش زبان طبیعی است، قادر به شناسایی ادعاها و جستجوی وب در زمان واقعی است - از موتورهای جستجویی مانند گوگل و بینگ تا موتورهای جستجوی هوش مصنوعی مانند You.com به مقالات علمی.
«جالب‌ترین قسمت این است که ما به شما هر چه که روی این موتورهای جستجو ظاهر می‌شود را نشان نمی‌دهیم»، آملی گفت. «ما در واقع به شما پیشنهاد می‌دهیم که کدام منابع بر موضوع شما بیشتر، یا به لحاظ تاریخی بیشتر، قابل اعتماد بوده‌اند... ما در واقع به دامنه در ارتباط با موضوع نگاه می‌کنیم، و گاهی حتی کسی که در یک مقاله نقل شده است را نیز در نظر می‌گیریم.»
تا امروز، Factiverse می‌گوید در توانایی شناسایی ادعاهای قابل بررسی حقیقت از GPT-4، Mistral 7-b، و GPT-3 پیشی می‌گیرد. مدل این شرکت همچنین در تعیین صحت یک ادعا از مدل‌های زبانی بزرگ بهتر عمل می‌کند. آملی گفت که میزان موفقیت Factiverse حدود ۸۰٪ است و هدف بهبود این میزان با ورود مشتریان جدید در سراسر جهان است.
«ما سرمایه کافی برای بهترین بودن داریم، اما اینجا در ایالات‌متحده هستیم تا سریع‌ترین شویم»، آملی به TechCrunch گفت. او همچنین گفت که شرکت می‌خواهد در سال ۲۰۲۵ یک دور سرمایه‌گذاری بذری جمع‌آوری کند. «ما به دنبال مشتریان و سرمایه‌گذارانی هستیم که می‌خواهند در اعتماد و اعتبار سرمایه‌گذاری کنند»، او گفت.
