به گزارش دلچسب
شرکت آمریکایی Cerebras بهتازگی تازه ترین تراشه استنتاج هوش مصنوعی خود با نام CS-3 را معارفه کرده و ادعا میکند که این تراشه ازجمله سریعترین تراشههای هوش مصنوعی جهان است.
همزمان با افزایش کاربرد هوش مصنوعی در صنایع و دستگاههای گوناگون، ساخت تراشههایی برای پردازش این فعالیتها به تمرکز تازه شرکتهای تولیدکننده تراشه تبدیل شده است. انویدیا اکنون پادشاه بیرقیب بازار تراشههای هوش مصنوعی است و توانسته سهم قابلتوجهی از این بازار را نصیب خود کند. اما Cerebras ادعا میکند که توانسته تراشهای برای رقابت با تراشه DGX100 انویدیا گسترش دهد.
تراشه تازه Cerebras رقیب DGX100 انویدیا است
به گزارش تکرادار، تراشه تازه Cerebras به ۴۴ گیگابایت حافظه پرسرعت تجهیزاست که به آن امکان میدهد مدلهای هوش مصنوعی را با میلیاردها یا تریلیونها پارامتر هندل کند. برای مدلهایی که از ظرفیت این تراشه فراتر میروال نیز Cerebras میگوید که میتواند آنها را در مرزهای هر لایه تقسیم و در چند سیستم CS-3 توزیع کند. یک سیستم CS-3 میتواند مدلهای دارای ۲۰ میلیارد پارامتر را هندل کند، درحالیکه مدلهای ۷۰ میلیارد پارامتری تنها با چهار سیستم CS-3 قابل مدیریت می باشند.
برای بالابردن دقت، Cerebras روی منفعت گیری از مدلهای ۱۶ بیتی پافشاری دارد. به حرف های این شرکت، مدلهای ۱۶ بیتی میتوانند در مکالمات چندنوبتی، ریاضی و کارهای استدلالی تا ۵ درصد کارکرد بهتری نسبت به مدلهای ۸ بیتی داشته باشند و خروجیهای یقینتر و دقیقتری اراعه کنند.
پلتفرم استنتاج Cerebras از طریق چت و دسترسی API در دسترس گسترشدهندگان قرار دارد. این پلتفرم این چنین بهصورتی طراحی شده که گسترشدهندگان آشنا به Chat Completions شرکت OpenAI بتوانند بهراحتی آن را در محصولات خود ادغام کنند. این پلتفرم ادعا دارد که میتواند مدلهای Llama3.1 70B را با شدت ۴۵۰ توکنبرثانیه اجرا کند.
این چنین، این پلتفرم در ابتدا با حمایتاز مدلهای Llama3.1 8B و 70B در دسترس قرار میگیرد. در آینده نیز حمایتاز Llama3 405B و Mistral Large 2 به آن اضافه میشود.
دسته بندی مطالب