همکاری انویدیا و SK Hynix برای ساخت AI SSD
همکاری انویدیا و SK Hynix در تولید اساسدی نسل جدید مخصوص هوش مصنوعی با ۱۰برابر عملکرد بهتر
مقدمه: اهمیت ذخیرهسازی در هوش مصنوعی
شرکت SK Hynix (اسکی هاینیکس) یکی از بزرگترین تولیدکنندگان جهانی نیمهرسانا و حافظه است. SK هاینیکس که پیشتر حافظه پهنباند (HBM) مورد استفاده در پردازندههای گرافیکی انویدیا را تأمین میکرد اکنون با انویدیا بر روی پروژهای مشترک برای تولید یک اساسدی (SSD یا درایو حالت جامد) کاملاً جدید مخصوص پردازشهای هوش مصنوعی کار میکند.
اهمیت این همکاری در این است که پردازشهای مبتنی بر هوش مصنوعی به حجم عظیمی از داده نیاز دارند برای مثال گزارشها نشان میدهد موتورهای یادگیری ماشینی به منظور یادگیری و تولید مدلهایی پیشرفته به ذخیرهسازی «مقادیر کلان» داده وابستهاند . زیرساختهای سنتی ذخیرهسازی بهتنهایی پاسخگوی این نیازها نیستند به همین علت تولید SSDهای مخصوص AI در دستور کار قرار گرفته است چرا که این SSDها با سرعت خواندن/نوشتن بسیار بالا میتوانند پاسخگوی نیاز دسترسی سریع به دادههای مدلهای بزرگ باشند در نتیجه، تقاضا برای حافظههای پرسرعت در سرورها و دیتاسنترها بهسرعت در حال رشد است.
همکاری انویدیا و SK Hynix تحت عنوان پروژهای با کدنام «Storage Next» (در انویدیا) و «AI-NP» (مخفف AI NAND Performance، در SK هاینیکس) شناخته میشود. طبق گزارشها، قرار است SSD جدیدی با بازدهی تا ده برابر سریعتر از اساسدیهای فعلی ساخته شود و نرخ ورودی/خروجی آن (IOPS) تا حدود ۱۰۰ میلیون افزایش یابد و از نظر عملیاتی این بدان معناست که SSD جدید میتواند لایهای شبه-حافظه (pseudo-memory) بین حافظه اصلی و ذخیرهسازی سنتی ایجاد کند بهطوری که انتقال پیوسته پارامترهای مدلها به پردازندههای گرافیکی بدون ایجاد گلوگاه انجام گیرد.
بررسی فنی ویژگیها و نوآوریهای SSD جدید
این اساسدی جدید بر پایه حافظه فلش NAND و کنترلرهای پیشرفته طراحی میشود تا در پردازشهای استنتاج (Inference) یادگیری ماشینی حداکثر کارایی را ارائه دهد همانطور که گفته شد پروژه مذکور با نامهای رمز Storage Next در انویدیا و AI-NP در SK هاینیکس شناخته میشود. گزارشها میگویند هدف نهایی دستیابی به سرعتی تا ده برابر سریعتر از SSDهای معمولی و حدود ۱۰۰ میلیون عملیات ورودی/خروجی در ثانیه است.
برای رسیدن به این سطح عملکرد، معماری ذخیرهسازی بهطور اساسی بازطراحی میشود. بر اساس گزارشها تمرکز اصلی بر موازیسازی بسیار بالا و کاهش تأخیر است بهگونهای که دسترسی به دادهها با سرعتی نزدیک به حافظههای داخلی سیستم انجام گیرد.
کنترلرهای پیشرفته و مسیرهای دسترسی بهینه باعث میشوند اساسدی جدید بتواند دادهها را با سرعت و کارایی بالایی منتقل کند تا پردازندههای گرافیکی (GPU) کمتر منتظر داده بمانند و همچنین گفته میشود SK هاینیکس تجربیات و توانایی خود در طراحی تراشههای حافظه NAND را در این پروژه بهکار میگیرد و انویدیا نیز تخصص خود در معماری GPU و اتصالات داخلی را اضافه میکند.
در همین راستا، SK هاینیکس استاندارد جدیدی به نام حافظه فلش با پهنای باند بالا (High-Bandwidth Flash یا HBF) را همراه با SanDisk توسعه میدهد. این معماری لایهای با پشته کردن چند بلوک NAND، پهنای باند را مشابه حافظه HBM افزایش میدهد و مکمل فناوری SSD جدید خواهد بود. هدف نهایی این تلاشها خلق یک لایه میانی بهینهشده برای بارهای کاری هوش مصنوعی است که در عین حفظ ظرفیت بالا و توان عملیاتی بیسابقه، مصرف انرژی را نیز بهینه کند.
مزایای استفاده از SSD مخصوص AI
استفاده از این SSD جدید مزایای متعددی برای سیستمهای هوش مصنوعی به همراه دارد:
- رفع گلوگاه داده: با افزایش چشمگیر نرخ IOPS حجم عظیمی از دادهها میتواند با سرعت بسیار بالا از SSD خوانده شود این ویژگی باعث میشود پردازندههای گرافیکی در پردازش مدلهای بزرگ کمتر منتظر داده بمانند و زمان بیکار ماندن آنها کاهش یابد.
- افزایش توان پردازشی: کاهش تأخیر انتقال دادهها و افزایش پهنای باند حافظه موجب میشود توان کلی محاسباتی سیستمهای هوش مصنوعی بالا رود به عبارت دیگر GPUها میتوانند پارامترهای مدلها را با سرعت بیشتری دریافت و پردازش کنند که این موضوع بازدهی آموزش و استنتاج مدلهای پیچیده را بهبود میدهد.
- امکان بهرهگیری از مدلهای حجیم: SSD جدید مانند یک لایه حافظهی اضافی عمل میکند و به جای آن که تمام پارامترهای مدل در حافظه گرانقیمت DRAM جا داده شوند میتوانند بهصورت لحظهای از NAND بارگذاری شوند این امر امکان استفاده از مدلهای بسیار بزرگتر و پیچیدهتر را فراهم میکند.
- بهرهوری انرژی بالاتر: معماری پیشرفته کنترلر و طراحی اختصاصی SSD منجر به انتقال کارآمدتر دادهها با مصرف انرژی کمتر میشود با توجه به نیاز به توان عملیاتی بالا در این SSD بهینهسازی مصرف انرژی نقش مهمی دارد و بازده انرژی بهتری نسبت به راهکارهای ذخیرهسازی معمولی ارائه میدهد.
کاربردها در حوزههای مختلف
- مراکز داده ابری و سرویسهای پردازش ابری: بزرگترین کاربرد این فناوری در دیتاسنترها و فضاهای ابری (Cloud) است که بارهای کاری هوش مصنوعی را مدیریت میکنند . پیشبینی میشود تقاضا برای سرورهای هوش مصنوعی بهسرعت رشد کند و در این مراکز استفاده از SSDهای فوقسریع برای رسیدگی به حجم بالای داده حیاتی است.
- یادگیری عمیق(Deep Learning): در فرایند آموزش و استنتاج شبکههای عصبی عمیق نیاز به بارگذاری سریع وزنهای مدل و دادههای آموزشی وجود دارد. این SSD میتواند زمان مورد نیاز برای بارگذاری مدلهای بسیار بزرگ را کاهش دهد و سرعت آموزش و استنتاج را بهبود بخشد
- مدلهای مولد(Generative AI): در کاربردهایی مانند تولید متن خودکار (ChatGPT) یا تولید تصویر و ویدئو (مانند DALL·E) مدلها به لحظه به پارامترهای زیادی دسترسی دارند برای مثال سیستمهای مولد هوش مصنوعی برای پاسخگویی سریع به ورودیها نیازمند بازیابی فوری پارامترهای مدل هستند که SSD با کارایی بالا میتواند این نیاز را برآورده کند.
- سایر کاربردهای پیشرفته: علاوه بر موارد فوق در زمینههایی مانند شبیهسازی علمی، رباتیک پیشرفته، خودروهای خودران و دیگر حوزههایی که نیاز به پردازش بلادرنگ حجم عظیمی از داده دارند نیز میتوان از این SSD استفاده کرد. در این سناریوها دسترسی سریع به مجموعههای داده بزرگ و مدلهای پیچیده میتواند کارایی سیستم را به طور چشمگیری افزایش دهد.
تأثیر احتمالی بر بازار سختافزار و آینده ذخیرهسازی AI
- افزایش فشار بر زنجیره تأمین حافظهNAND: تقاضای بالا برای SSDهای با عملکرد فوقالعاده میتواند عرضه تراشههای NAND Flash را تحت فشار قرار دهد برخی کارشناسان احتمال میدهند این وضعیت مشابه با بازار DRAM تکرار شود که در آن تقاضای AI به کمبود و افزایش قیمتها انجامید. اگر این SSD به فناوری مرسوم تبدیل شود، شاهد افزایش چشمگیر در نیاز به حافظه فلش خواهیم بود.
- تحریک رقبا به نوآوری: حرکت انویدیا و SK هاینیکس دیگر سازندگان حافظه را نیز به واکنش واداشته است. گزارشها حاکی از آن است که انویدیا با شرکتهایی مانند کیوکسیا (Kioxia) نیز در حال همکاری برای تولید SSDهای مخصوص AI است که صد برابر سریعتر از مدلهای مرسوم خواهند بود این نوع تلاشها رقبا را به توسعه فناوریهای مشابه در حوزه حافظه هوش مصنوعی ترغیب میکند.
- بازتعریف معماری سیستمهای محاسباتی: اگر SSD مخصوص AI جای خود را در بازار باز کند ممکن است یک لایه جدید «حافظه شبه» بین RAM و ذخیرهسازی سنتی ایجاد شود. چنین تغییری میتواند به بازطراحی سیستمهای کامپیوتری بیانجامد بهطوری که حافظه فلش بهعنوان بخشی فعال در پردازش هوش مصنوعی نقش ایفا کند از سوی دیگر فشار بر بازار NAND احتمالاً سرمایهگذاری بیشتر روی فناوریهای ذخیرهسازی پیشرفته را تحریک خواهد کرد.
- چشمانداز آینده: در صورت موفقیت این طرح انتظار میرود ترکیب حافظه فلش پرسرعت با معماریهای AI پدیدار شود و استانداردهای جدیدی در ذخیرهسازی داده شکل گیرد در نهایت میتوان این همکاری را نقطه عطفی در جهت استفاده بهینه از حافظه در سیستمهای هوش مصنوعی دانست که تأکید بیشتری بر سطح ذخیرهسازی خواهد گذاشت.
نتیجهگیری
خلاصه اینکه همکاری انویدیا و SK هاینیکس بر روی اساسدی جدید نشان میدهد که نقش ذخیرهسازی در پردازشهای هوش مصنوعی بیش از پیش حیاتی شده است. این SSD اختصاصی با هدف ارائه ۱۰ برابر عملکرد سریعتر و نرخ ورودی/خروجی بسیار بالاتر طراحی شده تا بتواند گلوگاههای دادهای مدلهای بزرگ را برطرف کند که در صورت تحقق این طراحی میتوان انتظار داشت کارایی و سرعت استنتاج مدلهای بزرگ بهشدت افزایش یابد در عین حال این طرح میتواند فشار قابل توجهی بر بازار حافظه فلش وارد کند و شرکتهای رقیب را به توسعه راهکارهای مشابه تشویق کند. اگرچه هنوز جزئیات فنی کامل و زمانبندی عرضه محصول مشخص نیست اما واضح است که آینده نزدیک شاهد تغییراتی در لایههای ذخیرهسازی مرتبط با هوش مصنوعی خواهیم بود .
در مجموع، SSD مخصوص هوش مصنوعی نویدبخش افزایش چشمگیر سرعت پردازش مدلهای بزرگ است اما در عین حال باید منتظر چالشهایی مانند محدودیت عرضه حافظه و چگونگی تجاریسازی آن باشیم.