NVIDIA L40S: عملکرد بیرقیب هوش مصنوعی و گرافیک برای مراکز داده
هوش مصنوعی مولد (Generative AI) با ایجاد تغییرات چشمگیر، مرزهای جدیدی از فرصتها را برای کسبوکارها در هر صنعت به ارمغان آورده است. برای تحول با هوش مصنوعی، سازمانها به منابع محاسباتی بیشتر، مقیاس بالاتر و قابلیتهای گستردهتری نیاز دارند تا بتوانند از پس تقاضای روزافزون و پیچیدگیهای فزاینده بارهای کاری متنوع برآیند.
کارت گرافیک NVIDIA L40S قدرتمندترین GPU همهکاره برای مراکز داده است و شتابدهی کامل برای نسل جدید برنامههای مجهز به هوش مصنوعی، از جمله هوش مصنوعی مولد، استنتاج مدلهای زبانی بزرگ (LLM)، آموزش مدلهای کوچک و تنظیم دقیق را به همراه قابلیتهای گرافیک سهبعدی، رندرینگ و برنامههای ویدئویی فراهم میکند.
قدرتگرفته از معماری NVIDIA Ada Lovelace
هستههای Tensor نسل چهارم
کارت گرافیک NVIDIA L40S با پشتیبانی سختافزاری از پراکندگی ساختاری (structural sparsity) و فرمت بهینهشده TF32، افزایش عملکرد را بهصورت خودکار برای آموزش سریعتر مدلهای هوش مصنوعی و علوم داده فراهم میکند. قابلیت DLSS به بهبود وضوح تصویر و افزایش عملکرد در برخی برنامهها کمک میکند.
هستههای RT نسل سوم
با بهبود توان عملیاتی و قابلیتهای همزمان ردیابی پرتو و سایهزنی، عملکرد ردیابی پرتو بهبود یافته و رندرها را برای طراحی محصول، معماری، مهندسی و جریانهای کاری ساخت تسریع میکند. طراحیهای زنده و واقعی را با تاری حرکتی (motion blur) و انیمیشنهای آنی خیرهکننده که با سختافزار تسریع شدهاند مشاهده کنید.
موتور Transformer
موتور Transformer عملکرد هوش مصنوعی را به طرز چشمگیری تسریع میکند و بهرهوری حافظه را برای آموزش و استنتاج بهبود میبخشد. با استفاده از قدرت هستههای Tensor نسل چهارم Ada Lovelace، موتور Transformer بهطور هوشمند لایههای شبکههای عصبی مبتنی بر معماری ترنسفورمر را بررسی کرده و بهصورت خودکار میان دقتهای FP8 و FP16 سوئیچ میکند تا عملکرد هوش مصنوعی را افزایش داده و سرعت آموزش و استنتاج را بهبود بخشد.
آماده برای مراکز داده
کارت گرافیک NVIDIA L40S برای عملیات ۲۴ ساعته و ۷ روز هفته در مراکز داده سازمانی بهینه شده و توسط NVIDIA طراحی، تولید، تست و پشتیبانی شده تا بالاترین عملکرد، دوام و زمان کارکرد مداوم را تضمین کند. این کارت با استانداردهای بهروز مراکز داده مطابقت دارد و آماده سطح 3 سیستم ساخت تجهیزات شبکه (NEBS) است و با بهرهگیری از بوت ایمن و فناوری Root of Trust یک لایه امنیتی اضافی برای مراکز داده فراهم میکند.
مشخصات فنی
NVIDIA Ada Lovelace Architecture | GPU Architecture |
48GB GDDR6 with ECC | GPU Memory |
864GB/s | Memory Bandwidth |
PCIe Gen4x16: 64GB/s bi-directional | Interconnect Interface |
18,176 | NVIDIA Ada Lovelace architecture- based CUDA Cores |
142 | NVIDIA third-generation RT Cores |
568 | NVIDIA fourth-generation Tensor Cores |
209 | RT Core performance TFLOPS |
91.6 | FP32 TFLOPS |
183 | 366 | TF32 Tensor Core TFLOPS |
362.05 | 733 | BFLOAT16 Tensor Core TFLOPS |
362.05 | 733 | FP16 Tensor Core |
733 | 1466 | FP8 Tensor Core |
733 | 1466 733 | 1466 |
Peak INT8 Tensor TOPS Peak INT4 Tensor TOPS |
4.4″ (H) x 10.5″ (L), dual slot | Form Factor |
4x DisplayPort 1.4a | Display Ports |
350W | Max Power Consumption |
16-pin | Power Connector |
Passive | Thermal |
Yes | Virtual GPU (vGPU) software support |
3x l 3x (Includes AV1 Encode & Decode) | NVENC l NVDEC |
Yes | Secure Boot with Root of Trust |
Level 3 | NEBS Ready |
No | MIG Support |
No | NVLink Support |
نقد و بررسیها0
هنوز بررسیای ثبت نشده است.