NVIDIA จับมือ VMware รันงาน AI บน vSphere ได้ประสิทธิภาพใกล้เคียง Bare Metal

หัวข้อกระทู้ ใน 'เทคโนโลยี' เริ่มโพสต์โดย iPokz, 15 มีนาคม 2021.

  1. iPokz

    iPokz ~" iPokz "~ Staff Member

    NVIDIA เปิดตัวชุดซอฟต์แวร์ AI Enterprise ที่ปรับแต่งมารันบน VMware vSphere โดยระบุว่าได้ประสิทธิภาพด้อยกว่าการรันบนฮาร์ดแวร์จริง (bare metal) ไม่มากนัก

    AI Enterprise เป็นชื่อเรียกรวมๆ ของซอฟต์แวร์ฝั่ง AI และ data science ของ NVIDIA ตั้งแต่ระดับล่างคือ CUDA, CUDA-X, GPU Operator, TensorRT, RAPIDS รวมถึงเฟรมเวิร์คโอเพนซอร์สยอดนิยมอย่าง TensorFlow, PyTorch

    [​IMG]

    [​IMG]

    ฝั่งของ VMware จะปรับแต่ง VMware vSphere 7 Update 2 ซึ่งเป็นการรันทั้งบน VM และ container (Tanzu) ให้รันได้เต็มประสิทธิภาพบนจีพียูของ NVIDIA

    ผลคือประสิทธิภาพของการรันงาน AI บน vSphere จะเกือบเทียบเคียงการรันบนฮาร์ดแวร์จริงๆ ข้อดีของความร่วมมือนี้คืองานประมวลผล AI สามารถรันจากที่ไหนก็ได้ ขอแค่เป็นเซิร์ฟเวอร์หรือคลาวด์ที่มีจีพียู NVIDIA ช่วยให้การสเกลระบบคล่องตัวมากขึ้น

    [​IMG]

    vSphere 7 Update 2 ยังรองรับจีพียูตัวใหม่ล่าสุด NVIDIA A100 ที่มีฟีเจอร์เด่นคือการซอย GPU ออกเป็นหลาย instance (ชื่อเต็มๆ คือ multi-instance GPUs หรือ MIGs) เพื่อกระจายการประมวลผล และทำ live migration ระหว่าง instance ได้ด้วย

    [​IMG]

    ที่มา - NVIDIA, VMware

    Topics: NVIDIAVMwareVirtualizationArtificial IntelligenceEnterprise
     

แบ่งปันหน้านี้