VMware Cloud di AWS Mendapatkan GPU Virtual Saat Perusahaan Bermitra Dengan Nvidia

Nvidia

Dengan AI dan pembelajaran mesin yang semakin menjadi bagian tak terpisahkan dari komputasi modern, dasar-dasar bisnis Nvidia tetap kuat. Mereka telah mempelopori upaya mereka untuk menjadi kekuatan utama dalam bisnis server yang menjalin kemitraan dengan beberapa perusahaan teknologi. Baru-baru ini Nvidia dan VMware mengumumkan kerja sama, yang akan menghadirkan vGPU (Teknologi GPU Virtual) Nvidia ke tumpukan vSphere VMware di AWS.

GPU dirancang dengan mempertimbangkan komputasi data-paralel, yang mempercepat operasi vektor dan matriks. Ini membuatnya ideal untuk beban kerja AI.

Sebelumnya hanya terbatas pada CPU, beban kerja AI sekarang dapat dengan mudah diterapkan di lingkungan virtual seperti VMware vSphere dengan yang baru vComputeServer perangkat lunak dan NVIDIA NGC . Melalui kami kemitraan dengan VMware , arsitektur ini akan membantu organisasi untuk memigrasikan beban kerja AI pada GPU dengan lancar antara pusat data pelanggan dan VMware Cloud di AWS.

- ANNE HECHT (Nvidia)

Beban kerja yang dipercepat GPU sering kali dijalankan di server fisik tenant tunggal, tetapi dengan vComputeServer, perusahaan dapat menjalankan beban kerja AI dalam lingkungan virtual, ini menawarkan lebih banyak fleksibilitas dan penghematan uang (Hingga skala tertentu). Nvidia sudah mendukung beberapa hypervisor berbasis KVM, termasuk Red Hat dan Nutanix. VSphere VMware adalah tambahan terbaru.

Fitur vComputeServer meliputi:

• Kinerja GPU: Pelatihan deep learning hingga 50x lebih cepat daripada hanya CPU, performa serupa dengan menjalankan GPU pada bare metal.
• Komputasi lanjutan: Kode koreksi kesalahan dan penghentian halaman dinamis mencegah kerusakan data untuk beban kerja akurasi tinggi.
• Migrasi langsung: Mesin virtual berkemampuan GPU dapat dimigrasi dengan gangguan atau waktu henti yang minimal.
• Keamanan yang ditingkatkan: Perusahaan dapat memperluas manfaat keamanan dari virtualisasi server ke cluster GPU.
• Isolasi multi-tenant : Beban kerja dapat diisolasi untuk mendukung banyak pengguna dengan aman di satu infrastruktur.
• Manajemen dan pemantauan : Admin dapat menggunakan alat virtualisasi hypervisor yang sama untuk mengelola server GPU, dengan visibilitas di tingkat host, mesin virtual, dan aplikasi.
• Beragam GPU yang Didukung: vComputeServer didukung pada GPU NVIDIA T4 atau V100, serta GPU Quadro RTX 8000 dan 6000, dan GPU P40, P100, dan P60 arsitektur Pascal generasi sebelumnya.

- Nvidia

Pengguna VMware vSphere juga akan mendapatkan dukungan Nvidia GPU Cloud, yang merupakan platform cloud berakselerasi GPU yang dioptimalkan untuk pembelajaran mendalam dan komputasi ilmiah. Anne Hecht dari Nvidia menulis “ NVIDIA NGC , hub kami untuk perangkat lunak yang dioptimalkan GPU untuk pembelajaran mendalam, pembelajaran mesin, dan HPC, menawarkan lebih dari 150 kontainer, model terlatih, skrip pelatihan, dan alur kerja untuk mempercepat AI dari konsep hingga produksi, termasuk RAPIDS , perangkat lunak sains data kami yang dipercepat CUDA ”.

Kemitraan VMware Sejalan Dengan Akuisisi Terbaru

VMware akan mengakuisisi Bitfusion, yang akan menambah banyak nilai pada platform cloud vSphere-nya. Seperti yang kita bahas sebelumnya di artikel, virtualisasi dapat menawarkan banyak keuntungan kepada perusahaan dengan kinerja yang minimal. Dengan teknologi Bitfusion, perusahaan akan dapat beralih dari server bare-metal dan memvirtualisasikan GPU mereka, karena pengaturan seperti itu dapat menghasilkan pemanfaatan sumber daya yang tersedia dengan lebih baik. Dengan komputasi yang dipercepat menjadi pusat perhatian, perusahaan akan mencari cara untuk memvirtualisasikan tumpukan perangkat keras mereka, VMware sangat menyadari hal ini dan mereka bergerak untuk menjadikan platform vSphere penting di pusat data.