Red Hat dan AMD Perkuat Kolaborasi Strategis, Perluas Pilihan Pelanggan
Red Hat dan AMD Perkuat Kolaborasi Strategis, Perluas Pilihan Pelanggan
Untuk AI dan virtualisasi di seluruh cloud hybrid
Surabaya, Kabarindo- Red Hat, penyedia solusi open source terkemuka di dunia, dan AMD pada Selasa (20/5/2025) di Boston, AS, mengumumkan kolaborasi strategis untuk mendorong kemampuan AI dan mengoptimalkan infrastruktur virtual.
Dengan aliansi yang semakin erat ini, Red Hat dan AMD akan memperluas pilihan pelanggan di seluruh cloud hybrid, mulai dari penerapan model AI yang dioptimalkan dan efisien hingga memodernisasi Virtual Machine (VM) tradisional dengan biaya yang lebih efektif.
Karena permintaan dan keragaman beban kerja terus meningkat dengan diperkenalkannya AI, organisasi harus memiliki kapasitas dan sumber daya untuk memenuhi persyaratan yang terus meningkat ini. Namun data center rata-rata didedikasikan terutama untuk sistem TI tradisional, sehingga hanya menyisakan sedikit ruang untuk mendukung beban kerja intensif seperti AI. Untuk menjawab kebutuhan ini, Red Hat dan AMD menyatukan kekuatan solusi open source terkemuka di industri Red Hat dengan portofolio lengkap arsitektur komputasi berkinerja tinggi AMD.
AMD dan Red Hat: menuju AI generatif yang lebih efisien
Red Hat dan AMD menggabungkan kekuatan Red Hat AI dengan portofolio prosesor berbasis x86 dan arsitektur GPU AMD untuk mendukung lingkungan yang dioptimalkan, hemat biaya dan siap produksi untuk beban kerja yang mendukung AI.
GPU AMD Instinct kini sepenuhnya diaktifkan pada Red Hat OpenShift AI, memberikan pelanggan daya pemrosesan performa tinggi yang diperlukan untuk penerapan AI di seluruh cloud hybrid tanpa persyaratan sumber daya yang ekstrem. Selain itu, menggunakan GPU AMD Instinct MI300X dengan Red Hat Enterprise Linux AI, Red Hat dan AMD melakukan pengujian pada Microsoft Azure ND MI300X v5, untuk berhasil mendemonstrasikan inferensi AI guna penskalaan model bahasa kecil (SLM) serta model bahasa besar (LLM), yang diterapkan di beberapa GPU pada satu VM. Hal ini mengurangi kebutuhan untuk menerapkan di beberapa VM dan mengurangi biaya kinerja.
Guna mendorong akselerasi dan kemampuan penyetelan performa lebih lanjut, Red Hat dan AMD berkolaborasi dalam komunitas vLLM hulu untuk mendorong inferensi AI yang lebih efisien. Dengan aktivasi hulu ini, Red Hat dan AMD bertujuan untuk memberikan:
Peningkatan performa pada GPU AMD
Dengan melakukan upstreaming kernel AMD dan mengoptimalkan berbagai komponen seperti kernel Triton dan FP8, Red Hat dan AMD memajukan performa inferensi untuk model padat dan terkuantisasi, yang memungkinkan eksekusi vLLM lebih cepat dan lebih efisien pada akselerator AMD Instinct MI300X.
Dukungan multi-GPU yang ditingkatkan
Meningkatkan komunikasi kolektif dan mengoptimalkan beban kerja multi-GPU membuka pintu bagi penerapan AI yang lebih terukur dan hemat energi, khususnya bermanfaat untuk beban kerja yang memerlukan komputasi terdistribusi di beberapa GPU, mengurangi hambatan dan meningkatkan throughput keseluruhan.
Keterlibatan ekosistem vLLM yang diperluas
Kolaborasi silang antara Red Hat, AMD dan pemimpin industri lainnya seperti IBM membantu mempercepat pengembangan hulu untuk mendorong peningkatan berkelanjutan bagi proyek vLLM dan pengoptimalan GPU AMD, yang selanjutnya menguntungkan pengguna vLLM yang mengandalkan hardware AMD untuk inferensi dan pelatihan AI.
Berdasarkan kolaborasi dalam komunitas vLLM ini, GPU AMD Instinct akan mendukung Red Hat AI Inference Server, distribusi vLLM kelas perusahaan dari Red Hat, secara langsung untuk server inferensi AI yang tangguh, andal dan dapat diskalakan. Sebagai kontributor komersial teratas untuk vLLM, Red Hat berkomitmen untuk memungkinkan kompatibilitas saat menerapkan vLLM pada hardware pilihan organisasi, yang mencakup GPU AMD Instinct. Menjalankan vLLM pada GPU AMD Instinct memberdayakan organisasi untuk menerapkan model AI sumber terbuka apa pun pada hardware GPU yang tervalidasi dan teruji untuk pengoptimalan dan kinerja yang luar biasa.
CPU AMD EPYC juga memungkinkan kinerja AI menyeluruh dan ideal untuk menghosting sistem yang mendukung GPU. Hal ini dapat membantu meningkatkan kinerja dan laba atas investasi (ROI) setiap server GPU, bahkan untuk beban kerja AI yang paling berat.
Transformasi datacenter modern
Dengan mengoptimalkan jejak data center, organisasi dapat menginvestasikan kembali sumber daya secara lebih efektif dan mudah untuk memungkinkan inovasi AI. Red Hat OpenShift Virtualization, sebuah fitur dari Red Hat OpenShift, menawarkan jalur yang efisien bagi organisasi untuk melakukan migrasi dan mengelola beban kerja VM dengan kesederhanaan dan kecepatan platform aplikasi berbasis cloud. Red Hat OpenShift Virtualization divalidasi untuk prosesor AMD EPYC yang mampu memanfaatkan kinerja dan efisiensi daya prosesor AMD EPYC yang luar biasa, di mana pun dibutuhkan pada cloud hybrid, sambil tetap menjaga jembatan menuju masa depan berbasis cloud.
Red Hat OpenShift Virtualization pada CPU AMD EPYC membantu perusahaan mengoptimalkan penerapan aplikasi pada server terkemuka, seperti produk Dell PowerEdge, HPE ProLiant dan Lenovo ThinkSystem. Saat menyegarkan data center lama, Red Hat OpenShift Virtualization menyediakan penyatuan VM dan aplikasi yang dikontainerisasi, di lokasi, di cloud publik atau di seluruh cloud hybrid.
Hal ini membantu mewujudkan rasio konsolidasi infrastruktur yang tinggi, yang dapat menghasilkan total biaya kepemilikan (TCO) jauh lebih rendah pada hardware, lisensi software dan dimensi energi. Hal ini memiliki manfaat tambahan yang memungkinkan tim TI mengelola beban kerja penting saat ini dengan lebih efektif sekaligus membebaskan sumber daya dan energi untuk diterapkan pada beban kerja AI sekarang dan pada masa mendatang.
Foto: istimewa
Comments ( 0 )