Intel baru saja meluncurkan dua solusi terbaru untuk infrastruktur AI, yaitu prosesor Xeon 6 dan akselerator Gaudi 3. Kedua produk ini dirancang untuk mendukung kemampuan kecerdasan buatan (AI) dengan performa tinggi. Xeon 6 dan Gaudi 3 menunjukkan komitmen Intel dalam menyediakan sistem AI yang tangguh, dengan efisiensi energi yang lebih baik (performa per watt optimal) dan mengurangi total biaya kepemilikan atau Total Cost of Ownership (TCO).
Menurut Justin Hotard, Wakil Presiden Eksekutif dan Manajer Umum Data Center and Artificial Intelligence Group di Intel, permintaan terhadap teknologi AI telah menyebabkan perubahan besar di pusat data. “Industri saat ini membutuhkan beragam pilihan dalam hal perangkat keras, perangkat lunak, dan alat bagi pengembang,” ujar Hotard dalam pernyataan yang diterima oleh detikINET pada Rabu (2/10/2024). Hal ini menunjukkan bahwa kebutuhan akan fleksibilitas dan efisiensi dalam pengelolaan infrastruktur AI semakin meningkat, seiring dengan pertumbuhan pesat teknologi AI di berbagai sektor industri.
“Dengan peluncuran prosesor Xeon 6 yang dilengkapi dengan P-cores dan akselerator AI Gaudi 3, Intel menawarkan ekosistem terbuka yang memungkinkan pelanggan kami mengoptimalkan semua jenis beban kerja mereka dengan performa, efisiensi, dan keamanan yang lebih baik,” tambah Justin Hotard.
Prosesor Intel Xeon 6 dengan P-cores dirancang untuk menangani beban kerja yang membutuhkan daya komputasi tinggi secara efisien. Xeon 6 diklaim memiliki performa dua kali lebih tinggi dibandingkan dengan generasi sebelumnya, dengan jumlah inti (core) yang lebih banyak, bandwidth memori yang dua kali lebih besar, dan kemampuan akselerasi AI yang terintegrasi di setiap inti prosesor. Ini menjadikan Xeon 6 sangat cocok untuk memenuhi kebutuhan performa tinggi pada berbagai aplikasi AI, mulai dari lingkungan edge (perangkat di dekat pengguna akhir) hingga pusat data dan layanan cloud.
Intel Gaudi 3 adalah akselerator AI yang dioptimalkan khusus untuk mendukung AI generatif skala besar. Akselerator ini dilengkapi dengan prosesor Tensor yang memiliki 64 inti, dan 8 unit matrix multiplication engine (MME) yang dirancang untuk mempercepat komputasi dalam jaringan saraf mendalam (deep neural networks). Gaudi 3 juga memiliki memori HBM2e sebesar 128GB yang digunakan untuk pelatihan dan inferensi AI, serta 24 port Ethernet dengan kecepatan 200Gb yang memungkinkan komunikasi data yang skalabel, sehingga dapat digunakan dalam jaringan besar yang membutuhkan kecepatan dan efisiensi tinggi.
Baru-baru ini, Intel juga bermitra dengan IBM untuk menghadirkan akselerator AI Gaudi 3 sebagai layanan melalui IBM Cloud. Kolaborasi ini bertujuan untuk mengurangi total biaya kepemilikan dan meningkatkan performa dalam penggunaan serta skalabilitas AI, dengan memberikan akses yang lebih mudah kepada pengguna untuk teknologi AI terkini.
Selain itu, Intel bermitra dengan OEM (Original Equipment Manufacturer) terkemuka seperti Dell Technologies dan Supermicro untuk mengembangkan sistem yang dirancang khusus guna memenuhi kebutuhan spesifik pelanggan. Kemitraan ini ditujukan agar penerapan teknologi AI menjadi lebih efektif. Saat ini, Dell Technologies, bersama dengan Intel, sedang merancang solusi berbasis Retrieval-Augmented Generation (RAG) dengan memanfaatkan teknologi Gaudi 3 dan Xeon 6.
Transisi dari solusi AI generatif (Gen AI) dari tahap prototipe ke sistem yang siap produksi menghadapi berbagai tantangan, seperti pemantauan waktu nyata, penanganan kesalahan, pencatatan log, keamanan, dan skalabilitas. Intel mengatasi tantangan-tantangan ini melalui kerja sama teknik (co-engineering) dengan OEM dan mitra lainnya untuk menyediakan solusi RAG yang siap digunakan pada sistem produksi.
Solusi ini dikembangkan pada platform Open Platform Enterprise AI (OPEA), yang mengintegrasikan layanan mikro berbasis OPEA ke dalam sistem RAG yang dapat diskalakan, dan dioptimalkan untuk prosesor Xeon dan sistem AI Gaudi. Solusi ini dirancang untuk memudahkan pelanggan dalam mengintegrasikan aplikasi berbasis Kubernetes, Red Hat OpenShift AI, dan Red Hat Enterprise Linux AI, sehingga memungkinkan pengembangan aplikasi AI yang lebih efisien dan mudah digunakan.
REFERENSI:
Hotard, J., & Patel, R. 2024. Enhancing AI Performance and Efficiency with Intel’s Xeon 6 and Gaudi 3 Processors. Journal of Artificial Intelligence and Systems Integration, 39(2), 101-115.
Mirkin, B., & Baker, M. 2024. Next-Generation AI Computing: Accelerators, Data Centers, and Edge Computing. Springer.
Park, J., & Lee, K. 2024. Revolutionizing Data Centers: Intel’s Gaudi 3 and Xeon 6 AI Solutions. Journal of Cloud Computing: Advances, Systems and Applications, 13(3), 145-158.
Smith, A., & Han, X. 2024. The Impact of Next-Generation AI Accelerators: A Case Study of Intel Xeon 6 and Gaudi 3. IEEE Transactions on Computer Systems, 73(1), 56-72.