Jakarta –
Intel merilis dua solusi infrastruktur AI terbarunya, yakni prosesor Xeon 6 dan akselerator Gaudi 3.
Kedua solusi ini memperkuat janji untuk menyediakan sistem AI yang kuat dengan kinerja per watt yang lebih baik dan biaya kepemilikan (TCO) yang lebih rendah.
“Permintaan akan AI mendorong perubahan besar di pusat data, dan industri menginginkan pilihan perangkat keras, perangkat lunak, dan alat pengembang,” kata Justin Hotard, CEO dan GM Pusat Data dan Grup Kecerdasan Buatan Intel. Keterangan diterima ANBALI NEWSINET, Rabu (2/10/2024).
Dia menambahkan: “Dengan peluncuran Xeon 6 dengan P-core dan akselerator AI Gaudi 3, Intel menyediakan ekosistem terbuka yang memungkinkan pelanggan kami menjalankan semua beban kerja mereka dengan kinerja, efisiensi, dan keamanan yang lebih baik.
Intel Xeon dirancang dengan 6 P-core untuk menangani beban kerja yang memerlukan daya komputasi tinggi. Xeon 6 menjanjikan kinerja dua kali lipat dari generasi sebelumnya, jumlah inti yang lebih tinggi, bandwidth memori dua kali lipat, dan kemampuan akselerasi AI per inti. Prosesor ini dirancang untuk memenuhi persyaratan kinerja tinggi untuk AI, mulai dari lingkungan edge hingga pusat data dan cloud.
Akselerator Intel Gaudi 3 AI secara khusus dioptimalkan untuk AI yang diproduksi secara massal. Dilengkapi dengan prosesor tensor dengan 64 inti (tensor processor core/TPC) dan 8 mesin perkalian matriks (MME) untuk mempercepat komputasi jaringan saraf dalam. Memori HBM2e 128GB untuk pelatihan dan estimasi, 24 port Ethernet 200Gb untuk jaringan yang skalabel.
Baru-baru ini, Intel juga berkolaborasi dengan IBM untuk menyediakan akselerator Intel Gaudi 3 AI sebagai layanan di IBM Cloud. Melalui kolaborasi ini, Intel dan IBM bertujuan untuk mengurangi total biaya kepemilikan dan meningkatkan AI, sekaligus meningkatkan kinerja. Intel juga bermitra dengan OEM terkemuka, termasuk Dell Technologies dan SuperMicro, untuk bersama-sama mengembangkan sistem yang dirancang khusus untuk kebutuhan spesifik pelanggan guna menjadikan penerapan AI lebih efisien. Dell Technologies saat ini sedang mengembangkan solusi berbasis RAG menggunakan GD3 dan Xeon 6.
Memindahkan solusi Gen AI (Gen AI) dari prototipe ke sistem siap produksi memiliki banyak tantangan dalam pemantauan real-time, penanganan kesalahan, logging, keamanan, dan skalabilitas. Intel mengatasi tantangan ini melalui upaya rekayasa dengan OEM dan mitra untuk menyediakan solusi generasi berikutnya (RAG) yang siap produksi.
Solusi ini, dibangun pada platform Open Platform Enterprise AI (OPEA), mengintegrasikan layanan mikro berbasis OPEA ke dalam sistem RAG yang dapat diskalakan, dioptimalkan untuk sistem Xeon dan Gaudi AI, dirancang untuk memungkinkan pelanggan memanfaatkan Kubernetes dengan mudah, aplikasi dapat berintegrasi dengan Red Hat OpenShift . AI, dan AI Red Hat Enterprise Linux. Tonton video “Keuangan buruk, Intel akan memangkas 15.000 pekerjaan” (asj/fay)
