Agentic AI - Perhatian Baru pada CPU di Data Center AI

BATAMTODAY.COM, Jakarta - Selama beberapa tahun terakhir, ekonominya sederhana: hyperscaler memenuhi kebutuhan besar akan kecerdasan buatan dengan membeli lebih banyak GPU.

Permintaan GPU tumbuh secara eksponensial dan menarik perhatian. Namun CPU, sebagai landasan logika komputasi yang sesungguhnya, selalu menjadi perangkat penting untuk membuat semua GPU tersebut bekerja sekaligus menjalankan aplikasi bisnis penting sehari-hari.

Kini, agentic AI membuka era baru bagi CPU.

AI modern menunjukkan betapa penting dan mendasarnya peran CPU dalam penerapan AI di berbagai skala. Dengan hal tersebut, AMD mengoptimalkan jajaran CPU AMD EPYC untuk menghadirkan performa unggulan dalam beban kritis pada aplikasi AI dan enterprise.

Berdasarkan data yang baru dipublikasikan, sistem berbasis CPU AMD EPYC generasi kelima diperkirakan menunjukkan hingga 2,1x performa per core lebih tinggi dibandingkan sistem berbasis Nvidia Grace Superchip yang sebanding. Selain itu, sistem yang sama diperkirakan memberikan peningkatan hingga 2,26x dalam SPECpower (operasi per watt). Pada data center AI, keseimbangan ini penting karena CPU terbaik adalah yang mampu menjaga akselerator tetap terpasok tanpa mengorbankan daya, ruang, atau biaya.

Yang tak kalah penting, arsitektur CPU x86 memberikan keunggulan berupa ekosistem software yang luas dan terbukti, dengan sebagian besar beban kerja enterprise sudah berjalan secara native baik di lingkungan on-premise maupun cloud. Arsitektur x86 memungkinkan pelanggan melakukan skalabilitas lebih cepat tanpa perlu refactoring, recompiling, atau mengelola banyak basis kode seperti yang sering terjadi pada sistem berbasis Arm.

Bagaimana CPU dan GPU Bekerja

Bayangkan hubungan CPU dan GPU di data center AI seperti pelatih kepala dengan tim atlet yang lincah.

CPU sebagai pelatih menentukan strategi, bereaksi terhadap lawan, mengatur waktu, dan
memastikan semua pemain bergerak ke arah yang benar. GPU adalah para pemain, masing- masing ahli dalam menjalankan bagian tertentu dari strategi secara sangat efisien.

CPU server dirancang untuk menangani tugas kompleks dan mengatur GPU dalam sistem. Mereka memuat data dari memori, menyiapkannya untuk GPU, mengoordinasikan pengiriman tepat waktu, serta menangani instruksi dan data yang dibutuhkan GPU. Sementara itu, GPU dengan core yang lebih kecil dirancang untuk tugas yang lebih sederhana namun dilakukan berulang kali dengan sangat cepat.

Peran Berubah antara Training dan Inference

Tahap training adalah saat GPU dan komputasi throughput tinggi paling terlihat. Jaringan saraf sangat bergantung pada operasi dengan data besar, dan training AI membutuhkan banyak GPU untuk memproses data tersebut berulang kali hingga sistem mempelajarinya.

Selama training, CPU mengelola dan memasok data ke GPU agar tetap bekerja pada efisiensi maksimal. CPU juga menjalankan sistem operasi, mengelola memori, dan menjadwalkan tugas.

Namun saat sebagian besar pekerjaan AI beralih ke inference, peran CPU berubah dari
sekadar pengatur menjadi manajer yang berfokus pada hasil. GPU masih menangani sebagian besar perhitungan jaringan saraf, tetapi CPU mengambil alih "pemikiran berat": mengumpulkan data, mengarahkan informasi, menafsirkan hasil, dan menentukan langkah akhir.

Hal ini menunjukkan mengapa arsitektur penting.

AMD adalah pemimpin dalam desain chiplet. Pendekatan modular memberi AMD fleksibilitas untuk menyesuaikan komputasi, I/O, bandwidth memori, dan batasan daya untuk menghadirkan komputasi yang tepat untuk segala hal, mulai dari aplikasi core enterprise dan virtualisasi hingga orkestrasi GPU dan alur kerja multi-langkah agentic AI.

Agentic AI Semakin Bergantung pada CPU

Kehadiran agentic AI, kecerdasan buatan yang dapat merencanakan, memutuskan, dan
bertindak dengan minim intervensi manusia, menuntut CPU yang lebih bertenaga dari
sebelumnya. Dalam sistem agen AI, CPU menghabiskan lebih banyak waktu untuk memproses logika dan mengevaluasi hasil, bukan sekadar memberikan respons seperti pada inference tradisional. Sering kali, CPU juga mengembalikan masalah ke GPU untuk diproses ulang dengan instruksi yang disesuaikan sebelum hasil akhir diberikan.

Selain itu, CPU harus mengelola pemanggilan tool, permintaan API, dan query memori, sambil tetap menjaga GPU tetap sibuk. Peningkatan penggunaan agentic AI juga meningkatkan siklus kerja CPU karena harus memindahkan data antara agen, aplikasi enterprise, dan data lake.

Pelatih CPU tidak hanya memainkan dua menit terakhir pertandingan, tetapi juga mencoba berbagai strategi untuk mencetak gol. Dan keputusan yang dibuatnya menentukan bagaimana GPU dimanfaatkan, throughput keseluruhan, dan, yang sangat penting bagi penyedia AI, total biaya kepemilikan.

Peran AMD EPYC Server CPU

Agentic AI memperluas kemampuan AI sekaligus menegaskan satu hal penting: hasil AI terbaik berasal dari sistem yang seimbang.

GPU akan terus menjadi penggerak utama komputasi, tetapi CPU semakin krusial dalam orkestrasi, efisiensi, dan konsolidasi data center agar dapat menampung lebih banyak sistem AI tanpa menambah konsumsi daya atau ruang.

Performa AI kini semakin ditentukan pada tingkat sistem, dan AMD berada pada posisi unik untuk mengoptimalkan semuanya, mulai dari CPU, GPU, jaringan, hingga open software guna memaksimalkan performa per watt pada tingkat klaster. CPU AMD EPYC terintegrasi erat dengan GPU AMD Instinct untuk mendukung manajemen GPU yang efisien, dengan keseluruhan sistem disatukan oleh software AMD ROCm.

AMD juga terus mengembangkan fondasi tersebut. CPU AMD EPYC generasi berikutnya dengan nama "Venice" dirancang untuk mendukung arsitektur AI skala rack "Helios". "Venice" diharapkan melanjutkan kepemimpinan dalam performa, densitas, dan efisiensi energi untuk beban kerja AI maupun general.

AI mendorong peningkatan kebutuhan komputasi secara global dan mempercepat siklus
pembaruan server. Dengan prosesor AMD EPYC, AMD menyediakan fondasi CPU yang dibutuhkan pelanggan untuk berkembang ke masa depan dan untuk "melatih" GPU berkinerja tinggi tersebut.

Editor: Yudha

---