Google TurboQuant Bisa Hemat RAM AI Enam Kali Lipat

Google TurboQuant Bisa Hemat RAM AI Enam Kali Lipat
Foto: Ilustrasi Google TurboQuant Bisa Hemat RAM AI Enam Kali Lipat.

Dunia sedang menghadapi krisis memori yang cukup serius dalam setahun terakhir. Kelangkaan pasokan menyebabkan harga memori jenis DRAM, seperti DDR4 dan DDR5, melonjak drastis karena prioritas produksi dialihkan untuk pengembangan Artificial Intelligence (AI).

Kabar baik datang dari Google yang sedang mengembangkan solusi teknologi AI lebih hemat RAM, seperti dilansir dari Tekno. Inovasi ini dikabarkan memicu kepanikan di kalangan penimbun memori sehingga berpotensi menurunkan harga di pasar.

Teknologi baru tersebut diberi nama TurboQuant. Google Research merancang TurboQuant sebagai algoritma kompresi memori berbasis AI yang fokus pada efisiensi penggunaan memori selama proses inferensi atau saat model dijalankan.

TurboQuant menargetkan kendala utama pada sistem AI modern, yakni keterbatasan memori kerja (working memory). Fokus utamanya ada pada komponen KV cache, yaitu memori sementara tempat model memproses konteks data.

Metode yang digunakan adalah vector quantization. Teknik ini menyederhanakan representasi data numerik ke dalam bentuk vektor yang lebih ringkas tanpa menghilangkan informasi-informasi penting di dalamnya.

Secara teknis, terdapat dua metode utama dalam TurboQuant, yakni PolarQuant dan Quantization-aware Joint Learning (QJL). PolarQuant bertugas mengubah representasi data agar lebih efisien saat disimpan dalam memori.

Sementara itu, QJL berperan melatih model AI agar mampu beradaptasi dengan data yang telah dikompresi. Kombinasi keduanya diklaim mampu menghemat penggunaan memori hingga enam kali lipat dibandingkan metode konvensional.

Dampak TurboQuant Terhadap Harga Memori Global

Kemampuan penghematan memori ini dipandang sebagai solusi potensial bagi krisis RAM global. Saat ini, harga memori DDR5 melonjak tinggi karena permintaan pusat data skala besar mengalahkan kebutuhan pasar konsumen.

Lonjakan harga RAM di pasar internasional tercatat mencapai empat hingga lima kali lipat dari harga normal. Meskipun harga sempat fluktuatif di wilayah China, nilai jual memori tersebut masih terhitung sangat tinggi.

TurboQuant menawarkan sudut pandang berbeda dengan menekan kebutuhan memori dari sisi perangkat lunak. Jika sistem AI dapat beroperasi dengan kapasitas RAM lebih kecil, tekanan permintaan terhadap produsen memori diharapkan ikut menurun.

Meski masih dalam tahap riset dan belum dirilis secara komersial, kemunculan TurboQuant sudah memengaruhi psikologi pasar. Para distributor memori di China dilaporkan mulai melepas stok mereka secara besar-besaran atau melakukan cuci gudang.

Para penimbun khawatir permintaan dari perusahaan penyedia layanan cloud akan anjlok jika teknologi kompresi ini diadopsi secara luas. Fenomena ini menunjukkan bahwa inovasi Google tersebut mampu memengaruhi dinamika harga komponen teknologi secara nyata.

Artikel terkait

Rekomendasi