F5 yang merupakan perusahaan infrastruktur aplikasi asal Amerika Serikat memperluas kemitraan strategis dengan Nvidia. Kolaborasi ini difokuskan pada peningkatan efisiensi operasional sistem kecerdasan buatan (AI).
Langkah ekspansi tersebut diambil guna meringankan beban biaya perusahaan dalam menjalankan sistem AI. Integrasi terbaru ini dilansir dari Tekno bertujuan agar infrastruktur mampu memproduksi output lebih tinggi tanpa menambah unit GPU mahal.
Sinergi kedua perusahaan ini menggabungkan platform BIG-IP Next for Kubernetes milik F5 dengan Nvidia BlueField-3 DPU. Fokus utamanya adalah optimalisasi proses inferensi, yakni saat model AI memberikan jawaban atau ringkasan kepada pengguna.
Pihak F5 mengamati adanya pergeseran tren industri dari sekadar eksperimen AI menuju layanan bisnis komersial. Kondisi ini membuat perusahaan lebih memprioritaskan efisiensi penggunaan GPU yang sudah dimiliki agar tidak banyak menganggur.
Industri kini mengenal istilah "tokenomics" untuk mengukur nilai ekonomi dari setiap kata atau potongan data yang diproses AI. Metrik ini mencakup kecepatan respons, jumlah token yang dihasilkan, hingga biaya per unit produksi.
"Infrastruktur AI bukan hanya tentang akses ke GPU atau peningkatan skala implementasinya. Ia telah berevolusi menjadi upaya memaksimalkan output ekonomi per akselerator," kata Chief Product Officer F5, Kunal Anand.
Menurut Anand, BIG-IP Next for Kubernetes memungkinkan pusat data AI memperlakukan produksi token sebagai indikator bisnis yang terukur. Sistem ini diklaim mampu meningkatkan kinerja GPU sekaligus menekan pengeluaran per token secara signifikan.
Secara teknis, platform F5 akan membaca data telemetri real-time dari infrastruktur Nvidia untuk menentukan alokasi beban kerja yang paling tepat. Mekanisme ini bekerja layaknya sistem lalu lintas pintar yang mengarahkan data ke jalur tercepat.
Pendekatan tersebut menjadi krusial seiring munculnya agentic AI yang mampu menjalankan tugas secara mandiri. Kompleksitas trafik data pada sistem ini memerlukan pengaturan yang lebih canggih dibandingkan metode load balancing tradisional.
F5 juga memperkenalkan dukungan untuk keamanan multi-tenant pada infrastruktur GPU. Fitur ini memungkinkan satu unit hardware digunakan oleh berbagai pelanggan atau divisi secara aman tanpa menurunkan performa satu sama lain.
Berdasarkan pengujian The Tolly Group, integrasi dengan Nvidia BlueField-3 DPU mampu meningkatkan throughput token hingga 40 persen. Selain itu, waktu respons pertama atau time to first token (TTFT) tercatat lebih cepat hingga 61 persen.
Peningkatan performa ini dicapai dengan memindahkan tugas enkripsi dan manajemen trafik dari CPU/GPU ke unit DPU. Hasilnya, daya komputasi utama dapat sepenuhnya fokus pada proses pemrosesan jawaban atau inferensi AI.
"F5 dan Nvidia bersama-sama memberdayakan perusahaan untuk meningkatkan skala inferensi pada AI factory secara efisien dan ekonomis," kata SVP Networking Nvidia, Kevin Deierling.
Teknologi ini dapat langsung diterapkan tanpa perlu memodifikasi model AI yang telah digunakan perusahaan. Hal ini memberikan keuntungan besar karena pengguna tidak perlu melakukan pelatihan ulang (retraining) model yang memakan banyak waktu.
Ke depannya, F5 dan Nvidia memproyeksikan solusi ini sebagai pusat kendali atau control plane untuk AI factory. Sistem pusat tersebut akan mengatur seluruh alur trafik, keamanan, dan konsumsi token untuk memastikan efisiensi infrastruktur secara menyeluruh.
