Komputer super ataupun komputer pengolah AI identik dengan dimensinya yang besar. Namun di CES 2025, Nvidia memamerkan komputer super AI personal yang ukurannya mungil.
Dalam keynotenya di CES 2025, CEO Nvidia Jensen Huang memamerkan Project Digits, komputer super AI berukuran mungil, yang ukurannya tak lebih besar dari Mac Mini. Digits menggunakan chip baru Nvidia bernama GB10 Grace Blackwell Superchip.
Chip ini punya kemampuan yang mumpuni untuk menjalankan model AI canggih, namun ukurannya tetap mungil dan bisa ditaruh di meja kerja dan konsumsi listrik yang irit, bisa menggunakan koneksi listrik rumahan.
Padahal biasanya yang namanya komputer super, apalagi yang dipakai untuk pengolah AI, ukurannya sangat besar sampai membutuhkan ruangan sendiri. Belum lagi konsumsi listriknya yang sangat tinggi.
Digits ini menurut Nvidia bisa dipakai mengolah model AI dengan jumlah parameter mencapai 200 miliar, dan harganya mulai dari USD 3.000 atau sekitar Rp 48,5 juta, demikian dikutip detikINET dari The Verge, Rabu (8/1/2025).
"AI akan menjadi lazim di setiap aplikasi untuk semua industri. Dengan Project Digits, Grace Blackwell Superchip bisa hadir ke jutaan pengembang. Membawa sebuah komputer super AI ke meja setiap peneliti data dan pelajar membawa mereka untuk ikut serta dan membentuk era AI," kata Huang dalam keterangannya.
Setiap sistem Digits dilengkapi unified coherent memory sebesar 128 GB, bukan 16 ataupun 32GB seperti yang lazim dipakai di kebanyakan komputer saat ini. Bahkan, jika penggunanya membutuhkan pengolahan data yang lebih berat, mereka bisa menghubungkan dua buah sistem Digits yang bisa mengolah model AI dengan parameter sebanyak 405 miliar.
Sebagai informasi, model AI terbaik Meta saat ini adalah Llama 3.1, dan model AI itu punya 405 miliar parameter.
Chip GB10 yang dipakai punya kemampuan pengolahan AI mencapai 11 petaflop, yang artinya bisa melakukan penghitungan AI sebanyak 1 kuadriliun (1.000 triliun) setiap detiknya untuk FP4 precision.
Sistem ini juga menggunakan core CUDA Nvidia terbaru dan Tensor Cores generasi ke-5, yang terhubung ke Grace CPU berisi 20 core efisien menggunakan NVLink-C2C. Nvidia berkolaborasi dengan Mediatek untuk menggarap GB10 untuk mengoptimalkan efisiensi daya dan performa chip ini.
Penggunanya bisa memakai Digits untuk mengembangkan dan menguji model AI secara lokal, dan membawanya ke layanan cloud atau data center yang menggunakan arsitektur Grace Blackwell dan platform software Nvidia AI Enterprise.
Nvidia pun menyediakan software-software AI-nya, termasuk development kit, model AI pre-trained, dan lainnya lewat katalog Nvidia NGC. OS yang dipakai adalah Nvidia DGX dan mendukung framework populer seperti PyTorch, Python, dan Jupyter.
Simak Video "Video CEO NVIDIA Kenalkan NVLink Fusion yang Percepat Komunikasi Antar-Chip AI"
(asj/asj)