Kategori Berita
Daerah
Layanan
Top Up & Tagihan
Detik Network
detikInet
Couchbase Perbarui Platform Agen AI, Klaim Hemat Token hingga 45%

Couchbase Perbarui Platform Agen AI, Klaim Hemat Token hingga 45%


Adi Fida Rahman - detikInet

Couchbase
Couchbase Perbarui Platform Agen AI, Klaim Hemat Token hingga 45% Foto: Couchbase
Jakarta -

Couchbase memperbarui AI Data Plane untuk membantu perusahaan menjalankan agen kecerdasan buatan (AI) dengan infrastruktur yang lebih sederhana. Salah satu kemampuan barunya diklaim dapat mengurangi penggunaan token hingga 45%.

Pembaruan yang diumumkan pada 21 Oktober 2026 ini mencakup integrasi Amazon Bedrock, layanan memori agen AI, server MCP terkelola di AWS, serta pencarian berdasarkan kemiripan makna.

Couchbase menyatukan kemampuan tersebut agar perusahaan tidak perlu mengelola banyak sistem terpisah untuk menyimpan memori, mengakses data operasional, melakukan pencarian, dan menjalankan analitik.

SCROLL TO CONTINUE WITH CONTENT

"Pelanggan yang membangun agen AI untuk beroperasi dalam skala besar membutuhkan lapisan data yang terintegrasi," kata Barry Morris, Chief Product and Strategy Officer Couchbase, dalam keterangan tertulis.

ADVERTISEMENT

Menurut Morris, sebagian perusahaan masih menggunakan tiga atau empat sistem berbeda. Masing-masing memiliki mekanisme sinkronisasi, pengamanan, dan potensi kegagalan tersendiri.

Cara Menekan Penggunaan Token AI

Salah satu pembaruannya adalah integrasi langsung dengan Amazon Bedrock melalui fitur semantic caching. Fitur ini memungkinkan aplikasi menggunakan kembali hasil pemrosesan pertanyaan yang memiliki makna serupa.

Dengan begitu, agen AI tidak perlu berulang kali meminta model bahasa besar atau LLM memproses pertanyaan sejenis. Couchbase mengklaim pendekatan ini mengurangi pemanggilan model sebesar 40-60%.

Ada pula Managed Agent Memory, layanan untuk menyimpan profil pengguna, riwayat percakapan, dan informasi penting lintas sesi. Agen AI dapat menggunakan kembali konteks tersebut tanpa harus memulai setiap interaksi dari awal.

Menurut pengujian Couchbase menggunakan tolok ukur LoCoMo, Agent Memory mampu mengurangi konsumsi token sebesar 33-45%. Token merupakan unit pemrosesan teks yang turut menentukan biaya penggunaan banyak layanan model AI.

Couchbase juga menyebut pengambilan konteks berbasis vektor menghasilkan prompt hingga 70% lebih ringkas dibandingkan memasukkan seluruh konteks. Angka-angka tersebut mengukur aspek berbeda dan bukan persentase penghematan total biaya operasional.

Couchbase AI Data PlaneCouchbase AI Data Plane Foto: Couchbase

Memori dan Akses Data dalam Satu Platform

Layanan Managed Agent Memory dan Managed MCP Server kini tersedia sebagai layanan cloud yang dikelola sepenuhnya di AWS.

Server MCP menyediakan akses data Couchbase bagi agen AI melalui standar terbuka, sehingga pengembang tidak perlu membangun dan mengelola server sendiri. Layanannya mendukung kerangka pengembangan seperti LangGraph, CrewAI, dan LlamaIndex.

Sementara itu, Couchbase Operational Insights menggabungkan pencarian vektor dengan analisis data terstruktur melalui satu kueri SQL. Misalnya, perusahaan dapat menganalisis pendapatan per wilayah sekaligus mencari kelompok pelanggan yang menyampaikan kekecewaan.

"Pendekatan ini membantu pelanggan Couchbase menekan biaya, meningkatkan produktivitas, dan memperoleh hasil investasi yang lebih cepat dari inisiatif AI mereka," ujar Morris.

Menurut Couchbase, seluruh kemampuan yang diumumkan sudah tersedia secara umum. Informasi harga dan paket layanan dapat diakses melalui situs resmi perusahaan.



(afr/afr)




Hide Ads