MCP Tools Kini 10x Lebih Cepat di Claude Code

Tim Anthropic (Closco) baru saja memperbaiki masalah terbesar dengan Model Context Protocol (MCP) dengan menambahkan fitur pencarian tool yang dapat mengurangi penggunaan konteks hingga 95%. Sebelumnya, sistem memuat semua tool yang tersedia ke dalam konteks, yang bisa menghabiskan puluhan ribu token bahkan sebelum pengguna menulis prompt pertama. Video ini mempertanyakan mengapa sistem tidak dirancang seperti ini sejak awal dan apakah teknik ini terinspirasi dari Cloudflare. Masalah inefisiensi token ini menjadi fokus utama yang akan dibahas lebih detail dalam video.

Server MCP kini tersedia untuk berbagai platform seperti GitHub, Docker, Notion, dan Better Stack, dengan penggunaan yang semakin meluas di Claude Code dan LLM untuk berbagai keperluan di luar coding. Namun, ada tiga masalah utama: tabrakan penamaan, injeksi perintah, dan yang terbesar adalah inefisiensi token. Semua tool dari server yang terhubung biasanya dimuat ke jendela konteks model, termasuk nama tool, deskripsi, dokumentasi skema JSON lengkap dengan parameter, tipe data, dan berbagai batasan. Sebagai contoh konkret, tim Redis menggunakan 167 tool dari empat server berbeda yang menghabiskan lebih dari 60.000 token sebelum menulis prompt, hampir setengah dari jendela konteks Opus yang 200k token, dan ini belum termasuk skills dan plugin.

Jika pengguna memiliki banyak server MCP, sistem dapat menghabiskan sejumlah besar token yang signifikan. Meskipun ada model seperti Gemini dengan jendela konteks 1 juta token, model cenderung berkinerja lebih buruk semakin banyak hal yang ditambahkan ke konteksnya. Hal ini menimbulkan pertanyaan penting tentang cara terbaik untuk memperbaiki masalah inefisiensi ini. Performa model yang menurun dengan konteks yang terlalu penuh menjadi alasan krusial mengapa solusi diperlukan, bukan hanya soal kapasitas token semata.

Ada dua pendekatan populer untuk mengatasi masalah ini: pendekatan programatik yang digunakan Cloudflare dan pendekatan pencarian yang diimplementasikan tim Claude Code. Pendekatan pencarian bekerja dengan cara Claude pertama memeriksa apakah tool MCP yang dimuat lebih dari 10% dari konteks (20k token jika jendela konteks 200k token). Jika tidak melebihi threshold tersebut, tidak ada perubahan dan model menggunakan tool MCP seperti biasa. Namun jika melebihi, Claude secara dinamis menemukan tool yang tepat menggunakan bahasa alami dan memuat hanya tiga hingga lima tool yang paling relevan berdasarkan prompt. Tool-tool yang terpilih ini kemudian dimuat penuh ke dalam konteks agar model dapat menggunakannya seperti biasa.

Fitur pencarian tool ini sebenarnya merupakan fitur yang paling banyak diminta di repository GitHub Claude Code. Cara kerjanya mirip dengan AgentSkills, yang hanya memuat nama dan deskripsi skill ke dalam konteks, dan ketika menemukan skill yang relevan atau disebutkan dalam prompt, barulah memuat semua detail skill spesifik tersebut ke jendela konteks. Konsep ini dikenal sebagai progressive disclosure secara singkat. Baik Anthropic maupun Cursor telah melihat manfaat besar dalam menggunakan pendekatan ini untuk tool MCP, membuktikan efektivitasnya dalam praktik nyata.

Pendekatan programatik bekerja dengan model yang mengorkestrasi tool melalui kode alih-alih melakukan panggilan API. Untuk tiga tool yang perlu bekerja satu demi satu berdasarkan respons sebelumnya, alih-alih melakukan panggilan tool API individual, Claude dapat menulis skrip Python untuk melakukan semua orkestrasi, kemudian mengeksekusi kode dan menyajikan hasilnya kembali ke model. Cloudflare membawa pendekatan ini selangkah lebih jauh dengan membuat model menulis definisi TypeScript untuk semua tool yang tersedia dan menjalankan kode di dalam sandbox (biasanya worker). Namun, tim Claude Code mencoba pendekatan programatik dan menemukan bahwa pencarian bekerja lebih baik, yang cukup mengejutkan mengingat Claude sangat bagus dalam menulis kode.

Browser agen CLI headless chromium yang dirilis oleh Vercel bekerja dengan sangat baik di Claude Code, menunjukkan potensi pendekatan berbeda. Penulis berpendapat bahwa jika semua tool MCP bisa dikonversi menjadi perintah CLI menggunakan sesuatu seperti MCPorter, akan jauh lebih mudah dan efisien secara konteks bagi model untuk menjalankan perintah CLI spesifik daripada memuat semuanya ke dalam konteks. Secara keseluruhan, penulis senang bahwa masalah dengan server MCP sedang diteliti dan diperbaiki, dan perkembangan ini mungkin bisa meyakinkan pengguna untuk menginstal lebih dari satu server MCP. Inovasi ini menandai kemajuan penting dalam efisiensi penggunaan tool MCP.