Cara Menulis Evaluasi AI Pertama Anda - SallyAnn DeLucia, Arize AI

하이라이트

• Pemeriksaan berbasis firasat (vibe checks) gagal mendeteksi regresi performa saat prompt diperbarui atau saat versi model diubah.

• LLM-as-a-judge bekerja optimal ketika dibatasi untuk menilai tepat satu kriteria spesifik per evaluator.

• Metrik hanya menunjukkan indikasi kerusakan sistem, sedangkan evaluasi mengungkap penyebab spesifik dari mode kegagalan.

• Model keputusan baru dari OpenAI memproses evaluasi lebih murah dan cepat dalam bentuk probabilitas biner tanpa menyertakan teks penjelasan penalaran.

• Pengujian deterministik seperti format JSON atau keberadaan kata kunci spesifik dieksekusi menggunakan evaluasi berbasis kode atau metrik ROUGE dan BLEU.

타임라인

1. 00:00 - 05:15

   Kelemahan Pemeriksaan Firasat dan Kebutuhan Observabilitas

   Perubahan prompt yang hanya diuji berdasarkan impresi subjektif sering memicu kerusakan fungsional tanpa terdeteksi seminggu kemudian. Agen AI melibatkan multi-langkah seperti pemanggilan alat dan sub-agen, sehingga logikanya hanya terlihat melalui pohon jejak setelah eksekusi selesai.

   • Pengujian perangkat lunak tradisional gagal menangkap logika agen AI karena keluaran valid agen bersifat non-deterministik.
   • Jejak (traces) berfungsi sebagai log untuk AI, sedangkan evaluasi bertindak sebagai pengujian perangkat lunak.
   • Tanpa evaluasi berbasis jejak, pendeteksian regresi dan penerapan gerbang kualitas CI menjadi mustahil.
2. 05:15 - 07:29

   Taksonomi Metode Evaluasi AI

   Metode evaluasi terbagi menurut kebutuhan siklus hidup aplikasi agen. Evaluasi berbasis LLM, model keputusan, kode, dan dataset anotasi emas diterapkan sejak tahap pengembangan, sedangkan umpan balik pengguna dan metrik bisnis diterapkan pada lingkungan produksi.

   • LLM-as-a-judge memberikan label klasifikasi beserta teks penalaran logis di balik penilaian.
   • Evaluasi berbasis kode menangani pengujian deterministik seperti validasi skema JSON atau skor leksikal ROUGE dan BLEU.
   • Model keputusan menghasilkan penilaian probabilitas cepat berbiaya rendah tanpa menyertakan teks alasan.
3. 07:29 - 19:03

   Eksplorasi Struktur Jejak Data Agen Multi-Langkah

   Analisis dilakukan pada agen perencana perjalanan Praha berdurasi tiga hari dengan batas anggaran $800. Pohon jejak memperlihatkan urutan kerja modul, di mana panggilan LLM pertama memilih alat pengambil data eksternal dan panggilan LLM kedua merangkum hasilnya menjadi rencana perjalanan.

   • Rentang akar (root span) memuat masukan awal pengguna dan keluaran akhir sistem dengan nilai parent ID berupa null.
   • Rentang individual merepresentasikan unit kerja tunggal, mulai dari pemanggilan alat pengambil data hingga ringkasan LLM.
   • Paket OpenInference mengabstraksi pelacakan otomatis secara agnostik terhadap kerangka kerja agen seperti LangGraph.
4. 19:03 - 25:21

   Perumusan Kriteria Evaluasi Konkret

   Sistem agen kompleks seperti Alex berkembang dari sekumpulan evaluasi dasar hingga menjalankan 32 evaluasi independen secara bertahap. Standar kelulusan dan kegagalan yang ditulis secara mendetail berfungsi sebagai bahan penyusunan instruksi prompt untuk LLM penilai.

   • Kriteria evaluasi harus berfokus pada target spesifik seperti kepatuhan batas anggaran alih-alih label samar seperti respons yang bagus.
   • Evaluator LLM kehilangan akurasi penilaian jika dipaksa menganalisis beberapa kriteria sekaligus dalam satu prompt.
   • Formulasi kriteria memerlukan deskripsi tugas, definisi kegagalan, serta minimal tiga indikator kelulusan konkret.
5. 25:21 - 33:03

   Pembangunan dan Pengujian Evaluator di Playground

   Penyaringan jejak dilakukan berdasarkan nama rentang atau penetapan atribut rentang akar untuk dimasukkan ke dalam kumpulan data. Evaluator yang dikonfigurasi menghasilkan label kelulusan biner atau multi-label beserta penjelasan penalaran sebelum disimpan ke seluruh platform.

   • Pemetaan variabel memisahkan penamaan data pada jejak dari struktur prompt evaluator agar templat bersifat fleksibel.
   • Pengujian prompt evaluator diuji awal menggunakan dataset berisi sekitar 20 jejak sampel bersama model efisien seperti GPT-4o-mini.
   • Agen internal seperti Alex mengotomatiskan pengujian prompt evaluasi berulang langsung di dalam taman bermain.
6. 33:03 - 35:18

   Integrasi Berkelanjutan dan Penyelarasan Tim

   Agen terkelola memanfaatkan evaluasi sebagai sinyal otomatis untuk mendeteksi degradasi performa dan melakukan perbaikan. Keberhasilan agen ditentukan oleh kolaborasi seluruh pemangku kepentingan yang menetapkan definisi sukses dari sudut pandang domain masing-masing.

   • Evaluasi online memproses setiap jejak data produksi secara otomatis untuk pemantauan berkelanjutan.
   • Penyelarasan mengukur kesesuaian antara hasil penilaian juri otomatis dengan anotasi umpan balik manusia.
   • Perumusan standar evaluasi memerlukan keterlibatan lintas fungsi dari produk, rekayasa, dukungan pelanggan, dan tim keamanan.