78% Menginginkan Fitur AI Ini. Hampir Tidak Ada yang Menggunakannya - Supriya Subudhi, Bumble

Original · 78% Wanted This AI Feature. Almost Nobody Used It - Supriya Subudhi, Bumble

14:443 min readAI Engineer10/31/2026Computing/Software · Management

Key Takeaway

Hasil positif dari uji A/B pada fitur kecerdasan buatan generatif tidak mencerminkan tingkat adopsi pengguna yang sebenarnya karena kendala perilaku, biaya tinggi, dan regulasi global.

Highlights

  • Sebanyak 78% pengguna Bumble menyatakan minatnya terhadap fitur umpan balik foto berbasis AI, namun hanya 10 hingga 15% yang benar-benar menggunakan fitur tersebut saat dirilis.

  • Uji A/B dengan hasil positif pada produk kecerdasan buatan hanyalah awal dari sebuah perjalanan panjang, bukan akhir dari evaluasi.

  • Model kecerdasan buatan terbaik menghabiskan biaya sekitar 10 kali lebih mahal daripada pendekatan yang lebih sederhana.

  • Regulasi kecerdasan buatan yang berbeda di setiap wilayah membatasi peluncuran fitur secara global sejak hari pertama.

Timeline

  1. Pengujian A/B pada Produk Kecerdasan Buatan

    Pengujian A/B berfungsi membandingkan dua versi email atau fitur untuk mengukur efektivitasnya. Penerapan kecerdasan buatan generatif dan model bahasa besar pada teknologi konsumen menghadirkan dinamika pengujian yang tidak biasa. Bumble mengaplikasikan pendekatan ini melalui fitur umpan balik foto yang memberikan saran perbaikan gambar profil bagi pengguna aplikasi kencan.

    • Pengujian A/B mengevaluasi dua versi fitur untuk menentukan opsi yang lebih unggul.
    • Hasil positif pada uji A/B produk kecerdasan buatan hanyalah titik awal perjalanan pengembangan produk.
    • Bumble meluncurkan fitur umpan balik foto berbasis kecerdasan buatan untuk membantu pengguna menyusun profil kencan.
  2. Kesenjangan Antara Minat dan Adopsi Pengguna

    Riset pengguna menunjukkan angka minat yang sangat tinggi terhadap bimbingan profil kecerdasan buatan. Namun, ketersediaan fitur sebagai elemen mandiri gagal mendorong penggunaan nyata di aplikasi. Integrasi fitur langsung ke dalam momen ketika pengguna menambahkan foto atau mengalami kebuntuan pencarian berhasil mengangkat angka adopsi.

    • Sebanyak 78% pengguna menyatakan keinginan untuk mendapatkan umpan balik profil.
    • Tingkat adopsi riil hanya mencapai 10 hingga 15% saat pengujian A/B dirilis.
    • Integrasi fitur ke dalam alur aplikasi yang sudah ada meningkatkan adopsi secara signifikan.
  3. Evaluasi Mendalam dan Pembatas Sistem

    Metrik rata-rata yang tampak positif menutupi kesalahan keluaran, seperti saran untuk lebih banyak tersenyum kepada pengguna yang sudah tersenyum di fotonya. Perbedaan tingkat toleransi kesalahan antara aplikasi hiburan dan aplikasi finansial menuntut penetapan pembatas yang ketat. Penggunaan alat evaluasi membantu memantau keluaran aktual yang diterima oleh berbagai segmen pengguna.

    • Rata-rata hasil positif tingkat atas menyembunyikan masalah spesifik pada keluaran kecerdasan buatan.
    • Pembatas sistem mencegah kecerdasan buatan memberikan saran atas hal-hal di luar kendali pengguna.
    • Alat evaluasi keluaran nyata memastikan prompt berfungsi sesuai harapan pada berbagai segmen.
  4. Biaya Operasional dan Pilihan Model

    Kesuksesan produk kecerdasan buatan generatif membawa beban finansial yang bertambah seiring frekuensi interaksi pengguna. Pemilihan model awal harus mempertimbangkan tujuan jangka panjang merek atau manfaat finansial jangka pendek. Pengujian berbagai versi prompt dan model berbiaya rendah membantu menemukan keseimbangan antara anggaran dan kualitas hasil.

    • Pemanfaatan model bahasa terbaik mendatangkan biaya operasional sepuluh kali lebih tinggi.
    • Biaya kecerdasan buatan generatif meningkat secara linear seiring bertambahnya frekuensi penggunaan.
    • Peralihan ke model yang lebih murah menurunkan biaya sekaligus mengurangi tingkat akurasi hasil.
  5. Regulasi Global dan Kepatuhan Hukum

    Perbedaan regulasi global menciptakan risiko finansial dan hukum bagi perusahaan teknologi. Fitur kecerdasan buatan seperti Muse AI dari Meta terbatas pada wilayah tertentu karena aturan yang berlaku. Setiap pengembang harus berperan sebagai generalis yang memahami batasan hukum wilayah sasaran sejak tahap perancangan awal.

    • Regulasi kecerdasan buatan yang berbeda di setiap negara membatasi ketersediaan fitur secara global.
    • Pengembang produk perlu memikirkan kepatuhan hukum sejak awal proses pembangunan.
    • Keputusan peluncuran harus mempertimbangkan batasan pasar atau biaya penyesuaian versi aplikasi.

Description

Bumble product manager Supriya Subudhi shares five lessons from A/B testing an AI photo feedback feature in a dating app with over 20 million monthly users. 78% of surveyed users said they wanted feedback, but only 10-15% used it; the average win hid odd outputs like telling smiling people to smile more; the best model cost about 10x more; switching to a cheaper model also shrank the results; and regulation meant the feature couldn't ship outside the US. She closes with five questions to ask before you call any AI test a win. Chapters: 0:00 Intro 1:31 Bumble's AI photo feedback feature 2:38 1. Users ask for it, then ignore it 5:19 2. The average win hides the tail 7:54 3. Green dashboard, red bill 10:37 4. The win came from the model 11:49 5. There may be no global rollout 13:54 Five questions to ask Supriya Subudhi https://bumble.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!

Write about this video