Written with AI assistance from the source video. The video is the authority.
Log in to leave a comment
No posts yet
Lembur selama satu jam hanya untuk menulis notulen rapat di ruang pengembang yang bahkan tidak bisa dimasuki tanpa kartu keamanan, atau di ruang server perusahaan keuangan, benar-benar menyiksa. Mengajukan alat AI berbayar pun mustahil mendapatkan persetujuan dari tim keamanan informasi, sehingga pada akhirnya mengetik secara manual menjadi satu-satunya jawaban. Menggunakan Handy, sebuah alat pengenal suara lokal sumber terbuka (open-source), dapat membebaskan Anda dari penderitaan ini. Ini adalah pengaturan optimasi yang menjalankan proses sepenuhnya di dalam laptop Anda tanpa mengirimkan audio bahkan sebanyak 1 byte pun ke server eksternal.
Meskipun Handy adalah program yang berjalan secara lokal, dari sudut pandang tim keamanan, program ini tetap mencurigakan. Karena pengunduhan model awal atau paket pembaruan bisa saja keluar, memblokir paket jaringan secara paksa di tingkat OS akan membuat pikiran lebih tenang.
Jika menggunakan lingkungan Windows, Buka Command Prompt dengan hak akses administrator dan masukkan aturan outbound secara langsung.
netsh advfirewall firewall add rule name="Block Handy Outbound OUT" dir=out program="%LOCALAPPDATA%\Programs\handy\Handy.exe" action=block enable=yes.netsh advfirewall firewall show rule name="Block Handy Outbound OUT" untuk memverifikasi status pemblokiran secara langsung.Jika Anda menggunakan macOS, cukup blokir paket Handy di Little Snitch 6 berdasarkan Connections to Any Server dengan pengaturan Always Deny. Dengan satu langkah ini, probabilitas terjadinya trafik yang melanggar aturan keamanan menjadi nol.
Pengaturan kunci pintas (shortcut) juga perlu diperhatikan. Handy mendeteksi kunci masukan global menggunakan pustaka rdev dari bahasa Rust, sehingga sering kali bentrok dengan kunci pintas bawaan sistem. Lebih rapi jika mengalokasikan kombinasi Option + Space pada macOS, atau Alt + Space pada Windows sebagai kunci Push-to-Talk.
Arsitektur OpenAI Whisper memiliki struktur di mana dekoder teks memprediksi kata berikutnya berdasarkan kata-kata yang muncul sebelumnya. Jika kita mengisi parameter initial_prompt pada dekoder ini dengan kata-kata individu dan nama proyek yang sering kita gunakan dalam batas 224 token, kesalahan pengenalan akan berkurang secara signifikan. Inilah alasan mengapa Word Error Rate (WER) turun meskipun model tidak dilatih ulang.
Berikut adalah rapat pengembangan IT dan arsitektur. Istilah utama: Kubernetes, CI/CD, React Native, Rust, Obsidian, AutoHotkey, PostgreSQL, gRPC, Docker, PR, Issue, Sprint.Fenomena halusinasi di mana kata-kata tertentu tercetak secara beruntun saat kebisingan latar belakang sangat parah juga harus diatasi. Jika Anda menurunkan nilai n_max_text_ctx yang menentukan ukuran jendela konteks teks menjadi 128, dan mengunci nilai temperature ke 0.0, pembuat teks acak akan terhenti.
Pengoperasian dasar Handy adalah dengan memasukkan teks yang telah dikonversi ke dalam papan klip (clipboard). Masalahnya adalah kode yang sebelumnya sudah disalin akan tertimpa. Jauh lebih baik untuk langsung menambahkan teks bersama dengan stempel waktu (timestamp) ke berkas catatan harian Obsidian (.md) tanpa melalui papan klip.
Di lingkungan Windows, masalah ini dapat diselesaikan dengan menjalankan satu skrip AutoHotkey.
VaultPath := "C:\Users\" . A_UserName . "\ObsidianVault\DailyNotes\" . CurrentDate . ".md") dan sintaks penambahan teks berkas (FileAppend, %LogEntry%, %VaultPath%, UTF-8).Setelah menyelesaikan pengaturan otomatisasi ini, waktu lebih dari 40 menit yang sebelumnya terbuang setiap hari untuk mengetik dan beralih jendela akan berkurang menjadi sekitar 3 menit saja.
Saat berbicara, Anda juga dapat membuat format Markdown diterapkan secara otomatis jika menggunakan kata kontrol tertentu. Misalnya, jika Anda mengucapkan "masukkan agenda", skrip akan megenalinya dan mengubahnya menjadi tajuk ### 📌 Agenda, dan "item tindakan" akan diubah menjadi kotak centang #### ✅ Item Tindakan.
Handy menggunakan format GGML/GGUF berbasis whisper.cpp. Jika bobot model FP16 dikurangi hingga tingkat Q5_1 (5.5 bit) atau Q4_1 (4 bit), konsumsi RAM yang tersedia akan turun hingga sepertiganya.
Jika Anda menggunakan M2 MacBook Air atau laptop berbasis grafis terintegrasi, model Whisper Small (Q5_1) sudah cukup sesuai. Dengan ruang disk sebesar 250MB dan penggunaan memori sekitar 350MB, model ini tidak akan membebani lingkungan pengembangan yang sedang berjalan. Jika Anda berada di lingkungan desktop dengan kartu grafis yang mumpuni, Anda dapat meningkatkan tingkat pengenalan dengan menjalankan model Whisper Large-v3 (Q5_1).
Berikut adalah prosedur untuk mengoptimalkan kapasitas memori residen:
C:\Users\{username}\AppData\Roaming\com.pais.handy\models\), lalu hapus semua berkas model besar berukuran GB (.bin) yang tidak digunakan.Masalah tersendat-sendat akibat bottleneck utas (thread) saat mengonversi rapat yang panjang adalah masalah pengaturan jumlah inti fisik. Jangan menyesuaikan dengan jumlah inti logis berbasis hyperthreading, melainkan cocokkan jumlah utas (n_threads) 1:1 dengan jumlah inti fisik sebenarnya (actual physical core) agar dapat berjalan dengan bersih tanpa overhead pengalihan.