डिक्टेशन के लिए पैसे देना बंद करें! यह ऐप बेहतरीन और मुफ़्त है। (handy)

BBetter Stack
컴퓨터/소프트웨어AI/미래기술

Transcript

00:00:00यह Handy है। यह एक ओपन-सोर्स स्पीच रिकग्निशन और डिक्टेशन ऐप है जो
00:00:06पूरी तरह से ऑफलाइन चलता है — बिना किसी क्लाउड, सब्सक्रिप्शन या अकाउंट के। यह आपको अपना पसंदीदा
00:00:12डिक्टेशन मॉडल चुनने की आजादी देता है। सच कहूं तो, अब यह मेरा पसंदीदा स्पीच-टू-टेक्स्ट
00:00:18डिक्टेशन टूल बन गया है। इस वीडियो में हम Handy को देखेंगे, समझेंगे कि यह कैसे काम करता है, और
00:00:24कुछ टेस्ट करके देखेंगे कि यह Whisperflow जैसे कमर्शियल
00:00:29दिग्गजों के सामने कहां टिकता है। इसमें काफी मज़ा आने वाला है, तो चलिए शुरू करते हैं। अब तक मैं
00:00:39स्पीच डिक्टेशन ऐप्स को लेकर थोड़ा संशय में था और मुझे ऐसा कोई ऐप नहीं मिल रहा था जिसे मैं इस्तेमाल करना चाहूं। मैं किसी
00:00:45कमर्शियल प्रोडक्ट का इस्तेमाल करके डिक्टेशन के लिए पैसे नहीं देना चाहता था, और मुझे इस बात की भी चिंता थी कि लोकल डिक्टेशन मॉडल वाले
00:00:51ओपन सोर्स टूल का इस्तेमाल करने से मेरा CPU हैवी हो सकता है। लेकिन Handy ने मेरी यह दोनों
00:00:58चिंताएं दूर कर दीं। तो सबसे पहले बात करते हैं कि Handy वास्तव में कैसे बना है और यह कैसे काम करता है। Handy को
00:01:04डेवलपर CJ Pace ने Tauri की मदद से बनाया है। यह बैकएंड के लिए Rust और सेटिंग्स UI को हैंडल करने के लिए
00:01:12React और TypeScript का इस्तेमाल करता है। Transcribe CPP, Whisper फैमली के मॉडल्स को GGML और GGUF फॉर्मेट में चलाता है। Transcribe RS
00:01:20Parakeet को चलाता है। CPAL लाइब्रेरी क्रॉस-प्लेटफॉर्म ऑडियो इनपुट को संभालती है। RDEV ग्लोबल कीबोर्ड
00:01:28शॉर्टकट्स को कंट्रोल करता है, और यह Rubato नाम की एक लाइब्रेरी का इस्तेमाल करता है जो रियल-टाइम ऑडियो स्ट्रीमिंग और
00:01:33रीसैंपलिंग का ध्यान रखती है। यह कॉम्बिनेशन मेरे Macbook पर भी इसे चलाना बेहद आसान और लाइटवेट बना देता है।
00:01:40और यूज़र के नज़रिए से इसका फ्लो बेहद आसान है। आप एक कस्टम कीबोर्ड शॉर्टकट सेट करते हैं और फिर
00:01:46उसे टॉगल ऑन/ऑफ़ करते हैं या पुश-टू-टॉक के लिए दबाकर रखते हैं। जब आप इसे दबाकर रखते हैं, तो
00:01:52Cilero VAD नाम की यूटिलिटी बैकग्राउंड में चुपचाप सन्नाटे (साइलेंस) को फ़िल्टर करती रहती है, ताकि
00:01:58खाली समय को ट्रांसक्राइब करने में आपकी कंप्यूटिंग पावर बेकार न हो। जब आप बटन छोड़ते हैं, तो Handy आपके चुने हुए
00:02:04मॉडल को ऑडियो भेजता है और ट्रांसक्राइब किए गए टेक्स्ट को सीधे उसी इनपुट फ़ील्ड में पेस्‍ट कर देता है जो उस समय एक्टिव होती है।
00:02:11सच कहें तो Handy इस मामले में अकेला नहीं है। बाज़ार में ऐसे कई अन्य डिक्टेशन ऐप्स हैं जो इसी तरह काम करते हैं।
00:02:17लेकिन मुझे जो बात सबसे ज़्यादा पसंद है, वह यह है कि आप अपना पसंदीदा मॉडल चुन सकते हैं और मॉडल सेक्शन में मौजूद
00:02:22हर मॉडल में स्पीड और एक्यूरेसी का मीटर दिया गया है। यह Mario Kart में अपना पसंदीदा
00:02:28कैरेक्टर चुनने जैसा है। आप तय कर सकते हैं कि आपके लिए कौन सा मीट्रिक सबसे महत्वपूर्ण है। मेरे मामले में,
00:02:34Parakeet Unified 0.6 बिलियन पैरामीटर मॉडल का इस्तेमाल करना मेरे लिए बहुत बढ़िया काम करता है क्योंकि Parakeet एक CPU-ओनली
00:02:42मॉडल है। उनके अपने आंकड़ों के मुताबिक, यह मिड-रेंज i5 चिप पर लगभग
00:02:485 गुना रियल-टाइम स्पीड से चलता है। और मेरा M2 Max तो उस स्पेक्स से काफी आगे है। इसलिए जब यह बैकग्राउंड में चलता है तो
00:02:54मुझे इसका अहसास तक नहीं होता। चुनने के लिए और भी कई ऑप्शन हैं। उनके पास ऐसे मॉडल्स भी हैं जो किसी
00:02:59एक खास भाषा के लिए बनाए गए हैं। उदाहरण के लिए, हमारे पास कुछ रशियन और कुछ यूक्रेनी मॉडल्स हैं। और मुझे Handy के मिशन
00:03:05की ईमानदारी बहुत पसंद आई। Handy सबसे बेहतरीन स्पीच-टू-टेक्स्ट ऐप बनने की कोशिश नहीं कर रहा है।
00:03:11यह सबसे ज्यादा “Forkable” (कस्टमाइज़ करने योग्य) ऐप बनने की कोशिश कर रहा है। आप अपने खुद के फाइन-ट्यून किए गए Whisper
00:03:17GGML मॉडल्स को ऐप के मॉडल्स फ़ोल्डर में डाल सकते हैं, रीस्टार्ट कर सकते हैं, और यह एक कस्टम ऑप्शन के रूप में दिखने लगेगा।
00:03:23और मुझे लगता है कि Whisperflow जैसे ऐप के मुकाबले Handy को चुनने की सबसे बड़ी वजह
00:03:28यह है कि Handy बिना इंटरनेट के काम करता है, कोई अकाउंट बनाने की जरूरत नहीं है और कोई सब्सक्रिप्शन नहीं है।
00:03:34और मुझे पक्का यकीन है कि मेरे सभी डिक्टेशन ऑडियो सैंपल मेरी मशीन पर ही रहते हैं और उनका इस्तेमाल
00:03:40चुपके से दूसरे वॉइस मॉडल्स को ट्रेन करने में नहीं किया जा रहा है। इसलिए मुझे बहुत खुशी है कि अब हमारे पास एक MIT
00:03:46लाइसेंस प्राप्त ऐसा डिक्टेशन टूल है। यह सब सुनने में बहुत बढ़िया लगता है, लेकिन चलिए Handy का टेस्ट करते हैं
00:03:52और देखते हैं कि यह कैसा परफॉर्म करता है। मैं Handy की परफॉरमेंस की तुलना Whisperflow से और साथ ही
00:03:58Google की अपनी ट्रांसक्रिप्शन सर्विस से करूंगा, जो यहां Google Docs में उपलब्ध है। तो इस Google Docs पेज पर,
00:04:05मैं Google का वॉइस टाइपिंग मोड चालू करने जा रहा हूं। और साथ ही, मैं दबाकर रखूंगा
00:04:11Handy के ट्रांसक्रिप्शन शॉर्टकट को। और फिर मैं बिना किसी तैयारी के लगातार बोलूंगा। और आखि़र में,
00:04:18हम देखेंगे कि हर सर्विस हमें कैसा रिज़ल्ट देती है और दोनों की तुलना करेंगे।
00:04:26तो कल मैं कुछ ग्रॉसरी का सामान लेने गया था और घर लौटते वक्त मुझे अचानक याद आया कि मुझे
00:04:34वापस जाकर अपने SQLite डेटाबेस को COBOL सर्विस से कनेक्ट करना है जो मेरे कस्टम GPU क्लस्टर पर चल रही है।
00:04:43मुझे वास्तव में नहीं पता था कि यह कैसे करना है। इसलिए मुझे मदद मांगनी पड़ी। और अकेला टूल जो मेरी मदद कर सकता था
00:04:55वह Grok नाम का एक LLM था। और फिर मुझे ChatGPT से भी थोड़ी मदद मिली। और अंत में,
00:05:04हमने एक वर्किंग एप्लीकेशन चालू कर ली, लेकिन यह बहुत झंझट भरा काम था। चलिए इन दोनों को अलग करते हैं।
00:05:12जैसा कि आप यहां देख सकते हैं, Google की वॉइस टाइपिंग सर्विस काफी खराब है। यह कोई पंक्चुएशन नहीं जोड़ती।
00:05:20इसे वाक्यों को तोड़ना नहीं आता। इसने COBOL को सही से नहीं पहचाना। इसने SQLite
00:05:27डेटाबेस को भी सही से नहीं समझा। यह LLM शब्द को भी सही नहीं पकड़ पाई। इसने Grok को rock समझा। और यह
00:05:35मेरा पसंदीदा हिस्सा है। इसने सोच लिया कि chat GPT, Chad GPT है। Chad GPT! बढ़िया! तो हाँ, आप साफ़
00:05:45देख सकते हैं कि Handy काफी बेहतर है क्योंकि यह पंक्चुएशन सही देता है। यह कुछ टर्म्स को पहचानता है,
00:05:52और इसने ज़्यादातर टेक्निकल टर्म्स को सही पकड़ा। अब चलिए इस रिज़ल्ट की तुलना
00:05:58Whisperflow से भी करते हैं। तो मैं इस टेस्ट के साथ इंसाफ करने के लिए उसी टेक्स्ट को दोहराने की कोशिश करूंगा।
00:06:08तो कल मैं कुछ सामान लेने गया था और वापस आते समय मुझे अचानक याद आया कि मुझे
00:06:16घर लौटकर अपने SQLite डेटाबेस को COBOL सर्विस से कनेक्ट करना है जो मेरे कस्टम GPU क्लस्टर पर चल रही है।
00:06:26अब, मुझे वास्तव में नहीं पता था कि यह कैसे करना है। इसलिए मुझे मदद मांगनी पड़ी। और अकेला टूल
00:06:33जो मेरी मदद कर सकता था, वह Grok नाम का एक LLM था। और फिर मुझे Chad GPT से भी थोड़ी मदद मिली।
00:06:41और अंत में, हमने एक वर्किंग एप्लीकेशन चालू कर ली, लेकिन यह काफी झंझट भरा काम था।
00:06:48ठीक है। आप साफ देख सकते हैं कि Whisperflow ने सबसे बढ़िया काम किया। इसने वाक्यों को सही से अलग किया,
00:06:55और सारे टर्म्स को बिल्कुल सही पकड़ा। चूंकि यह एक कमर्शियल ऐप है, तो आप उम्मीद करेंगे ही
00:07:03कि यह ओपन-सोर्स टूल से बेहतर होगा। लेकिन ईमानदारी से कहूं तो, इसके और Whisperflow के
00:07:09रिज़ल्ट में बहुत ज़्यादा अंतर नहीं है। इसलिए मैं अभी भी Handy इस्तेमाल करना पसंद करूंगा क्योंकि यह मुफ़्त,
00:07:17प्राइवेट और ओपन-सोर्स है। लेकिन Whisperflow ने भी यहाँ बहुत अच्छा काम किया। तो कुल मिलाकर यह एक बेहतरीन सर्विस है।
00:07:25तो दोस्तों, संक्षेप में Handy यही है। जब मैंने कहा था कि
00:07:30यह वास्तव में मेरा पसंदीदा डिक्टेशन टूल बन गया है, तो मैं मज़ाक नहीं कर रहा था। और मुझे तो डर लग रहा है कि कहीं मैं
00:07:36कीबोर्ड पर टाइप करना ही न भूल जाऊं, अगर मैं इसका ज़्यादा इस्तेमाल करने लगा। खैर, ये तो बस मेरे विचार और अनुभव थे।
00:07:42लेकिन आप Handy के बारे में क्या सोचते हैं? क्या आपने इसे आज़माया है? क्या आप इसे इस्तेमाल करेंगे? हमें नीचे कमेंट
00:07:47सेक्शन में ज़रूर बताएं। और दोस्तों, अगर आपको इस तरह के टेक्निकल ब्रेकडाउन पसंद आते हैं, तो कृपया
00:07:52वीडियो के नीचे दिए गए लाइक बटन को दबाकर मुझे बताएं। और हमारे चैनल को सब्सक्राइब करना न भूलें।
00:07:57BetterStack से मैं था Andres, और अब मैं आपसे अगले वीडियो में मिलूंगा!

Key Takeaway

Handy एक मुफ़्त, ऑफलाइन और MIT-लाइसेंस प्राप्त ओपन-सोर्स डिक्टेशन ऐप है जो प्राइवेसी बनाए रखते हुए CPU पर Parakeet मॉडल के जरिए कमर्शियल ऐप्स जैसी सटीक वॉइस-टू-टेक्स्ट ट्रांसक्रिप्शन प्रदान करता है।

Highlights

  • Handy Tauri, Rust, React, TypeScript और Transcribe CPP तकनीक पर बना एक मुफ़्त और ओपन-सोर्स (MIT लाइसेंस) डिक्टेशन ऐप है जो पूरी तरह से ऑफलाइन काम करता है।

  • Parakeet Unified 0.6B CPU-ओनली मॉडल का उपयोग करने पर Handy मिड-रेंज i5 प्रोसेसर पर रियल-टाइम स्पीड से लगभग 5 गुना तेज़ी से डिक्टेशन प्रोसेस करता है।

  • Cilero VAD यूटिलिटी बैकग्राउंड में सन्नाटे को फ़िल्टर करके कंप्यूटिंग पावर बचाती है और ट्रांसक्राइब किए गए टेक्स्ट को सीधे एक्टिव इनपुट फ़ील्ड में पेस्‍ट कर देती है।

  • गूगल वॉइस टाइपिंग की तुलना में Handy सही पंक्चुएशन के साथ तकनीकी शब्दों (SQLite, COBOL, LLM) को सटीक रूप से ट्रांसक्राइब करता है।

  • कस्टम Whisper GGML मॉडल्स को ऐप के मॉडल्स फ़ोल्डर में डालकर Handy में नए भाषा मॉडल्स जोड़े जा सकते हैं।

Timeline

Handy ऐप का परिचय और आर्किटेक्चर

  • Handy बिना क्लाउड, अकाउंट या सब्सक्रिप्शन के चलने वाला ओपन-सोर्स ऑफलाइन डिक्टेशन ऐप है।
  • यह ऐप Tauri ढांचे पर बैकएंड के लिए Rust और सेटिंग्स UI के लिए React तथा TypeScript का उपयोग करता है।
  • ऑडियो प्रोसेसिंग के लिए CPAL, कीबोर्ड शॉर्टकट्स के लिए RDEV और ऑडियो रीसैंपलिंग के लिए Rubato लाइब्रेरी का इस्तेमाल होता है।

यह टूल लोकल डिक्टेशन के दौरान CPU पर पड़ने वाले हैवी लोड और पेड कमर्शियल ऐप्स की निर्भरता को समाप्त करता है। Transcribe CPP के जरिए यह Whisper मॉडल्स को GGML और GGUF फॉर्मेट में चलाता है। Transcribe RS का उपयोग Parakeet मॉडल को निष्पादित करने के लिए किया जाता है, जिससे यह Mac और Windows पर लाइटवेट बना रहता है।

कार्यप्रणाली, मॉडल चयन और कस्टमाइज़ेशन

  • Cilero VAD बैकग्राउंड में साइलेंस को फ़िल्टर करके कंप्यूटिंग पावर की खपत को रोकती है।
  • Parakeet Unified 0.6B मॉडल केवल CPU पर चलता है और मिड-रेंज i5 चिप पर 5x रियल-टाइम स्पीड देता है।
  • कस्टम फाइन-ट्यून किए गए Whisper GGML मॉडल्स को फ़ोल्डर में डालकर ऐप को आसानी से कस्टमाइज़ किया जा सकता है।

कस्टम कीबोर्ड शॉर्टकट या पुश-टू-टॉक दबाकर रखने पर ऑडियो रिकॉर्ड होता है और बटन छोड़ते ही ट्रांसक्राइब किया गया टेक्स्ट एक्टिव इनपुट फ़ील्ड में पेस्‍ट हो जाता है। ऐप में उपलब्ध मॉडल सेक्शन में स्पीड और एक्यूरेसी मीटर दिए गए हैं। यूजर अपनी जरूरत के अनुसार क्षेत्रीय भाषा मॉडल्स या कस्टम Whisper मॉडल्स जोड़ सकते हैं। सारा ऑडियो डेटा लोकल मशीन पर ही सुरक्षित रहता है।

Google Docs वॉइस टाइपिंग के साथ तुलनात्मक परीक्षण

  • Google Docs वॉइस टाइपिंग पंक्चुएशन जोड़ने और वाक्यों को सही ढंग से तोड़ने में विफल रहती है।
  • गूगल की सर्विस 'SQLite', 'COBOL' और 'LLM' जैसे टेक्निकल शब्दों को सही से नहीं पहचान पाती।
  • Handy डिक्टेशन में सही पंक्चुएशन के साथ ज़्यादातर तकनीकी शब्दों को सटीक रूप से पकड़ता है।

एक ही वॉइस सैंपल पर किए गए लाइव टेस्ट में गूगल की सर्विस ने 'Grok' को 'rock' और 'ChatGPT' को 'Chad GPT' ट्रांसक्राइब किया। इसके विपरीत Handy ने विराम चिह्नों का सही उपयोग किया और जटिल तकनीकी शब्दावली को सटीक रूप से इनपुट फ़ील्ड में लिखा।

Whisperflow के साथ तुलना और निष्कर्ष

  • कमर्शियल ऐप Whisperflow सबसे सटीक ट्रांसक्रिप्शन और सेंटेंस सेपरेशन प्रदान करता है।
  • Handy और Whisperflow के आउटपुट की गुणवत्ता में बहुत मामूली अंतर पाया जाता है।
  • ओपन-सोर्स, मुफ़्त और प्राइवेट होने के कारण Handy कमर्शियल विकल्पों का एक मजबूत विकल्प है।

Whisperflow ने तकनीकी शब्दों और वाक्य संरचना को सही ढंग से पहचाना। हालांकि कमर्शियल प्रोडक्ट होने के कारण इसका प्रदर्शन थोड़ा बेहतर रहा, लेकिन मुफ़्त, ऑफलाइन और MIT लाइसेंस के तहत उपलब्ध होने के कारण Handy रोजमर्रा के डिक्टेशन के लिए अत्यधिक उपयोगी सिद्ध होता है।

Community Posts

View all posts