받아쓰기 서비스에 돈 쓰지 마세요! 무료인데 더 좋은 앱이 있습니다 (handy)

한국어العربية Deutsch English Español Français हिन्दी Bahasa Indonesia 日本語 Português Русский 中文

컴퓨터/소프트웨어AI/미래기술

Transcript

00:00:00이것은 Handy입니다. 오픈 소스 음성 인식 및 받아쓰기 앱으로,

00:00:06클라우드, 구독, 계정 없이 완전히 오프라인으로 작동하며, 원하는

00:00:12받아쓰기 모델을 직접 선택할 수 있습니다. 솔직히 말해서 이 앱은 이제 제가 가장 좋아하는 음성 텍스트 변환

00:00:18받아쓰기 도구가 되었습니다. 이번 영상에서는 Handy를 살펴보고 어떻게 작동하는지 알아보며,

00:00:24몇 가지 테스트를 통해 성능이 어떤지, 상용 제품인 Whisperflow 같은

00:00:29강자들과 비교했을 때 어느 정도인지 알아보겠습니다. 아주 재미있을 테니 바로 시작해 보죠. 지금까지 저는 음성 받아쓰기 앱에 대해 회의적이었고,

00:00:39마음에 드는 앱을 찾지 못했습니다. 상용 제품을 사용하면서 받아쓰기 비용을 내고 싶지 않았고,

00:00:45로컬 받아쓰기 모델이 포함된 오픈 소스 도구를 사용하면 CPU를 너무 많이 차지하지 않을까 걱정되기도 했습니다.

00:00:51하지만 Handy는 그 두 가지 문제 모두에 대해 제 생각을 바꿔놓았습니다. 우선 Handy가 실제로 어떻게 구축되었고 어떻게 작동하는지 이야기해 보겠습니다. Handy는

00:00:58개발자 CJ Pace가 Tauri를 사용해 만들었으며, 백엔드에는 Rust를, 상단의 설정 UI 처리를 위해서는

00:01:04React와 TypeScript를 사용합니다. Transcribe CPP는 GGM 및 GGUF 형식의 Whisper 계열 모델을 실행합니다. Transcribe RS는

00:01:12Parakeet을 실행합니다. CPAL 라이브러리는 크로스 플랫폼 오디오 입력을 처리합니다. RDEV는 글로벌 키보드

00:01:20단축키를 담당하며, Rubato라는 라이브러리를 사용하여 실시간 오디오 스트리밍을 제공하고

00:01:28리샘플링을 처리합니다. 이 조합 덕분에 제 MacBook에서도 매우 쉽고 가볍게 사용할 수 있죠.

00:01:33사용자 입장에서의 워크플로우 자체는 아주 간단합니다. 사용자 지정 키보드 단축키를 설정한 다음

00:01:40토글하여 켜고 끄거나, 누르고 있는 동안 말하는 PTT 방식을 사용하면 됩니다. 누르고 있는 동안에는

00:01:46Silero VAD라는 유틸리티가 백그라운드에서 침묵을 조용히 걸러내어,

00:01:52완전한 침묵을 텍스트로 변환하느라 컴퓨팅 자원을 낭비하지 않도록 해줍니다. 그리고 단축키를 떼면 Handy는 선택한 모델로 오디오를 전송한 다음,

00:01:58변환된 텍스트를 그 순간 포커스가 맞춰진 입력창에 직접 붙여넣습니다. 솔직히 말해서

00:02:04Handy만 이런 방식을 사용하는 것은 아닙니다. 시중에 나온 많은 다른 받아쓰기 애플리케이션도 비슷한 방식으로 작동하죠.

00:02:11하지만 제가 가장 마음에 드는 점은 선호하는 모델을 직접 선택할 수 있고, 모델 섹션에 나열된

00:02:17각 모델마다 속도와 정확도 측정기가 표시된다는 것입니다. 그래서 마치 마리오 카트에서 좋아하는

00:02:22캐릭터를 고르는 것과 비슷합니다. 자신에게 어떤 지표가 우선인지 결정할 수 있죠. 제 경우에는

00:02:28Parakeet Unified 6억 개 파라미터 모델을 사용하는 것이 아주 잘 맞았는데, Parakeet은 CPU 전용

00:02:34모델이기 때문입니다. 자체 수치에 따르면 중급 i5 칩에서 실시간 속도의 약 5배로

00:02:42구동됩니다. 제 M2 Max는 그 사양을 훨씬 뛰어넘기 때문에 백그라운드에서 실행하고 있어도

00:02:48느껴지지도 않습니다. 그리고 선택할 수 있는 다른 옵션도 아주 많습니다. 특정 언어에 전용인

00:02:54모델도 있죠. 예를 들어 러시아어 모델이나 우크라이나어 모델 같은 것들이 있습니다. 그리고 Handy의 사명 선언문에 담긴 진정성이 정말 마음에 듭니다.

00:02:59Handy는 최고의 음성 텍스트 변환 애플리케이션이 되려고 하지 않습니다.

00:03:05가장 포크(fork)하기 쉬운 앱이 되고자 하죠. 직접 미세 조정한 Whisper

00:03:11GGML 모델을 앱의 models 폴더에 넣고 재시작하기만 하면 사용자 지정 옵션으로 바로 나타납니다.

00:03:17제가 Whisperflow 같은 서비스보다 언제나 Handy를 선택할 가장 큰 이유는

00:03:23Handy가 오프라인에서 그대로 작동하고, 계정을 생성할 필요도 없으며, 구독료도 없기 때문입니다.

00:03:28그리고 제 모든 받아쓰기 오디오 샘플이 내 기기에만 남아 있고, 다른 음성 모델을 학습시키는 데

00:03:34몰래 사용되지 않는다는 것을 확실히 알 수 있죠. 그래서 이런 MIT 라이선스의 받아쓰기 도구가

00:03:40생겼다는 것이 정말 기쁩니다. 다 좋은 이야기지만, 이제 실제로 Handy를 테스트하여

00:03:46성능이 어떤지 확인해 보겠습니다. Handy의 성능을 Whisperflow 및

00:03:52Google 문서도구에서 사용할 수 있는 Google 자체 받아쓰기 서비스와 비교해보겠습니다. 여기 Google 문서 페이지에서

00:03:58Google의 음성 입력 모드를 활성화하겠습니다. 그리고 동시에 Handy의

00:04:05받아쓰기 단축키를 누르고 있겠습니다. 그러고 나서 아무 이야기나 의식의 흐름대로 해보겠습니다. 마지막에는

00:04:11각 서비스가 어떤 결과를 내놓는지 확인하고 두 결과를 비교해 보겠습니다.

00:04:18어제 식료품을 사러 갔다가 집에 돌아오는 길에, 문득 돌아가서

00:04:26내 커스텀 GPU 클러스터에서 실행 중인 COBOL 서비스에 SQLite 데이터베이스를 연결해야 한다는 생각이 났습니다.

00:04:34사실 어떻게 하는지 몰라서 도움을 요청해야 했습니다. 도와줄 수 있을 거라고 생각해낸 유일한 도구는

00:04:43Grok이라는 LLM이었습니다. 그리고 ChatGPT의 도움도 조금 받았죠. 결과적으로

00:04:55작동하는 애플리케이션을 실행하긴 했지만, 정말 번거로운 과정이었습니다. 이 둘을 분리해 보죠.

00:05:04여기 보시다시피, Google 음성 입력 서비스가 훨씬 떨어집니다. 문장 부호를 전혀 넣지 않죠.

00:05:12문장을 어떻게 나누어야 할지도 모릅니다. COBOL도 정확히 알아듣지 못했고, SQLite

00:05:20데이터베이스도 제대로 알아듣지 못했습니다. LLM이라는 단어조차 제대로 맞히지 못했죠. Grok을 rock으로 생각했습니다. 그리고 이건

00:05:27제가 제일 재미있어하는 부분인데, ChatGPT를 Chad GPT로 알아들었습니다. Chad GPT라니, 재미있네요. 네, 보시다시피

00:05:35Handy가 훨씬 뛰어납니다. 문장 부호를 제대로 찍어주고 특정 용어도 잘 인식하며,

00:05:45대부분의 기술 용어를 정확하게 처리했기 때문입니다. 그럼 이제 이 결과를

00:05:52Whisperflow와도 비교해 보겠습니다. 공정한 테스트를 위해 동일한 텍스트를 최대한 비슷하게 다시 말해 보겠습니다.

00:05:58어제 식료품을 사러 갔다가 돌아오는 길에, 문득 집으로 돌아가서

00:06:08내 커스텀 GPU 클러스터에서 실행 중인 COBOL 서비스에 SQLite 데이터베이스를 연결해야 한다는 생각이 났습니다.

00:06:16사실 어떻게 하는지 몰라서 도움을 요청해야 했습니다. 도와줄 수 있을 거라고 생각해낸 유일한 도구는

00:06:26Grok이라는 LLM이었습니다. 그리고 Chad GPT의 도움도 조금 받았죠.

00:06:33결과적으로 작동하는 애플리케이션을 실행하긴 했지만, 정말 번거로운 과정이었습니다.

00:06:41좋습니다. Whisperflow가 가장 처리 결과가 좋은 것을 명확히 볼 수 있습니다. 문장을 정확하게 구분했고,

00:06:48모든 용어를 올바르게 맞혔습니다. 상용 애플리케이션인 만큼 오픈 소스 도구보다

00:06:55더 나을 것이라고 기대하겠지만, 솔직히 이 결과와 Whisperflow 사이에는

00:07:03그다지 큰 차이가 없습니다. 그래서 저는 무료이고

00:07:09개인정보가 보호되며 오픈 소스라는 이유만으로 여전히 Handy를 사용하는 편을 더 선호합니다. 하지만 Whisperflow도 여기서 아주 훌륭한 성능을 보여주었으니, 어쨌든 탄탄한 서비스인 것은 분명합니다.

00:07:17자, 여러분. 이것이 Handy의 핵심 요약입니다. 이 앱이

00:07:25진짜로 제가 가장 좋아하는 받아쓰기 도구가 되었다고 한 말은 농담이 아니었습니다. 너무 남용하다가

00:07:30키보드 타이핑하는 법을 잊어버릴까 봐 솔직히 걱정될 정도입니다. 하지만 이건 어디까지나 제 생각과 관찰일 뿐입니다.

00:07:36Handy에 대해 어떻게 생각하시나요? 써보셨나요? 앞으로 써보실 건가요? 아래 댓글 창에

00:07:42의견을 남겨주세요. 그리고 여러분, 이런 기술적인 분석 영상이 마음에 드신다면 영상 아래

00:07:47좋아요 버튼을 꾹 눌러주세요. 그리고 저희 채널 구독도 잊지 마세요.

00:07:52지금까지 BetterStack의 Andres였습니다. 다음 영상에서 만나요!

00:07:57안녕히 계세요!

Key Takeaway

오픈소스 오프라인 앱 Handy는 구독료와 개인정보 유출 걱정 없이 상용 서비스 수준의 음성 텍스트 변환 성능과 모델 커스터마이징을 제공한다.

Highlights

Handy는 구독료, 계정, 클라우드 연결 없이 오프라인으로 작동하는 MIT 라이선스 기반 무료 오픈소스 받아쓰기 앱이다.
백엔드에 Rust, UI에 React와 TypeScript를 사용하며 Silero VAD로 무음 구간을 감지해 계산 자원 낭비를 줄인다.
중급 i5 프로세서 기준 실시간의 5배 속도로 작동하는 6억 개 파라미터 규모의 Parakeet Unified 모델을 지원한다.
기술 용어 테스트에서 Google 문서 음성 입력보다 뛰어난 accurate 문장 부호 및 전문 용어 인식 성능을 보였다.
models 폴더에 직접 미세 조정한 Whisper GGML 모델 파일만 넣으면 재시작 후 커스텀 모델을 바로 사용할 수 있다.

Timeline

Handy의 핵심 특징과 오프라인 작동 구조

Handy는 오프라인에서 중앙 서버 연결 없이 독자적으로 구동되는 오픈소스 받아쓰기 앱이다.
유료 구독 플랜이나 사용자 계정 생성 단계가 존재하지 않는다.
로컬 환경에서 직접 사용자가 구동할 음성 인식 모델을 지정할 수 있다.

클라우드 기반 음성 인식 도구는 지속적인 구독 비용이 발생하고 CPU 자원을 과도하게 점유할 위험이 있다. Handy는 오프라인 로컬 환경에서 완전히 동작하여 이 두 가지 문제를 모두 해결한다.

기술 스택 및 시스템 리소스 최적화 방식

Tauri Framework, Rust 백엔드, React 및 TypeScript frontend 조합으로 빌드되었다.
Silero VAD 모듈이 침묵 구간을 자동 필터링하여 음성 변환에 들어가는 연산 자원 낭비를 방지한다.
Parakeet Unified 6억 파라미터 모델은 중급 i5 CPU 환경에서 실시간 속도의 약 5배로 처리된다.

오디오 입력 처리에 CPAL, 글로벌 단축키 제어에 RDEV, 오디오 스트리밍 및 리샘플링에는 Rubato 라이브러리를 사용한다. Transcribe CPP 및 Transcribe RS를 통해 Whisper(GGM/GGUF) 및 Parakeet 모델을 띄운다. 사용자는 속도와 정확도 지표를 보고 원하는 모델을 직접 선택할 수 있다.

자유로운 포크 및 사용자 지정 모델 확장성

개발자가 쉽게 포크(fork)할 수 있도록 구조가 설계되어 있다.
models 폴더에 커스텀 Whisper GGML 모델을 추가하는 것만으로 신규 모델 등록이 완료된다.
입력된 오디오 데이터는 외부 서버로 전송되지 않고 로컬 기기에만 저장된다.

MIT 라이선스로 공개되어 있어 제3자의 수정과 확장이 자유롭다. 오디오 데이터가 음성 모델 학습용으로 무단 수집될 위험이 없으므로 개인정보 보호 측면에서 유리하다.

Google 문서 음성 입력 및 Whisperflow 비교 검증

Google 문서 음성 입력 기능은 문장 부호를 생략하고 COBOL, SQLite, LLM, Grok 등의 전문 기술 용어를 잘못 인식한다.
Handy는 구두점 처리와 전문 기술 용어 추출을 정확하게 수행한다.
유료 상용 서비스인 Whisperflow가 가장 높은 정확도를 보이지만 Handy와의 성능 차이는 미미하다.

실제 기술 용어가 포함된 의식의 흐름 발화를 바탕으로 3가지 도구의 인식 정확도를 비교 테스트했다. Google 받아쓰기는 Grok을 rock으로, ChatGPT를 Chad GPT로 오인식했다. Whisperflow가 텍스트 정제 능력은 가장 뛰어났으나, 비용과 개인정보 보호를 고려할 때 오프라인 무료 앱인 Handy가 실용적인 대안으로 작동한다.

Community Posts

Write about this video