단 164MB짜리 이 음성 모델이 위스퍼를 대체할지도 모릅니다...

원제 · This 164MB Speech Model Might Replace Whisper...

9:282분 읽기Better Stack2026. 10. 15.컴퓨터/소프트웨어

핵심 요약

164메가바이트 크기의 영어 전사 모델인 포논 2는 맥 실리콘 환경에서 빠른 로컬 음성 변환과 OpenAI 호환 서버 기능을 제공하지만 벤치마크 수치 해석에는 주의가 필요합니다.

하이라이트

  • 포논 2의 모델 다운로드 용량은 164메가바이트이며 압축 해제 시 178메가바이트가 됩니다.

  • 포논 2는 16기가바이트 M5 맥북 에어에서 실시간 속도의 174배로 오디오를 변환할 수 있습니다.

  • 포논 2의 7개 테스트 세트 평균 단어 오류율은 5.21점을 기록했습니다.

  • 포논 2의 코드와 CLI는 아파치 2.0 라이선스를 따르며 모델 가중치는 CC BY 4.0 라이선스를 적용받습니다.

  • 포논 2는 로컬 서버를 통해 OpenAI 호환 전사 엔드포인트와 웹소켓 스트림을 포트 8000에서 제공합니다.

타임라인

  1. 포논 2 모델의 구조와 특징

    페르미온 리서치라는 소규모 연구소에서 개발한 포논 2는 엔비디아 모델을 기반으로 하며 가중치당 약 2.1비트를 사용합니다. 모든 역량을 영어에 집중하는 절충안을 택해 동일한 크기의 리덕스 모델과 차별화를 둡니다.

    • 포논 2는 인코더를 재학습하여 모든 가중치가 5개의 값 중 하나만 사용하도록 설계되었습니다.
    • 리덕스가 25개 언어로 용량을 분산하는 것과 달리 포논 2는 모든 역량을 영어에 집중합니다.
    • 다운로드 크기는 164메가바이트이며 압축이 풀리면 약 178메가바이트가 됩니다.

  2. 설치 방법 및 실행 속도

    맥북 에어에서 클라우드 업로드 없이 로컬로 1시간 분량의 오디오를 21초 만에 처리할 수 있습니다. 맥의 GPU에서 mlx를 활용하며 빠른 경로 디코더를 활성화할 때 최고 속도가 나옵니다.

    • 파이썬 3.10 이상 환경과 mlx 확장 기능이 필요합니다.
    • 16기가바이트 M5 맥북 에어에서 빠른 경로 디코더 사용 시 실시간 속도의 174배 성능을 냅니다.
    • 위스퍼 라지 v3 터보 모델의 다운로드 크기는 약 1.6기가바이트로 포논 2보다 훨씬 큽니다.

  3. 정확도 벤치마크와 비교 분석

    단어 오류율 측정에서 포논 2는 위스퍼 터보보다 우수한 점수를 보였으나 소음이 섞인 음성 등 일부 테스트 세트에서는 위스퍼가 앞서기도 했습니다. 벤치마크 테스트 방식에 따라 결과가 다르게 나타날 수 있습니다.

    • 포논 2의 단어 오류율은 7개 테스트 세트에서 5.21점을 기록했습니다.
    • 타사 Core ML 포트를 사용한 테스트에서는 원본 엔비디아 모델이 리덕스보다 4배 더 빠른 속도를 보였습니다.
    • OpenASR 리더보드 독립 테스트에서 포논 2는 평균 7.23점을 기록했습니다.

  4. 부가 기능과 라이선스 정보

    로컬 서버를 실행하여 포트 8000에서 OpenAI 호환 전사 엔드포인트와 웹소켓 스트림을 이용할 수 있습니다. 상업적 이용이 허용되며 출처 표기 조건 하에 자유롭게 활용할 수 있습니다.

    • phonon listen 명령어로 마이크 오디오를 실시간으로 텍스트로 변환할 수 있습니다.
    • 특정 단어 목록을 지정하는 핫워드 기능을 지원하여 기술적 대화 전사에 유용합니다.
    • 코드와 CLI는 아파치 2.0 라이선스이며 모델 가중치는 CC BY 4.0 라이선스를 따릅니다.

설명

Phonon-2 is a new 164MB open-source speech-to-text model from Fermion Research that claims to transcribe an entire hour of audio in just 21 seconds on a MacBook Air, completely offline. In this video, I test Phonon-2 on Apple Silicon, walk through the installation and Python CLI, and compare its transcription speed, accuracy, and word error rate against Whisper, Redux, and the original NVIDIA Parakeet model. 🔗 Relevant Links Phonon-2 - https://www.fermionresearch.com/models/phonon-2/ Hugging Face Phonon-2 - https://huggingface.co/FermionResearch/Phonon-2 ❤️ More about us Radically better observability stack: https://betterstack.com/ Written tutorials: https://betterstack.com/community/ Example projects: https://github.com/BetterStackHQ 📱 Socials Twitter: https://twitter.com/betterstackhq Instagram: https://www.instagram.com/betterstackhq/ TikTok: https://www.tiktok.com/@betterstack LinkedIn: https://www.linkedin.com/company/betterstack 📌 Chapters: 00:00 Phonon-2: 164MB Speech Model, 21-Second Transcription 00:31 Phonon-2 vs Parakeet Redux: What's Different? 01:36 Installing Phonon-2 on Mac & Transcription Demo 02:39 How Phonon-2 Achieves 174x Real-Time Speed 03:14 Accuracy Test: Phonon-2 vs Whisper vs Redux 04:03 The Catch With Phonon-2's Benchmarks 05:25 Independent Speech-to-Text Benchmark Results 06:20 Live Transcription, Captions & Custom Hotwords 07:18 Running a Local OpenAI-Compatible Transcription API 08:00 Phonon-2 Licensing, Commercial Use & Limitations 08:49 Phonon-2 vs Whisper vs Redux: Which Is Best?

이 영상에 대해 글쓰기