Cómo eliminar el tipeo de actas de reunión con Whisper en un PC de seguridad sin conexión a Internet
makedream٣٠ يوليو ٢٠٢٦
0
Computing/Software
Comments (0)
Log in to leave a comment
No posts yet
makedreammakedreamLog in to leave a comment
No posts yet
Hacer horas extra durante una hora solo para redactar actas de reunión en una sala de desarrollo o en el centro de procesamiento de datos de una entidad financiera, donde ni siquiera se puede entrar sin una tarjeta de seguridad, es realmente desgastante. Por mucho que solicites herramientas de IA de pago, es imposible que el equipo de seguridad de la información las apruebe, por lo que al final no queda más remedio que teclear manualmente. Utilizando Handy, una herramienta de reconocimiento de voz local de código abierto, puedes librarte de este sufrimiento. Se trata de una configuración optimizada que ejecuta todo dentro de tu portátil sin enviar ni un solo byte de audio a servidores externos.
Aunque Handy sea un programa que se ejecuta únicamente de forma local, sigue siendo sospechoso desde la perspectiva del equipo de seguridad. Dado que podrían salir paquetes de actualización o de la descarga inicial del modelo, uno se queda más tranquilo bloqueando por fuerza los paquetes de red a nivel de sistema operativo.
Si estás en un entorno Windows, solo necesitas abrir el Command Prompt con derechos de administrador e inyectar directamente una regla de salida.
netsh advfirewall firewall add rule name="Block Handy Outbound OUT" dir=out program="%LOCALAPPDATA%\Programs\handy\Handy.exe" action=block enable=yes.netsh advfirewall firewall show rule name="Block Handy Outbound OUT" para verificar directamente el estado del bloqueo.Si usas macOS, basta con bloquear los paquetes de Handy en Little Snitch 6 estableciendo las Connections to Any Server como Always Deny. Con esta sola línea, la probabilidad de que se genere tráfico que viole las normas de seguridad pasa a ser cero.
También hay que prestar atención a la configuración de los atajos de teclado. Handy detecta las teclas de entrada globales mediante la biblioteca rdev del lenguaje Rust, por lo que suele entrar en conflicto con los atajos predeterminados del sistema. Es más limpio asignar la combinación Option + Space en macOS o Alt + Space en Windows como tecla Push-to-Talk.
La arquitectura de OpenAI Whisper tiene una estructura en la que el decodificador de texto predice la siguiente palabra basándose en las palabras anteriores. Si rellenamos el parámetro initial_prompt de este decodificador con los términos individuales y nombres de proyectos que usamos con frecuencia, dentro del límite de 224 tokens, los errores de reconocimiento se reducen de forma notable. Esta es la razón por la que la tasa de error de palabras (WER) disminuye incluso sin necesidad de reentrenar el modelo.
A continuación se presenta una reunión de arquitectura y desarrollo de TI. Términos principales: Kubernetes, CI/CD, React Native, Rust, Obsidian, AutoHotkey, PostgreSQL, gRPC, Docker, PR, Issue, Sprint.También hay que corregir las alucinaciones en las que ciertas palabras se imprimen continuamente cuando el ruido de fondo es fuerte. Si reduces a 128 el valor de n_max_text_ctx, que determina el tamaño de la ventana de contexto de texto, y fijas el valor de temperature en 0.0, la generación de texto aleatorio se detendrá.
El comportamiento predeterminado de Handy consiste en colocar el texto convertido en el portapapeles. El problema es que el código que ya habías cortado se sobrescribe. Es mucho mejor añadir el texto directamente junto con una marca de tiempo en la nota diaria (.md) de Obsidian sin pasar por el portapapeles.
En un entorno Windows, esto se resuelve dejando ejecutándose un script de AutoHotkey.
VaultPath := "C:\Users\" . A_UserName . "\ObsidianVault\DailyNotes\" . CurrentDate . ".md") y la sintaxis para añadir texto al archivo (FileAppend, %LogEntry%, %VaultPath%, UTF-8).Una vez completada esta configuración de automatización, los más de 40 minutos que antes desperdiciabas a diario tecleando y cambiando de ventana se reducen a unos 3 minutos.
Si usas palabras de control específicas al hablar, también puedes hacer que el formato Markdown se aplique automáticamente. Por ejemplo, al decir "introducir agenda", el script lo reconoce y lo cambia por el encabezado ### 📌 Agenda, y "item de acción" se convierte en una casilla de verificación #### ✅ Item de acción.
Handy utiliza el formato GGML/GGUF basado en whisper.cpp. Si reduces los pesos del modelo FP16 a un nivel Q5_1 (5.5 bits) o Q4_1 (4 bits), el consumo de RAM disponible cae a un tercio.
Si usas un MacBook Air M2 o un portátil con gráficos integrados, el modelo Whisper Small(Q5_1) es adecuado. Con 250MB de espacio en disco y un uso de memoria de alrededor de 350MB, no sobrecarga el entorno de desarrollo en ejecución. Si estás en un entorno de escritorio con una tarjeta gráfica potente, puedes cargar el modelo Whisper Large-v3(Q5_1) para maximizar la tasa de reconocimiento.
Este es el procedimiento para optimizar la memoria residente:
C:\Users\{username}\AppData\Roaming\com.pais.handy\models\) y elimina todos los archivos de modelos grandes (.bin) de varios GB que no utilices.Los tirones por embotellamiento de hilos al convertir reuniones largas se deben a un problema en la configuración del número de núcleos físicos. En lugar de ajustarlo al número de núcleos lógicos basados en Hyper-Threading, debes emparejar el número de hilos (n_threads) en una relación 1:1 con el número de actual physical cores para que se ejecute de forma fluida y sin sobrecarga de conmutación.