Alternativa a whisper.cpp: ¿y si lo ejecutas tú mismo?

La mayoría de las páginas comparativas de internet existen para explicar por qué la alternativa es peor. Esta no puede, porque la alternativa es aquello sobre lo que está construida nuestra app.

whisper.cpp es la implementación en C/C++ del Whisper de OpenAI creada por Georgi Gerganov. Tiene licencia MIT, es gratuita, se desarrolla activamente y es muy buena. Offline Transcription la usa como motor. Cuando incorporó la detección de actividad de voz, nuestra app la incorporó también, porque es el mismo código.

Así que la pregunta honesta no es «cuál es mejor». Es «¿quieres montarlo tú mismo?».

Ejecútalo tú mismo si… #

Te manejas bien en la terminal. Todo se reduce a ./build/bin/whisper-cli -m model.bin -f audio.wav. Si esa línea no te dice nada especial, estás a diez minutos de una transcripción y no deberías pagar a nadie por esto.

Quieres automatizarlo con scripts. Carpetas vigiladas, tareas de cron, enviar transcripciones a otras herramientas, transcribir en un servidor: aquí una CLI no solo es más barata, sino realmente mejor. Ninguna interfaz gráfica compite con un bucle de shell para automatizar.

Quieres controlar cada parámetro. Tamaño del haz, temperatura de respaldo, prompts personalizados, modelos alternativos, cuantizaciones completamente distintas. Nosotros mostramos los ajustes que creemos que necesita la mayoría; whisper.cpp los muestra todos.

Tu presupuesto es cero. Totalmente legítimo. Es software libre y funciona.

Usa la app si… #

No quieres compilar nada. Conseguir la vía rápida en Apple silicon implica compilar con las opciones adecuadas y convertir el codificador a Core ML con herramientas de Python. Está documentado y no es difícil, pero aun así te lleva una tarde la primera vez y repetirlo cada vez que actualizas. Nosotros lo hacemos una vez y distribuimos el resultado.

Lo quieres en el móvil. Hay un proyecto de ejemplo para iOS en el repositorio, y compilarlo, firmarlo e instalarlo en tu propio dispositivo es un trabajo de Xcode de verdad que caduca con tu perfil de aprovisionamiento salvo que tengas una cuenta de desarrollador. Una app universal del App Store es otra cosa.

El trabajo está en revisar, no en transcribir. Este es el fondo honesto del asunto. Sacar el texto del audio es un solo comando. Encontrar el pasaje que necesitas, comprobar un nombre con el audio, corregirlo y exportar subtítulos es donde se va el tiempo de verdad, y una CLI te da un archivo de texto y te desea suerte. Un navegador de segmentos en el que haces clic en una línea y oyes esa línea no es algo que pueda hacer una terminal.

Otras personas tienen que usarlo. Compañeros, un equipo de investigación, un editor. «Instala las herramientas de línea de comandos de Xcode y ejecuta make» no es un flujo de trabajo que puedas pasarle a otra persona.

Lo que de verdad estás pagando #

No el modelo: es gratuito y público. No el motor: tiene licencia MIT y es público.

Pagas por el empaquetado: un codificador de Core ML compilado e incluido, un modelo cuantizado de un tamaño que cabe en un teléfono, una cola, un selector de idioma por archivo, un navegador de segmentos con reproducción de audio, siete formatos de exportación y un manejo de archivos largos que mantiene la memoria estable para que una grabación de dos horas no haga que el sistema cierre el proceso en un iPhone.

Es una cantidad de trabajo real, y también es completamente razonable decidir que prefieres hacerlo tú gratis.

Una cosa que conviene decir sobre el código abierto #

Porque nuestra app depende de él: si whisper.cpp te resulta útil, ya sea a través de nuestra app o directamente, merece la pena darle una estrella al repositorio y leer las incidencias. La razón por la que la transcripción local se volvió buena en hardware de consumo en los últimos años es, en gran parte, ese proyecto y la biblioteca ggml que tiene debajo.

Lo seguimos de cerca: nuestro artículo sobre cómo funciona la transcripción en el dispositivo es básicamente una descripción de lo que hace whisper.cpp, porque eso es lo que se está ejecutando.