whisper.cpp를 직접 실행하면 되지 않을까?

인터넷의 비교 페이지는 대부분 경쟁 제품이 왜 못한지 설명하려고 존재합니다. 이 페이지는 그럴 수 없습니다. 비교 대상이 바로 저희 앱의 기반이기 때문입니다.

whisper.cpp는 Georgi Gerganov가 만든 OpenAI Whisper의 C/C++ 구현입니다. MIT 라이선스이고, 무료이며, 활발히 개발되고 있고, 아주 좋습니다. Offline Transcription은 이것을 엔진으로 씁니다. whisper.cpp에 음성 구간 감지가 내장되었을 때 저희 앱에도 그대로 들어왔습니다. 같은 코드이기 때문입니다.

그러니 솔직한 질문은 "어느 쪽이 더 나은가"가 아닙니다. "조립을 직접 하고 싶은가"입니다.

직접 실행하면 좋은 경우… #

터미널이 편할 때. 전부 합쳐 ./build/bin/whisper-cli -m model.bin -f audio.wav입니다. 이 문장이 별것 아니게 느껴진다면 텍스트까지 10분 거리이고, 이 일로 누구에게도 돈을 낼 필요가 없습니다.

스크립트로 돌리고 싶을 때. 감시 폴더, cron 작업, 변환된 텍스트를 다른 도구로 파이프하기, 서버에서 변환하기. 여기서는 CLI가 더 쌀 뿐 아니라 실제로 더 낫습니다. 자동화에서 셸 루프와 겨룰 GUI는 없습니다.

모든 설정을 만지고 싶을 때. 빔 크기, 온도 폴백, 사용자 지정 프롬프트, 다른 모델, 전혀 다른 양자화 방식까지. 저희는 대부분의 사람에게 필요하다고 보는 설정만 노출합니다. whisper.cpp는 전부 노출합니다.

예산이 0원일 때. 전혀 문제없는 이유입니다. 무료 소프트웨어이고, 잘 작동합니다.

앱을 쓰면 좋은 경우… #

아무것도 빌드하고 싶지 않을 때. Apple Silicon에서 빠른 경로를 쓰려면 올바른 플래그로 컴파일하고, Python 도구로 인코더를 Core ML로 변환해야 합니다. 문서화되어 있고 어렵지도 않지만, 처음에는 오후 한나절이 걸리고 업데이트할 때마다 다시 해야 합니다. 저희가 한 번 해서 결과물을 배포합니다.

휴대폰에서도 쓰고 싶을 때. 저장소에 iOS 예제 프로젝트가 있지만, 이를 빌드하고 서명해서 내 기기에 설치하는 것은 제대로 된 Xcode 작업이고, 개발자 계정이 없으면 프로비저닝 프로파일과 함께 만료됩니다. App Store의 유니버설 앱은 전혀 다른 이야기입니다.

시간이 변환보다 검토에 들 때. 솔직히 이것이 핵심입니다. 오디오에서 텍스트를 뽑는 것은 명령 하나입니다. 필요한 대목을 찾고, 이름을 오디오와 대조하고, 고치고, 자막으로 내보내는 데 실제 시간이 듭니다. CLI는 텍스트 파일 하나를 주고 행운을 빌어 줄 뿐입니다. 줄을 클릭하면 그 줄을 들을 수 있는 세그먼트 브라우저는 터미널이 할 수 없는 일입니다.

다른 사람도 써야 할 때. 동료, 연구팀, 편집자. "Xcode 명령줄 도구를 설치하고 make를 실행하세요"는 남에게 넘길 수 있는 작업 방식이 아닙니다.

실제로 돈을 내는 대상 #

모델이 아닙니다. 모델은 무료로 공개되어 있습니다. 엔진도 아닙니다. 엔진은 MIT 라이선스로 공개되어 있습니다.

돈을 내는 대상은 패키징입니다. 컴파일해서 함께 배포하는 Core ML 인코더, 휴대폰에 맞는 크기로 양자화해 번들한 모델, 대기열, 파일별 언어 선택, 오디오 재생이 되는 세그먼트 브라우저, 일곱 가지 내보내기 형식, 그리고 두 시간짜리 녹음 때문에 iPhone에서 프로세스가 강제 종료되지 않도록 메모리를 일정하게 유지하는 긴 파일 처리.

상당한 작업량입니다. 그리고 그것을 무료로 직접 하겠다고 결정하는 것도 전적으로 합리적입니다.

오픈 소스에 대해 한 가지 #

저희 앱이 여기에 기대고 있으니 말씀드립니다. 저희 앱을 통해서든 직접이든 whisper.cpp가 유용했다면, 저장소에 별을 달고 이슈를 읽어 볼 가치가 있습니다. 지난 몇 년 사이 일반 소비자 하드웨어에서 로컬 텍스트 변환이 쓸 만해진 것은 대부분 이 프로젝트와 그 아래의 ggml 라이브러리 덕분입니다.

저희는 이 프로젝트를 가까이 지켜봅니다. 온디바이스 텍스트 변환이 동작하는 방식에 대한 글은 사실상 whisper.cpp가 하는 일에 대한 설명입니다. 실제로 돌아가는 것이 바로 그것이기 때문입니다.