Может, просто запустить whisper.cpp самому?

Большинство страниц сравнения в интернете существуют, чтобы объяснить, почему альтернатива хуже. Эта так не может, потому что альтернатива — это то, на чём построено наше приложение.

whisper.cpp — реализация Whisper от OpenAI на C/C++, написанная Георгием Гергановым. Она распространяется под лицензией MIT, бесплатна, активно развивается и очень хороша. Offline Transcription использует её как движок. Когда в ней появилась встроенная детекция речевой активности, она появилась и в нашем приложении, потому что это тот же самый код.

Так что честный вопрос не «что лучше», а «хотите ли вы собирать всё сами».

Запускайте сами, если… #

Вы уверенно работаете в терминале. Всё сводится к ./build/bin/whisper-cli -m model.bin -f audio.wav. Если эта строка вас ничем не удивляет, вы в десяти минутах от транскрипта, и платить за это никому не стоит.

Вы хотите это автоматизировать. Отслеживание папок, задания cron, передача транскриптов в другие инструменты, транскрибация на сервере — здесь CLI не просто дешевле, а действительно лучше. В автоматизации ни один графический интерфейс не сравнится с циклом в shell.

Вам нужен доступ ко всем настройкам. Размер луча, температурный откат, собственные промпты, альтернативные модели, совсем другие варианты квантования. Мы открываем те настройки, которые, по-нашему, нужны большинству; whisper.cpp открывает все.

Ваш бюджет — ноль. Совершенно законный вариант. Это свободное ПО, и оно работает.

Берите приложение, если… #

Вы не хотите ничего собирать. Чтобы получить быстрый путь на Apple silicon, нужно скомпилировать с правильными флагами и сконвертировать энкодер в Core ML с помощью инструментов на Python. Это задокументировано и несложно, но в первый раз всё равно займёт полдня, а повторять придётся при каждом обновлении. Мы делаем это один раз и поставляем готовый результат.

Вам нужно это на телефоне. В репозитории есть пример проекта для iOS, но собрать, подписать и установить его на своё устройство — настоящая задача в Xcode, и без аккаунта разработчика всё перестанет работать, когда истечёт профиль подготовки. Универсальное приложение из App Store — совсем другое дело.

Основная работа — в проверке, а не в транскрибации. В этом честная суть. Получить текст из аудио — одна команда. Найти нужный фрагмент, сверить имя с записью, исправить его и экспортировать субтитры — вот где уходит настоящее время, а CLI выдаёт текстовый файл и желает удачи. Просмотр по сегментам, где вы нажимаете на строку и слышите именно её, — это не то, что умеет терминал.

Пользоваться будут другие люди. Коллеги, исследовательская группа, редактор. «Установите инструменты командной строки Xcode и запустите make» — не тот процесс, который можно передать другому человеку.

За что вы на самом деле платите #

Не за модель — она бесплатна и общедоступна. Не за движок — он под лицензией MIT и тоже общедоступен.

Вы платите за упаковку: скомпилированный и встроенный энкодер Core ML, квантованную модель такого размера, что она помещается в телефон, очередь, выбор языка для каждого файла, просмотр по сегментам с воспроизведением аудио, семь форматов экспорта и обработку длинных файлов с постоянным расходом памяти, чтобы двухчасовая запись не привела к принудительному завершению процесса на iPhone.

Это немалый объём работы — и вполне разумно решить, что вы лучше сделаете её сами и бесплатно.

Пара слов об открытом исходном коде #

Раз уж наше приложение от него зависит: если whisper.cpp вам полезен — через наше приложение или напрямую, — стоит поставить звезду репозиторию и почитать issues. Локальная транскрибация стала хорошей на потребительском железе за последние пару лет во многом благодаря этому проекту и библиотеке ggml под ним.

Мы внимательно за ним следим — наш разбор того, как работает транскрибация на устройстве, по сути описывает то, что делает whisper.cpp, потому что именно он и работает внутри.