Anleitung
Warum die Transkription auf Ihrem Mac langsam ist
Dieselbe Aufnahme kann auf verschiedenen Macs mit derselben App zwei Minuten oder vierzig dauern. Vier Dinge erklären fast den gesamten Unterschied.
Die Geschwindigkeit lokaler Transkription schwankt enorm, und nicht im Verhältnis dazu, wie neu Ihr Mac ist oder wie viel Sie dafür bezahlt haben. Dieselbe einstündige Aufnahme kann auf einem Rechner drei Minuten und auf einem anderen eine halbe Stunde dauern, mit derselben App.
Vier Dinge machen nahezu alles davon aus.
1. Apple Silicon gegen Intel #
Das ist der große Punkt, und der Unterschied ist nicht klein.
Transkription wird von Matrixarithmetik beherrscht. Apple Silicon hat zwei Dinge, die speziell dazu passen: eine Neural Engine, die genau für diese Arithmetik gebaut ist, und einheitlichen Speicher, sodass die Gewichte des Modells nicht zwischen CPU- und GPU-Speicher hin- und herkopiert werden müssen.
Ein Intel-Mac hat keines von beidem. Er hat überhaupt keine Neural Engine, der Encoder — die teure Hälfte des Modells — fällt also auf die CPU oder eine dedizierte GPU jenseits eines Busses zurück. Das Ergebnis ist bei derselben Datei oft um ein Mehrfaches langsamer.
Wenn Sie einen Intel-Mac haben, ist die Transkription trotzdem völlig brauchbar; sie ist bloß etwas, das man startet und zu dem man zurückkommt, statt dabei zuzusehen. Keine Software schließt diese Lücke, denn die Lücke ist ein Stück Silizium.
2. Ob die App die Neural Engine überhaupt nutzt #
Zwei Apps auf demselben Mac mit M-Chip können sich um einen großen Faktor unterscheiden, weil die Nutzung der Neural Engine nicht automatisch geschieht.
Das Modell muss vorab in das Format von Core ML kompiliert werden, damit der Encoder dort läuft. Apps, die einen Core-ML-Encoder zusammen mit den Gewichten ausliefern, bekommen den schnellen Weg; Apps, die das nicht tun, führen alles auf GPU oder CPU aus und lassen viel Leistung ungenutzt.
Von außen sehen können Sie das nicht, aber spüren: Wenn eine lokale Transkriptions-App auf Ihrem Rechner dramatisch schneller ist als eine andere, liegt es meist daran.
3. Modellgröße #
Whispers Größen unterscheiden sich bei jedem Schritt um rund das Dreifache an Parametern, und die Zeit skaliert damit. Von Base auf Large sind es etwa zwanzigmal so viele Parameter — bei einer langen Datei ist das der Unterschied zwischen einem Kaffee und einem Nachmittag.
Wenn eine App standardmäßig ein großes Modell verwendet oder Sie eines gewählt haben, weil größer besser klang, kann allein das die Wartezeit erklären. Der Genauigkeitsgewinn ist viel kleiner, als der Größenunterschied nahelegt, und bei sauberer Sprache ist er oft nicht wahrnehmbar.
4. Wie viel Stille Sie mittranskribieren #
Eine zweistündige Aufnahme einer neunzigminütigen Besprechung enthält dreißig Minuten Nichts. Ohne Sprachaktivitätserkennung verarbeitet das Modell alles davon — es dekodiert Stille zu denselben Kosten wie Sprache und erzeugt dabei wiederholten Mülltext.
Apps, die zuerst VAD ausführen, überspringen diese Abschnitte vollständig. Bei Aufnahmen mit viel Leerlauf ist das keine geringfügige Ersparnis.
Was es tatsächlich schneller macht #
Nach Wirkung geordnet:
- Nehmen Sie ein kleineres Modell. Base reicht für die meiste saubere Sprache und ist um ein Vielfaches schneller als Large.
- Nehmen Sie eine App mit Core-ML-Encoder, wenn Sie Apple Silicon haben.
- Kürzen Sie Leerlauf, oder verwenden Sie ein Werkzeug, das zuerst Sprache erkennt.
- Schließen Sie, was sonst konkurriert. Transkription nutzt jeden Kern, den sie bekommen kann. Ein Videoexport im Hintergrund halbiert Ihren Durchsatz.
- Schließen Sie den Laptop ans Netz an. Im Akkubetrieb drosselt macOS anhaltende Arbeit; der Stromsparmodus tut es aggressiv.
Was es nicht schneller macht #
Mehr RAM, es sei denn, Sie haben ausgelagert — der Arbeitssatz ist kleiner, als die meisten annehmen.
Schnelleres Internet. In lokaler Transkription gibt es keinen Netzwerkschritt. Wenn Ihre Geschwindigkeit von Ihrer Verbindung abhängt, passiert die Arbeit nicht auf Ihrem Rechner.
Neu starten. Wenn ein Durchlauf langsam ist, beginnt ein Neustart dieselbe Arbeit bei null.
Eine grobe Erwartung #
Auf einem Mac mit Apple Silicon, einem Base-Modell und einem Core-ML-Encoder läuft die Transkription um ein Mehrfaches schneller als Echtzeit — eine einstündige Aufnahme ist in wenigen Minuten fertig. Unsere eigene Messung an einer zweistündigen Datei lag von Anfang bis Ende unter drei Minuten.
Auf einem Intel-Mac rechnen Sie mit einem spürbaren Bruchteil der Aufnahmelänge. Trotzdem lohnend, trotzdem kostenlos, bloß nichts, wobei man zusieht.
Wenn Sie auf Apple Silicon weit außerhalb dieser Bereiche liegen, sind die wahrscheinlichen Ursachen, der Reihe nach: ein großes Modell, eine App, die die Neural Engine nicht nutzt, oder viel andere Arbeit, die um den Rechner konkurriert.
Die Kurzfassung #
Apple Silicon gegen Intel ist der größte Faktor, und in Software lässt er sich nicht beheben. Danach: ein kleineres Modell nehmen, eine App nehmen, die den Encoder für die Neural Engine kompiliert, Stille überspringen statt sie zu transkribieren, und das Ganze nicht im Akkubetrieb neben einem Videoexport laufen lassen.
Offline Transcription herunterladen
Transkribieren Sie Audio und Video vollständig auf Ihrem eigenen Mac. Nichts wird hochgeladen, es gibt kein Konto und keine Abrechnung pro Minute.