क्या आपको whisper.cpp ख़ुद ही चला लेना चाहिए?

इंटरनेट पर ज़्यादातर तुलना वाले पेज यह समझाने के लिए होते हैं कि विकल्प क्यों ख़राब है। यह पेज ऐसा नहीं कर सकता, क्योंकि विकल्प वही चीज़ है जिस पर हमारा ऐप बना है।

whisper.cpp OpenAI के Whisper का Georgi Gerganov द्वारा बनाया गया C/C++ इम्प्लीमेंटेशन है। यह MIT लाइसेंस वाला, मुफ़्त, लगातार विकसित होता हुआ और बहुत अच्छा है। Offline Transcription इसे अपने इंजन की तरह इस्तेमाल करता है। जब इसमें बिल्ट-इन वॉइस एक्टिविटी डिटेक्शन आया, तो हमारे ऐप में भी आ गया, क्योंकि कोड वही है।

इसलिए ईमानदार सवाल यह नहीं कि "कौन बेहतर है"। सवाल यह है कि "क्या आप सब कुछ ख़ुद जोड़ना चाहते हैं"।

इसे ख़ुद चलाएँ अगर… #

आप टर्मिनल में सहज हैं। पूरा काम बस ./build/bin/whisper-cli -m model.bin -f audio.wav है। अगर यह वाक्य आपको मामूली लगता है, तो आप ट्रांसक्रिप्ट से दस मिनट दूर हैं और आपको इसके लिए किसी को पैसे नहीं देने चाहिए।

आप इसे स्क्रिप्ट करना चाहते हैं। फ़ोल्डर पर नज़र रखना, cron जॉब, ट्रांसक्रिप्ट को दूसरे टूल में पाइप करना, सर्वर पर ट्रांसक्राइब करना — यहाँ CLI सिर्फ़ सस्ता नहीं, सच में बेहतर है। ऑटोमेशन में कोई GUI शेल लूप का मुक़ाबला नहीं कर सकता।

आपको हर नॉब चाहिए। बीम साइज़, टेम्परेचर फ़ॉलबैक, कस्टम प्रॉम्प्ट, दूसरे मॉडल, बिल्कुल अलग क्वांटाइज़ेशन। हम वे सेटिंग दिखाते हैं जो हमारे हिसाब से ज़्यादातर लोगों को चाहिए; whisper.cpp सारी दिखाता है।

आपका बजट शून्य है। यह पूरी तरह जायज़ है। यह मुफ़्त सॉफ़्टवेयर है और काम करता है।

ऐप इस्तेमाल करें अगर… #

आप कुछ भी बिल्ड नहीं करना चाहते। Apple Silicon पर तेज़ रास्ता पाने के लिए सही फ़्लैग के साथ कंपाइल करना और Python टूलिंग से एनकोडर को Core ML में बदलना पड़ता है। यह डॉक्यूमेंटेड है और मुश्किल नहीं, फिर भी पहली बार में एक दोपहर लगती है और हर अपडेट पर दोबारा करना पड़ता है। हम यह एक बार करते हैं और नतीजा शिप कर देते हैं।

आप इसे अपने फ़ोन पर चाहते हैं। रिपॉज़िटरी में एक उदाहरण iOS प्रोजेक्ट है, और उसे अपने डिवाइस पर बिल्ड, साइन और इंस्टॉल करना Xcode का एक असली काम है, जो डेवलपर अकाउंट न होने पर आपकी प्रोविज़निंग प्रोफ़ाइल के साथ एक्सपायर हो जाता है। App Store से एक यूनिवर्सल ऐप बिल्कुल अलग बात है।

असली काम समीक्षा में है, ट्रांसक्राइब करने में नहीं। ईमानदारी से कहें तो बात का मूल यही है। ऑडियो से टेक्स्ट निकालना एक कमांड है। ज़रूरी हिस्सा ढूँढना, किसी नाम को ऑडियो से मिलाकर जाँचना, उसे ठीक करना और सबटाइटल एक्सपोर्ट करना — असली समय यहीं जाता है, और CLI आपको एक टेक्स्ट फ़ाइल थमाकर शुभकामनाएँ दे देता है। एक सेगमेंट ब्राउज़र, जहाँ आप किसी लाइन पर क्लिक करें और वही लाइन सुनाई दे, टर्मिनल के बस की बात नहीं।

दूसरे लोगों को भी इसे इस्तेमाल करना है। सहकर्मी, रिसर्च टीम, एडिटर। "Xcode कमांड लाइन टूल इंस्टॉल करो और make चलाओ" ऐसा वर्कफ़्लो नहीं जिसे आप किसी और को सौंप सकें।

आप असल में किस चीज़ के पैसे दे रहे हैं #

मॉडल के नहीं — वह मुफ़्त और सार्वजनिक है। इंजन के नहीं — वह MIT लाइसेंस वाला और सार्वजनिक है।

आप पैकेजिंग के पैसे दे रहे हैं: कंपाइल करके शिप किया गया Core ML एनकोडर, फ़ोन में समा जाने वाले आकार का बंडल किया गया क्वांटाइज़्ड मॉडल, एक कतार, हर फ़ाइल के लिए भाषा चुनने का विकल्प, ऑडियो प्लेबैक वाला सेगमेंट ब्राउज़र, सात एक्सपोर्ट फ़ॉर्मेट, और लंबी फ़ाइलों को ऐसे संभालना कि मेमोरी स्थिर रहे, ताकि दो घंटे की रिकॉर्डिंग की वजह से iPhone पर आपकी प्रोसेस बंद न हो जाए।

यह काफ़ी सारा काम है, और यह तय करना भी पूरी तरह वाजिब है कि आप इसे ख़ुद मुफ़्त में करना पसंद करेंगे।

ओपन सोर्स के बारे में एक बात #

चूँकि हमारा ऐप इस पर निर्भर है: अगर whisper.cpp आपके काम आता है, चाहे हमारे ऐप के ज़रिए या सीधे, तो रिपॉज़िटरी को स्टार करना और उसके issues पढ़ना फ़ायदेमंद है। पिछले कुछ सालों में आम हार्डवेयर पर लोकल ट्रांसक्रिप्शन के इतना अच्छा होने की बड़ी वजह यही प्रोजेक्ट और इसके नीचे की ggml लाइब्रेरी है।

हम इस पर क़रीब से नज़र रखते हैं — ऑन-डिवाइस ट्रांसक्रिप्शन कैसे काम करता है, इस पर हमारा लेख असल में इसी का विवरण है कि whisper.cpp क्या करता है, क्योंकि चल वही रहा है।