스크립트
00:00:00इस गर्मी का सबसे ज़्यादा स्टार्स पाने वाला नया रेपो, छह हफ़्तों में 83,000 से भी ज़्यादा स्टार्स।
00:00:05यह Google, Microsoft या OpenAI से नहीं आया। यह PewDiePie से आया है। हाँ, वही PewDiePie।
00:00:12और अगर आप इश्यू ट्रैकर खोलेंगे, तो सबसे ज़्यादा अपवोट किए गए इश्यू में लिखा है, मैं कोट करता हूँ,
00:00:17“यह पूरी तरह से डरावना है।” और एक दूसरे कमेंट में कहा गया है, “इसे अपनी मशीन पर चलाने में भी मुझे डर लग रहा है।”
00:00:22तो मैं यह आपके लिए करने जा रहा हूँ। और हम देखेंगे कि आखिरकार यह चीज़ है क्या।
00:00:30यह प्रोजेक्ट Odysseus है और इसे बस एक और चैट UI कहना थोड़ा कम आँकना होगा। यह एक सेल्फ-होस्टेड
00:00:38AI वर्कस्पेस है जो ज़ाहिर तौर पर ये सभी काम करता है, जिन्हें पढ़ना भी मेरे लिए बहुत लंबा होगा।
00:00:44यह सब करते हुए, यह सेशन बदलने पर भी डेटा बनाए रखता है, आपकी मशीन पर चलने वाला एक अकेला ऐप।
00:00:50GPL लाइसेंस, कोई क्लाउड टियर नहीं, कोई सब्स्क्रिप्शन नहीं। हर चैट और ईमेल एक साधारण लोकल डेटा
00:00:56फ़ोल्डर में रहता है जिसका बैकअप आप खुद ले सकते हैं। और इसकी बैकस्टोरी सब कुछ समझा देती है। पिछले साल, PewDiePie
00:01:02लोकल AI की दुनिया में हममें से ज़्यादातर लोगों से भी कहीं ज़्यादा गहराई में उतर गया। उसने मॉडिफाइड 48
00:01:09गीगाबाइट 4090s, 70 बिलियन पैरामीटर मॉडल्स और “Chat OS” नाम के होममेड UI के साथ 10 GPU वाला एक रिग बनाया, जिसमें बॉट्स की एक काउंसिल थी
00:01:18जो जवाबों पर तब तक वोट करते थे जब तक कि वे उसी के खिलाफ मिलीभगत न करने लगे। Odysseus उसी सिस्टम को हम बाकी लोगों के लिए फिर से बनाया गया रूप है।
00:01:24उसने इसे 31 मई को लॉन्च किया, और 48 घंटों में 30,000 स्टार्स मिल गए। अब हम देखेंगे कि यह असल में क्या है।
00:01:30अगर आप अपने वर्कफ़्लो को तेज़ करने वाले कोडिंग टूल्स पसंद करते हैं, तो सब्सक्राइब ज़रूर करें। हमारे वीडियो लगातार आते रहते हैं।
00:01:35तो चलिए इसे चलाते हैं, क्योंकि Mac पर यह सचमुच बस एक स्क्रिप्ट है—क्लोन करें, Docker चलाएं और यह सब कुछ सेट कर देता है।
00:01:41जब मैं grep करूँगा, तो मुझे टर्मिनल में एक अस्थायी पासवर्ड वापस मिलेगा और यह पोर्ट 7000 पर सर्व होता है।
00:01:48मैं admin और उस पासवर्ड से लॉग इन कर सकता हूँ। और अब हम इस मोनो-स्पेस, डार्क पर रेड
00:01:52टर्मिनल स्टाइल वाले इंटरफ़ेस को देख रहे हैं। XDA ने इसे “अजीब तरह से बेहतरीन” कहा, जबकि Hacker News के एक कमेंटेटर ने इसे
00:01:58“बेहद खराब” बताया। और सच कहूँ तो, यह राय का बँटवारा ही हमें इस प्रोजेक्ट के बारे में सब कुछ बता देता है।
00:02:03पहला पड़ाव है कुकबुक। यह इस Mac, चिप, और यूनिफाइड मेमोरी को स्कैन करता है, और मुझे बताता है कि कौन से लोकल
00:02:09मॉडल असल में यहाँ चलेंगे, और फिर उन्हें फ़ुल मेटल एक्सीलरेशन के साथ Llama CPP के ज़रिये डाउनलोड और सर्व करता है।
00:02:16यह अकेली स्क्रीन एक घंटे की छानबीन का समय बचा देती है। मैं बॉक्सों को इधर-उधर ड्रैग कर सकता हूँ,
00:02:22जो कि काफी कूल है। लेकिन अगला दिलचस्प काम है मॉडलों की तुलना करना। एक प्रॉम्ट,
00:02:27तीन लोकल मॉडल, अगल-बगल, ब्लाइंड टेस्टिंग। फिर मैं अपना प्रॉम्ट दर्ज कर सकता हूँ। और जब यह पूरा हो जाए,
00:02:34तो यह बताने से पहले कि किस मॉडल ने इसे लिखा था, मैं विजेता चुन सकता हूँ। यह बॉट काउंसिल है। यह काफी
00:02:40कूल है। यह सब कंटेनरों के लिए एक FastAPI ऐप, Odysseus, वेक्टर मेमोरी के लिए ChromaDB,
00:02:47एक बंडल किया हुआ SearXNG खोज इंजन, और पुश नोटिफिकेशन के लिए Nifty। यही बंडल वजह है कि दीप रिसर्च,
00:02:54जिसके बारे में मैं एक मिनट में बात करूँगा, बिना किसी पेड API के काम करता है। यह अपने खुद के SearXNG के ज़रिये सर्च करता है,
00:03:00स्रोतों को पढ़ता है, और साइटेशन के साथ एक रिपोर्ट स्ट्रीम करता है—सब कुछ लोकल। इसकी मेमोरी असली है। आज इसे कोई बात बताइए,
00:03:06कल एक नए सेशन में पूछिए, इसे पता होगा। इसका ईमेल क्लाइंट IMAP पर आपके असली इनबॉक्स को सॉर्ट करता है
00:03:11और ड्राफ्ट जवाब तैयार करता है। ज़ाहिर कारणों से मैं अपना ईमेल इससे सिंक नहीं करना चाहता था, लेकिन यह इन-बिल्ट है।
00:03:17इसमें एक इंटीग्रेटेड कैलेंडर है जहाँ आप सामान्य कैलेंडर की तरह ही चीजें जोड़ सकते हैं, लेकिन अब LLM
00:03:22असल में इसे पढ़ सकता है। मैं यहाँ सचमुच “Deep Research” में जा सकता हूँ, जिस पर मैं वापस आ रहा हूँ।
00:03:26मैं इससे एक सवाल पूछ सकता हूँ और यह एक मल्टी-स्टेप एजेंट लूप चलाता है। इसकी सबसे बेहतरीन मिसाल जो मेरे पास है—
00:03:33यह इनबॉक्स से जुड़ा एक सेल्फ-होस्टेड क्लाउड प्रोजेक्ट है। अब, एक बात जिस पर मैं निष्पक्ष रहना चाहता हूँ, एजेंट लूप,
00:03:39कुकबुक, और रिसर्च पाइपलाइन को OpenCode, LLM Fit,
00:03:46और Alibaba के Deep Research से उचित क्रेडिट के साथ अपनाया गया है। यह बस कुशलता से की गई असेंबली है। यह शुरुआत से किया गया आविष्कार नहीं है,
00:03:52और ईमानदारी से कहें तो, इसे होने की ज़रूरत भी नहीं है। जो उस सवाल को खड़ा करता है जो Hacker News ने शब्द-दर-शब्द पूछा था।
00:03:58बस OpenWebUI का इस्तेमाल क्यों न करें? बिल्कुल सही बात है। OpenWebUI और LibreChat के पास वास्तविक
00:04:05वर्ज़न रिलीज़ में सालों की परिपक्वता है। Odysseus अपनी व्यापकता की वजह से जीतता है। कोई और एक ही बॉक्स में ईमेल, कैलेंडर, शेड्यूल्ड एजेंट्स,
00:04:11पुश नोटिफिकेशन्स और हार्डवेयर-अवेयर मॉडल मैनेजर नहीं देता। इसमें लाइसेंसिंग का एक पेच भी है।
00:04:17OpenWebUI का लाइसेंस आपको उसकी ब्रांडिंग हटाने की इजाज़त नहीं देता, जिसे Hacker News ने बताया कि यह पूरी तरह से
00:04:23ओपन सोर्स नहीं है। Odysseus पूरी तरह AGPL है। लेकिन अगर आपको सिर्फ चैट प्लस RAG चाहिए और बस इतनी ही आपकी ज़रूरत है,
00:04:30तो कोई दूसरा टूल चुन लें। इसमें बहस की कोई गुंजाइश नहीं है। अब, वह हिस्सा जो आपको असल में सुनने की ज़रूरत है,
00:04:34क्योंकि मैं किसी भी तरह से इस प्रोजेक्ट को बढ़ावा नहीं दे रहा हूँ—उस टॉप इश्यू में लिखा है कि “यहाँ क्या बकवास चल रही है।”
00:04:41यह LLM के बेकार कोड वाले 800 मर्ज किए गए पुल रिक्वेस्ट्स, 30,000-लाइन वाली CSS फ़ाइल, रैंडम इनलाइन जावास्क्रिप्ट का वर्णन करता है,
00:04:49और अभी, लगभग 900 PR ओपन पड़े हैं, जिनमें से कई AI द्वारा लिखे गए हैं और बाकी फैंस द्वारा जमा किए गए हैं।
00:04:56वहाँ शून्य टैग किए गए रिलीज़ हैं। शून्य। आप एक अनिश्चित देव ब्रांच और अन-पिन की गई डिपेंडेंसीज़ चला रहे हैं,
00:05:03आज इंस्टॉल करें, और कल आपको दो अलग ऐप्स मिलेंगे। ये स्टार्स कुछ हद तक फैनडम हैं,
00:05:07ज़ाहिर सी बात है। उस इंसान के 110 मिलियन सब्स्क्राइबर्स हैं, लेकिन स्टार्स कोई कोड रिव्यू नहीं होते। और इस प्रोजेक्ट का
00:05:14खुद का थ्रेट मॉडल पढ़ें। एजेंट को शेल एक्सेस, फ़ाइल एक्सेस और ईमेल भेजने की क्षमता मिलती है। उनके ही शब्दों में,
00:05:21इसे एडमिन कंसोल की तरह समझें। इसे कभी भी इंटरनेट पर एक्सपोज़ न करें। Docker में Mac-विशिष्ट एक पेच यह भी है कि
00:05:27इन्फ़रेंस केवल CPU-ओनली पर चलता है, क्योंकि Docker और macOS मेटल GPU को एक्सेस नहीं कर सकते। तो,
00:05:32मेरा फैसला दो हिस्सों में है। लोकल प्लेग्राउंड के तौर पर यह बढ़िया है। प्रॉडक्शन डिपेंडेंसी के तौर पर, बिल्कुल भी नहीं।
00:05:39और दोनों का एक साथ होना ठीक है। लेकिन यहाँ वह बात है जिसे “यह तो बस कचरा है” कहने वाली भीड़ नज़रअंदाज़ कर रही है। 300 से ज़्यादा लोगों
00:05:45ने अब इसमें योगदान दिया है। कम्युनिटी ने ज़बरदस्ती एक कोड ओनर फ़ाइल शामिल करवाई, एक पूरा आर्किटेक्चर
00:05:52सुधार प्रस्ताव लिखा जिस पर 100 से ज़्यादा कमेंट्स आए। और दो दिन पहले, repo अपने खुद के GitHub संगठन में चला गया।
00:05:59यह चीज़ अस्त-व्यस्त, भीड़भाड़ वाली, असमान है, लेकिन हाल ही में देखे गए किसी भी प्रोजेक्ट से कहीं ज़्यादा जीवंत है। तो,
00:06:05यहाँ मेरा निष्कर्ष यह है। बात कोड की नहीं है। ईमानदारी से कहें तो उस repo में कोड
00:06:09सबसे कम महत्वपूर्ण चीज़ है। जो मायने रखता है वह यह है कि 110 मिलियन लोगों ने अभी-अभी किसी ऐसे व्यक्ति को देखा जिस पर वे भरोसा करते हैं और वह कहता है कि आप अपनी खुद की मशीन पर
00:06:15अपना AI चला सकते हैं और अपने डेटा के मालिक खुद बन सकते हैं। AI को खुद होस्ट करना अब मुख्यधारा बनता जा रहा है,
00:06:20लेकिन इसका मतलब यह नहीं है कि हमें हमेशा इस पर भरोसा करना चाहिए। अगर आपको इस तरह की कोडिंग टिप्स और ट्रिक्स पसंद हैं,
00:06:24तो BetterStack चैनल को सब्सक्राइब करना न भूलें। आपसे फिर मिलेंगे किसी अगले वीडियो में।