AI सब्सक्रिप्शन कम आकर्षक होते जा रहे हैं

MMaximilian Schwarzmüller
Computing/SoftwareSmall Business/StartupsBusiness News

Transcript

00:00:00आज सुबह मैंने X पर यह पोस्ट देखी जिसमें बताया गया है कि एंथ्रोपिक ने शायद
00:00:09प्रो प्लान से क्लाउड कोड प्लग हटा दिया है, ताकि आपको अधिक महंगे सब्सक्रिप्शन प्लान की
00:00:17आवश्यकता हो ताकि आप क्लाउड कोड का उपयोग कर सकें या क्लाउड कोड में अपने सब्सक्रिप्शन का उपयोग कर सकें।
00:00:22अब, एंथ्रोपिक ने इस पर तुरंत टिप्पणी की और बताया कि यह केवल एक छोटा सा
00:00:27टेस्ट है जिसे वे केवल 2% नए प्रोसुमर साइनअप पर चला रहे हैं।
00:00:32मुझे इस तरह का टेस्ट चलाना थोड़ा अजीब लगता है और मुझे यह भी लगता है कि एंथ्रोपिक को
00:00:40यह पहले ही समझ जाना चाहिए था कि इस तरह का टेस्ट चलाने पर क्या होगा, इसका असर
00:00:47उनकी छवि पर क्या पड़ेगा और लोग क्या सोचेंगे, क्योंकि जाहिर है कि यह उस नैरेटिव (बयान)
00:00:53के अनुरूप है जिसे हम पहले ही देख रहे हैं जहाँ हमें अपने सब्सक्रिप्शन से कम उपयोग मिल रहा है, हम
00:00:59मजबूत सीमाएँ या सख्त सीमाएँ देख रहे हैं, हम घटती मॉडल क्षमता देख रहे हैं जैसा कि ऐसा लगता है कि ये
00:01:08सभी चीजें पिछले कुछ हफ्तों में हो रही थीं। मेरा मतलब है, एंथ्रोपिक ने आक्रामक रूप से
00:01:14क्लाउड कोड के बाहर अपने सब्सक्रिप्शन के उपयोग पर लगाम लगा दी। यदि आप इसका उपयोग ओपन क्लाउड के साथ करना चाहते थे
00:01:21उदाहरण के लिए, उन्होंने उस पर रोक लगा दी, इसलिए यह सब हमें एक स्पष्ट, बड़ी तस्वीर दिखाता है।
00:01:28और जो उस तस्वीर या नैरेटिव में फिट बैठता है, वह यह समाचार लेख है जिसे गिटहब ने कुछ दिन पहले प्रकाशित किया
00:01:37दिन पहले जहाँ उन्होंने स्पष्ट कर दिया कि वे गिटहब कोपायलट प्रो के लिए नए साइनअप रोक देंगे,
00:01:43प्रो प्लस और स्टूडेंट प्लान और यह कि वे व्यक्तिगत प्लान के लिए उपयोग की सीमाओं को सख्त कर रहे हैं
00:01:49और सबसे महत्वपूर्ण बात यह है कि ओपस मॉडल अब प्रो प्लान में उपलब्ध नहीं हैं और यह
00:01:56निश्चित रूप से सब कुछ समझ में आता है, लेकिन हमें यह समझने के लिए कि ऐसा क्यों हो रहा है और सबसे महत्वपूर्ण बात यह है कि भविष्य में हमारे लिए इसका क्या मतलब है,
00:02:02हमें जो हो रहा है उसके अर्थशास्त्र में थोड़ा गहराई से जाना होगा।
00:02:07इसका स्पष्ट अर्थ यह है कि असीमित उपयोग और भारी सब्सिडी के दिन खत्म हो गए हैं और इसे समझने के लिए
00:02:17हमें इन सब्सक्रिप्शन और टोकन उपयोग के अर्थशास्त्र को समझना होगा, या आप कह सकते हैं कि टोकन खपत
00:02:25क्योंकि बेशक एंथ्रोपिक, ओपनएआई, गिटहब द्वारा दी जाने वाली ये सब्सक्रिप्शन मॉडल
00:02:34तभी काम करते हैं जब अधिकांश उपयोगकर्ता वास्तव में उनके पास उपलब्ध सभी उपयोग का उपयोग नहीं कर रहे हों।
00:02:43यह लगभग किसी भी सब्सक्रिप्शन ऑफर के लिए मामला है
00:02:49सिर्फ इन एआई सब्सक्रिप्शन के लिए नहीं। यदि आपके पास नेटफ्लिक्स सब्सक्रिप्शन है और आप 24/7 नेटफ्लिक्स देखते हैं
00:02:56तो आप शायद उनके लिए बहुत अधिक लाभदायक ग्राहक नहीं होंगे, लेकिन ज्यादातर लोग
00:03:02ऐसा नहीं करते हैं और इसी तरह ये कंपनियाँ मुनाफा कमा सकती हैं। यह सभी सब्सक्रिप्शन के लिए सच है
00:03:10स्पष्ट रूप से। अब हम एआई अनुरोधों की सही कीमत या ऐसी कीमत देख सकते हैं जो सही कीमत के करीब है
00:03:19यदि हम इन कंपनियों के एपीआई मूल्य निर्धारण पृष्ठों पर एक नज़र डालें, तो उदाहरण के लिए हम देख सकते हैं
00:03:26कि एंथ्रोपिक का नवीनतम मॉडल क्लाउड ओपस 4.7 की इनपुट टोकन कीमत पाँच डॉलर प्रति
00:03:35मिलियन टोकन है और आउटपुट टोकन कीमत 25 डॉलर प्रति मिलियन टोकन है और हम इसे
00:03:42उनके पास मौजूद अन्य मॉडलों के संदर्भ में देख सकते हैं, हम निश्चित रूप से इसे ओपनएआई द्वारा दी जाने वाली पेशकशों के संदर्भ में भी देख सकते हैं
00:03:47उदाहरण के लिए। वहाँ हम देखते हैं कि जीपीडी 5.4 जिसका अधिकांश कोडेक्स उपयोगकर्ता शायद अभी उपयोग कर रहे हैं,
00:03:54की इनपुट कीमत दो डॉलर पचास सेंट प्रति मिलियन टोकन है, इसलिए ओपस 4.7 के लिए जो हमारे पास था उसका केवल आधा
00:04:03और हमारे पास आउटपुट कीमत 22.50 है, तो ओपस के लिए हमने जो देखा उससे थोड़ा कम। अब
00:04:11यह मानना शायद उचित है कि ये एपीआई कीमतें ऐसी कीमतें हैं जो इन कंपनियों को
00:04:20उनके क्रॉस मार्जिन के संबंध में ब्रेक-ईवन पॉइंट या छोटे लाभ पर छोड़ती हैं, इसलिए यदि हम विशेष रूप से
00:04:29अनुमानित लागत (इंफरेंस कॉस्ट) को देखें तो हम शायद यह मान सकते हैं कि यदि आप उनके
00:04:36एपीआई का उपयोग करते हैं तो वे लाभ कमाएंगे। अब निश्चित रूप से इसके लिए यह समझना महत्वपूर्ण है कि एआई मॉडल चलाने की लागत
00:04:43अंत में दो मुख्य कारकों पर निर्भर करती है, यह एआई मॉडल का प्रशिक्षण है जिसमें पैसा खर्च होता है और
00:04:53बेशक यह इंफरेंस है, तो हमारे पास ये दो कारक यहाँ हैं जो इन
00:04:59एआई कंपनियों के लिए काम में आते हैं। अब निश्चित रूप से प्रशिक्षण लागत एक बार की चीज है, ठीक है, तो आप एक मॉडल को एक बार प्रशिक्षित करते हैं
00:05:06और वह बहुत महंगा है लेकिन जाहिर है यह एक बार की चीज है, बेशक ये कंपनियाँ फिर
00:05:12अधिक से अधिक मॉडल प्रशिक्षित करती हैं और प्रत्येक मॉडल के लिए यह एक नई एक बार की लागत है, लेकिन एक बार जब एक मॉडल प्रशिक्षित हो जाता है
00:05:18तो यह और प्रशिक्षण लागत नहीं लेता है, शायद आगे के फाइन-ट्यूनिंग रन या उस बेस मॉडल से निकले मॉडलों को छोड़कर
00:05:25लेकिन हाँ, लागत का बड़ा हिस्सा केवल एक बार होता है। अब इंफरेंस के लिए
00:05:33स्वाभाविक रूप से यह अलग है, यह एक चालू लागत है, यह अंत में प्रति अनुरोध है क्योंकि
00:05:41इंफरेंस आपके प्रॉम्प्ट के लिए, आपके उस कार्य के लिए ठोस आउटपुट तैयार करने की प्रक्रिया है जिसे आप भेजते हैं
00:05:48एक मॉडल प्रदाता को और इंफरेंस निश्चित रूप से वह है जो हर समय हो रहा है जब आप उपयोग कर रहे हैं
00:05:53क्लाउड कोड जब आप कोडेक्स का उपयोग कर रहे हैं लेकिन निश्चित रूप से तब भी जब आप चैटजीपीटी या किसी अन्य तरीके से
00:05:58प्रॉम्प्ट भेजते हैं। अब यह निश्चित रूप से वह जगह है जहाँ आप अपनी एपीआई मूल्य निर्धारण के साथ कम से कम ब्रेक-ईवन करना चाहते हैं
00:06:07क्योंकि अन्यथा इसका मतलब है कि आप प्राप्त होने वाले हर अनुरोध पर पैसे खो देते हैं और जबकि आप
00:06:13निश्चित रूप से अपनी बाजार हिस्सेदारी बढ़ाने के लिए ऐसा कर रहे हो सकते हैं और हालाँकि मैं इस बात से इनकार नहीं करूँगा कि कंपनियाँ
00:06:19कभी-कभी ऐसा कर रही हैं, लंबे समय तक ऐसा करना निश्चित रूप से व्यवहार्य नहीं होगा क्योंकि आप व्यवसाय से बाहर हो जाएंगे।
00:06:25अब स्वाभाविक रूप से आपको किसी बिंदु पर अपनी प्रशिक्षण लागत भी अर्जित करने की आवश्यकता है, इसलिए आदर्श रूप से
00:06:34आपके उपयोगकर्ता आपको जो अनुरोध भेज रहे हैं, वे आपकी इंफरेंस लागत पर आपको पर्याप्त सकल मार्जिन देते हैं
00:06:41ताकि वह मार्जिन आपकी प्रशिक्षण लागत, आपकी स्टाफ लागत आदि को भी कवर कर सके। तो निश्चित रूप से
00:06:48यह वह अर्थशास्त्र है कि आप इन एआई मॉडलों को कैसे चला सकते हैं और उपयोग कर सकते हैं। अब जैसा कि उल्लेख किया गया है,
00:06:57एपीआई मूल्य निर्धारण शायद वह हिस्सा है जहाँ ये कंपनियाँ भारी मात्रा में पैसा नहीं खो रही हैं
00:07:02लेकिन निश्चित रूप से एक उपभोक्ता के रूप में, एक ग्राहक के रूप में आप ऐसा करते हैं, यदि आप इन
00:07:10ओपस की ऑन-डिमांड कीमतों के साथ क्लाउड कोड को पावर देना चाहते हैं, तो आप उनकी सब्सक्रिप्शन का उपयोग करने की तुलना में बहुत अधिक भुगतान कर रहे होंगे
00:07:18क्योंकि निश्चित रूप से मैक्स सब्सक्रिप्शन के साथ, उदाहरण के लिए केवल 200 डॉलर में आप प्राप्त कर रहे हैं
00:07:26इस प्लान से बहुत सारा उपयोग, आपको इस प्लान से लाखों टोकन मिलेंगे और यदि आप
00:07:34इस पर एक नज़र डालें कि आउटपुट टोकन सामान्य रूप से आपको प्रति मिलियन टोकन कितने में पड़ेंगे, तो आप देख सकते हैं कि
00:07:39सामान्य रूप से यदि आप इनपुट टोकन को अनदेखा करते हैं जिसे आपको नहीं करना चाहिए, लेकिन यदि आप उन्हें इन
00:07:44दो सौ डॉलर के लिए अनदेखा करते हैं, तो हमें 10 मिलियन आउटपुट टोकन भी नहीं मिलने चाहिए क्योंकि एक मिलियन
00:07:51की लागत हमें 25 डॉलर है, इसलिए हमें केवल आठ मिलियन आउटपुट टोकन मिलने चाहिए और फिर यदि आप इनपुट टोकन पर विचार करते हैं
00:07:56तो यह उससे कम होगा और स्पष्ट रूप से यदि आपके पास कोई लंबे समय तक चलने वाले सत्र थे, यदि आप उपयोग कर रहे हैं
00:08:02उदाहरण के लिए एक सप्ताह के लिए क्लाउड कोड और आप अपने टोकन उपयोग को ट्रैक करते हैं, तो आप देखेंगे कि आप
00:08:08उस सीमा से ऊपर जा सकते हैं और आप निश्चित रूप से अतीत में जा सकते थे और इससे यह स्पष्ट हो जाता है कि क्यों
00:08:14कंपनियाँ यह सीमित करने की कोशिश कर रही हैं कि आप अपने सब्सक्रिप्शन से कितना उपयोग प्राप्त कर सकते हैं
00:08:19और मुझे क्यों लगता है कि हम भविष्य में निश्चित रूप से उच्च सब्सक्रिप्शन कीमतें देखेंगे, शायद निकट भविष्य में
00:08:25अब निश्चित रूप से इन कंपनियों के लिए अपनी कीमतें बढ़ाना बहुत आसान नहीं है
00:08:30क्योंकि बाजार हिस्सेदारी, स्पष्ट रूप से ये सभी कंपनियाँ आक्रामक रूप से बाजार हिस्सेदारी हासिल करना चाहती हैं
00:08:37इसका तर्क यह है कि यदि आप मुख्य कंपनी हैं जो कोडिंग एजेंट प्रदाता के रूप में स्थापित है
00:08:45कई उद्यमों में, कई कंपनियों में, तो वे शायद भविष्य में उच्च सब्सक्रिप्शन कीमतों का भुगतान करेंगे
00:08:51इसलिए आप अपनी कीमतें बहुत जल्दी बढ़ाना नहीं चाहते हैं क्योंकि इससे आपके कुछ ग्राहक प्रतिस्पर्धा की ओर जा सकते हैं
00:08:57जो आप निश्चित रूप से नहीं चाहते हैं, दूसरी तरफ
00:09:02आप दिवालिया नहीं होना चाहते हैं, मेरा मतलब है, उदाहरण के लिए ओपन एआई ने हाल ही में 122 बिलियन डॉलर जुटाए
00:09:09एआई के अगले चरण में तेजी लाने के लिए और आप पढ़ सकते हैं कि यह उन्हें केवल
00:09:17लगभग 18 महीने का रनवे देगा, इसलिए 18 महीने जब तक उन्हें दोबारा पूंजी जुटाने की आवश्यकता हो, तो स्पष्ट रूप से आप
00:09:26हमेशा के लिए उस सभी उपयोग को सब्सिडी देना जारी नहीं रख सकते हैं क्योंकि यदि आप व्यवसाय से बाहर हो जाते हैं, तो आपके सभी ग्राहक
00:09:32वैसे भी आपकी प्रतिस्पर्धा में जाने वाले हैं, इसलिए यहाँ एक ट्रेड-ऑफ है और निश्चित रूप से यह वही है
00:09:39कठिन स्थिति जिसका सामना ये कंपनियाँ अभी कर रही हैं, यही यहाँ अर्थशास्त्र है। अब निश्चित रूप से जैसा कि आपने
00:09:44शायद पढ़ा होगा और महसूस भी किया होगा, यदि आप एक गेमर हैं, उदाहरण के लिए, हम उस समय में हैं जहाँ
00:09:52सभी एआई चीजों के कारण जो हो रही हैं, हम एक बड़ी कंप्यूट कमी और संकट और उच्च कीमतों का सामना कर रहे हैं
00:10:01मेमोरी और उन सभी चीजों के लिए जो इन एआई मॉडलों और इन एआई डेटा सेंटरों को चाहिए, इसलिए
00:10:08मेमोरी महंगी है क्योंकि इंफरेंस के लिए बहुत अधिक मेमोरी की आवश्यकता होती है, यदि आपने मॉडल चलाने की कोशिश की है
00:10:13स्थानीय रूप से अपने सिस्टम पर, तो आप जानते हैं कि आपको इसके लिए बहुत अधिक मेमोरी चाहिए, इसलिए मेमोरी की कीमतें बढ़ गईं
00:10:19लेकिन यह सिर्फ मेमोरी नहीं है, यह नेटवर्किंग गियर भी है क्योंकि निश्चित रूप से आप प्रशिक्षण दोनों चला रहे हैं
00:10:25और इंफरेंस एक सिंगल चिप पर नहीं, बल्कि बड़ी रैक और चिप्स के क्लस्टर पर और इन सभी
00:10:31क्लस्टरों को क्लस्टरों के बीच, चिप्स के बीच कनेक्शन की आवश्यकता होती है ताकि आप सुपर
00:10:36जीपीयू बना सकें, और यह नेटवर्किंग गियर बहुत अधिक मांग में है और इसलिए महंगा है और फिर निश्चित रूप से
00:10:43हमारे पास ऊर्जा और डेटा सेंटर भी हैं, हमें दोनों की आवश्यकता है, हमें उन चिप्स को रखने के लिए डेटा सेंटर चाहिए और इसीलिए
00:10:52वहाँ बहुत अधिक निर्माण हो रहा है, लेकिन फिर इन डेटा सेंटरों को ऊर्जा की आवश्यकता होती है, है ना, और आपने
00:10:58उसके बारे में भी सुना है, ऊर्जा एक और बड़ी समस्या है, आप इसे ग्रिड से प्राप्त नहीं कर सकते हैं, यह बस
00:11:05इसके लिए नहीं बना है, वहाँ पर्याप्त ऊर्जा उपलब्ध नहीं है, यही कारण है कि ये सभी नए डेटा सेंटर
00:11:12ऑफ-ग्रिड समाधानों की ओर बढ़ रहे हैं, जहाँ ऊर्जा का उत्पादन गैस टर्बाइनों के साथ डेटा सेंटर के बगल में होता है
00:11:21या परमाणु ऊर्जा, लेकिन इसमें निश्चित रूप से समय लगता है और इसमें घटक भी लगते हैं और कंपनियों की कोई
00:11:28अंतहीन मात्रा नहीं है जो इन पावर प्लांटों का निर्माण कर सकती है, घटकों की कोई अंतहीन मात्रा नहीं है
00:11:35जो इन पावर प्लांटों के निर्माण के लिए आवश्यक हैं, इसलिए वह सब कंप्यूट की मात्रा को सीमित कर रहा है
00:11:42जो ऑनलाइन जा सकती है, जो बदले में इंफरेंस के लिए और निश्चित रूप से प्रशिक्षण के लिए भी गायब है।
00:11:48अब ऐतिहासिक रूप से और इसका मतलब है केवल एक या दो साल पहले, इन कंपनियों के लिए प्रोत्साहन
00:11:54कंप्यूट संसाधनों का एक बड़ा हिस्सा प्रशिक्षण के प्रति समर्पित करना था क्योंकि इससे आपको
00:12:00बेहतर मॉडल मिलते हैं जो आपको आगे रहने या एआई दौड़ में आगे निकलने देते हैं और वह प्रोत्साहन अभी भी मौजूद है लेकिन
00:12:07बेशक आजकल इंफरेंस वाले हिस्से पर भी बड़ा प्रोत्साहन और उच्च महत्व है
00:12:14क्योंकि यह इंफरेंस वाला हिस्सा है जो आपको ग्राहक देता है, जो आपको बाजार में दृश्यता देता है
00:12:19क्योंकि अगर कोई आपके मॉडल का उपयोग नहीं कर सकता है, तो यह बहुत अच्छा है कि आपके पास अच्छे मॉडल हैं, लेकिन आप
00:12:25कोई बाजार हिस्सेदारी हासिल नहीं कर रहे हैं, इसलिए आपको इंफरेंस की आवश्यकता है जो बहुत अधिक महत्वपूर्ण हो गया है, इसलिए कंपनियों को
00:12:30दुर्लभ कंप्यूट संसाधनों और डेटा सेंटर क्षमताओं को इन दो सिरों के बीच विभाजित करना होगा और
00:12:38निश्चित रूप से विशेष रूप से इस साल की शुरुआत से हम ग्राहकों के बदले हुए उपयोग व्यवहार को भी देख रहे हैं
00:12:45गिटहब का समाचार लेख यहाँ वास्तव में इसके बारे में काफी खुला है, एजेंटिक वर्कफ़्लो ने
00:12:51को-पायलट की कंप्यूट माँगों को मौलिक रूप से बदल दिया है। लंबे समय तक चलने वाले समानांतर सत्र अब नियमित रूप से
00:12:57मूल योजना संरचना के समर्थन की तुलना में कहीं अधिक संसाधनों का उपभोग करते हैं और यह निश्चित रूप से वैसा ही है
00:13:04एंथ्रोपिक और ओपन एआई के लिए, अतीत में और फिर से इसका मतलब केवल एक साल पहले या उससे कुछ अधिक है
00:13:10इन कंपनियों ने मुख्य रूप से नहीं, बल्कि एक बड़ी हद तक वास्तव में केवल कभी-कभार चैट सत्रों पर ध्यान केंद्रित किया
00:13:20एक उपयोगकर्ता, एक ग्राहक कभी-कभार आएगा और चैटजीपीटी या क्लाउड से कोई प्रश्न पूछेगा और निश्चित रूप से वह
00:13:27दिन में कई बार हो सकता था, लेकिन यह सिर्फ कुछ सवाल थे, बस कुछ उत्तर थे
00:13:33कुछ फॉलो-अप प्रश्न, निश्चित रूप से उन सभी लंबे समय तक चलने वाले एजेंटिक
00:13:39वर्कफ़्लो और कोडिंग सत्रों से बहुत कम टोकन, उन कोडिंग सत्रों या एजेंटिक वर्कफ़्लो में जो आप
00:13:44चला रहे हैं, आप लाखों टोकन के माध्यम से सैकड़ों हजारों और लाखों को जल्दी, बहुत जल्दी जला रहे हैं, दूर
00:13:51उससे कहीं अधिक जल्दी जो आप केवल अपने कभी-कभार चैट सत्र के साथ कर सकते थे। अब इस तथ्य को देखते हुए कि ये सभी
00:13:58आधुनिक मॉडल जिनसे हम निपट रहे हैं, वे सोचने वाले मॉडल हैं, आमतौर पर टोकन की मात्रा भी अधिक हो गई
00:14:05एक या दो साल पहले की तुलना में, क्योंकि एक प्रतिक्रिया केवल उस कारण से अधिक टोकन लेती है
00:14:12वह सोच प्रक्रिया, जो निश्चित रूप से अभी भी टोकन हैं, भले ही आप उन्हें अंतिम प्रतिक्रिया में न देखें
00:14:17शायद, इसलिए खपत किए गए टोकन की मात्रा अब एक या दो साल पहले की तुलना में बहुत बड़ी हो गई है
00:14:24फिर से हमें इस बिंदु पर लाते हैं कि इंफरेंस अधिक महत्वपूर्ण हो रहा है क्योंकि आपको बहुत अधिक
00:14:29इंफरेंस की आवश्यकता है ताकि उस सभी टोकन पीढ़ी को संभाला जा सके जो चल रही है और यही कारण है कि ये सभी
00:14:37नए मॉडल एपीआई के माध्यम से उपयोग किए जाने पर काफी महंगे हैं, लेकिन इससे भी महत्वपूर्ण बात यह है कि क्यों
00:14:43ये सब्सक्रिप्शन अभी इन कंपनियों के लिए बहुत कठिन हैं, उन्होंने उन
00:14:49सब्सक्रिप्शन को अतीत में पेश किया जब बहुत कम टोकन का उपभोग किया जा रहा था और अब वे एक ऐसे बिंदु पर हैं
00:14:56जहाँ उसी सब्सक्रिप्शन मूल्य के लिए लोग अब बहुत अधिक टोकन का उपयोग कर रहे हैं, यही कठिनाई है
00:15:03अब विशेष रूप से एंथ्रोपिक के लिए, उदाहरण के लिए मैं कल्पना कर सकता हूँ कि वे दर्द को थोड़ा और महसूस कर रहे हैं
00:15:09ओपन एआई की तुलना में, न केवल इसलिए कि उनके मॉडल चलाने में अधिक महंगे लगते हैं यदि आप केवल
00:15:16एपीआई मूल्य निर्धारण पर एक नज़र डालें, बल्कि इसलिए भी कि निश्चित रूप से ऐतिहासिक रूप से एक साल पहले भी, एंथ्रोपिक
00:15:22के पास अधिक उद्यम और व्यावसायिक ग्राहक थे जो उनके लिए कुछ हद तक अच्छा है, यह एक स्थिर
00:15:29राजस्व आधार है और चैट जीपीटी या ओपन एआई अधिक उपभोक्ता-आधारित रहा है, उनके पास अधिक सामान्य लोग, सामान्य
00:15:38उपभोक्ता ग्राहकों के रूप में थे और अब वे भी व्यवसाय की ओर अधिक बढ़ रहे हैं, लेकिन ऐतिहासिक रूप से क्योंकि उनके पास
00:15:43चैट जीपीटी का क्षण था, उनके पास ग्राहकों के रूप में अधिक सामान्य लोग थे, एंथ्रोपिक के लिए अब नुकसान
00:15:50निश्चित रूप से यह है कि ये व्यावसायिक ग्राहक वही ग्राहक हैं जो इन एजेंटिक
00:15:55वर्कफ़्लो को चला रहे हैं या जो इन एजेंटिक वर्कफ़्लो को चलाने की प्रवृत्ति रखते हैं, मेरा मतलब है, आपकी माँ और पिताजी यदि वे
00:16:00चैट जीपीटी के लिए भुगतान कर रहे हैं, जो वे शायद नहीं करते हैं, वे एजेंटिक वर्कफ़्लो नहीं चला रहे हैं
00:16:06लेकिन आप हैं, आपकी कंपनी है और यह निश्चित रूप से सब्सक्रिप्शन को और अधिक कठिन बनाता है
00:16:11एंथ्रोपिक के लिए मुझे लगता है कि ओपन एआई की तुलना में, जहाँ सब्सक्रिप्शन में अभी भी बहुत सारे 'सामान्य' लोग हैं
00:16:18मुझे अनुमान है कि वे भी निश्चित रूप से दर्द महसूस कर रहे हैं और इसका सब का मतलब क्या है, अब इन
00:16:24परिवर्तनों का क्या अर्थ है या इस एक्सपोस्ट (X-post) जैसे परिवर्तनों का जहाँ एंथ्रोपिक क्लाउड कोड को खींचने के लिए परीक्षण चला रहा है
00:16:32सस्ते प्लान से, इसका हमारे लिए क्या मतलब है, मुझे लगता है कि यह काफी स्पष्ट है, हम भविष्य में और भी
00:16:38सख्त सीमाएँ देखेंगे और इसलिए हम निश्चित रूप से उस बिंदु पर पहुँच सकते हैं जहाँ सब्सक्रिप्शन
00:16:42अब ऐसा महसूस नहीं होता कि वे इसके लायक हैं और मुझे लगता है कि वह बिंदु होगा जहाँ हम
00:16:48उच्च कीमतें देखेंगे, यह मानना अनुचित नहीं है कि ये कोडिंग सब्सक्रिप्शन या सामान्य रूप से
00:16:55ये एजेंटिक उपयोग सब्सक्रिप्शन किसी बिंदु पर कई हजार डॉलर प्रति माह की लागत करेंगे, इस साल नहीं
00:17:03संभवतः, लेकिन किसी बिंदु पर क्योंकि निश्चित रूप से कंपनियाँ लागत की तुलना शुरू कर सकती हैं
00:17:10इन सब्सक्रिप्शन की कर्मचारियों की लागत के खिलाफ, हाँ और यह निश्चित रूप से अच्छी खबर नहीं है और यह
00:17:17पूरी तरह से गलत हो सकता है, लेकिन यह निश्चित रूप से वही है जो मुझे लगता है कि होगा और निश्चित रूप से जब आप
00:17:23वह तुलना करते हैं, तो इन सब्सक्रिप्शन के और भी अधिक महंगे होने की बहुत गुंजाइश है
00:17:30स्पष्ट रूप से, सब्सक्रिप्शन फिर सामान्य लोगों के लिए नहीं होंगे, इसलिए मुझे लगता है कि हम
00:17:35उनके लिए नए सब्सक्रिप्शन ऑफर भी देखेंगे जिनमें बस बहुत सख्त उपयोग सीमाएँ होंगी जो
00:17:41जेटजीपीटी के लिए पर्याप्त हैं लेकिन एजेंटिक वर्कफ़्लो के लिए पर्याप्त नहीं हैं, लेकिन पेशेवर उपयोग के लिए, एजेंटिक
00:17:47वर्कफ़्लो के लिए हम सख्त सीमाएँ और उच्च कीमतें देखेंगे, मुझे नहीं पता कि कब क्योंकि आप जानते हैं, बाजार
00:17:52हिस्सेदारी, तो वही जो मैंने पहले उल्लेख किया था, लेकिन अंततः हम वह देखेंगे क्योंकि अंततः
00:17:58जैसा कि उल्लेख किया गया है, ओपन एआई के पास लगभग 18 महीने का रनवे है, वे शायद व्यवसाय में बने रहना चाहते हैं
00:18:03एंथ्रोपिक के लिए भी ऐसा ही है और इसलिए यही वह है जो मुझे लगता है कि हम यहाँ एक साल या उससे अधिक में देखेंगे, मुझे नहीं पता।

Key Takeaway

सीमित टोकन उपयोग और भारी सब्सिडी पर आधारित एआई सब्सक्रिप्शन मॉडल अब एजेंटिक वर्कफ़्लो की उच्च कंप्यूट मांग के कारण टिकाऊ नहीं रहे, जिससे भविष्य में सख्त उपयोग सीमाएं और उच्च कीमतें अपरिहार्य हैं।

Highlights

एंथ्रोपिक ने प्रो-प्लान यूजर्स के लिए क्लाउड कोड के एक्सेस को सीमित करने का परीक्षण शुरू किया है, जो केवल 2% नए सब्सक्राइबर्स को प्रभावित कर रहा है।

गिटहब ने कोपायलट प्रो प्लस और स्टूडेंट प्लान के नए साइनअप पर रोक लगा दी है और व्यक्तिगत प्लान के लिए उपयोग की सीमाएं सख्त कर दी हैं।

क्लाउड ओपस 3.5 के लिए एपीआई इनपुट कीमत 5 डॉलर प्रति मिलियन टोकन और आउटपुट कीमत 25 डॉलर प्रति मिलियन टोकन निर्धारित है।

एजेंटिक वर्कफ़्लो पारंपरिक चैट-आधारित उपयोग की तुलना में कहीं अधिक टोकन खपत करते हैं, जिससे सब्सक्रिप्शन मॉडल का अर्थशास्त्र प्रतिकूल हो गया है।

ओपनएआई के पास 122 बिलियन डॉलर की फंडिंग के बावजूद, वर्तमान बर्न रेट के अनुसार केवल 18 महीने का परिचालन रनवे शेष है।

Timeline

सब्सक्रिप्शन सीमाओं की बढ़ती प्रवृत्ति

  • एंथ्रोपिक और गिटहब जैसे प्रदाता सब्सक्रिप्शन प्लान में सख्त उपयोग सीमाएं लागू कर रहे हैं।
  • एआई सब्सक्रिप्शन की क्षमताएं और एक्सेस कम किए जा रहे हैं।

एंथ्रोपिक और गिटहब ने अपने सब्सक्रिप्शन प्लान्स में उपयोग की सीमाओं को कड़ा कर दिया है, जिसमें एंथ्रोपिक का 'क्लाउड कोड' परीक्षण और गिटहब द्वारा कोपायलट प्रो के साइनअप पर रोक शामिल है। यह बदलाव एक व्यापक नैरेटिव को दर्शाता है जहाँ असीमित उपयोग वाले सब्सक्रिप्शन मॉडल अब कंपनियों के लिए लाभहीन हो रहे हैं।

सब्सक्रिप्शन मॉडल का अर्थशास्त्र

  • सब्सक्रिप्शन मॉडल तभी लाभदायक होते हैं जब औसत उपयोगकर्ता अपनी उपलब्ध सीमा का पूरा उपयोग न करे।
  • एआई मॉडल चलाने की लागत प्रशिक्षण (एक बार की लागत) और इंफरेंस (चालू लागत) पर निर्भर करती है।
  • एपीआई मूल्य निर्धारण एआई कंपनियों के लिए ब्रेक-ईवन पॉइंट के करीब है।

एआई सब्सक्रिप्शन का अर्थशास्त्र नेटफ्लिक्स जैसे अन्य सब्सक्रिप्शन मॉडल्स की तरह है, जो कम उपयोग करने वाले ग्राहकों पर निर्भर है। क्लाउड ओपस और जीपीटी-4 जैसे मॉडलों की एपीआई कीमतें यह सुनिश्चित करती हैं कि कंपनियां इंफरेंस लागत पर कम से कम लाभ कमाएं। असीमित उपयोग के दिनों का अंत हो रहा है क्योंकि कंपनियां अब अपनी प्रशिक्षण लागतों को भी कवर करने का प्रयास कर रही हैं।

कंप्यूट संकट और एजेंटिक वर्कफ़्लो

  • मेमोरी, नेटवर्किंग गियर और ऊर्जा की कमी इंफरेंस क्षमता को सीमित कर रही है।
  • एजेंटिक वर्कफ़्लो पारंपरिक चैट सत्रों की तुलना में बहुत अधिक टोकन खपत करते हैं।

डेटा सेंटरों के लिए उच्च-शक्ति वाले चिप्स, नेटवर्किंग गियर और ऊर्जा की कमी एक कंप्यूट संकट पैदा कर रही है, जिससे इंफरेंस और प्रशिक्षण दोनों प्रभावित हैं। एजेंटिक वर्कफ़्लो, जो लंबे समय तक चलने वाले और समानांतर होते हैं, लाखों टोकन तेजी से जलाते हैं, जिससे सब्सक्रिप्शन मॉडल का मूल गणित असंतुलित हो गया है।

भविष्य का परिदृश्य और कीमतें

  • व्यावसायिक ग्राहक, जो एजेंटिक वर्कफ़्लो का उपयोग करते हैं, एआई कंपनियों के लिए सबसे महंगे उपयोगकर्ता हैं।
  • भविष्य में सब्सक्रिप्शन की कीमतें कई हजार डॉलर प्रति माह तक बढ़ सकती हैं।

एंथ्रोपिक जैसे प्रदाता, जिनके पास व्यावसायिक ग्राहकों का बड़ा आधार है, को अधिक वित्तीय दबाव का सामना करना पड़ रहा है। भविष्य में हम सख्त उपयोग सीमाएं और सामान्य उपभोक्ताओं के लिए अलग और पेशेवरों के लिए उच्च-मूल्य वाले सब्सक्रिप्शन मॉडल देखेंगे। कंपनियां अपने अस्तित्व को सुनिश्चित करने के लिए बाजार हिस्सेदारी के बजाय लाभप्रदता को प्राथमिकता देंगी।

Community Posts

View all posts