वेट-स्पेस प्रोग्रामिंग: LLM के लिए तीसरा लीवर
ग्रेडिएंट डिसेंट कभी पवित्र नहीं था। वह एक अस्थायी ढाँचा (scaffolding) था — अरबों ऐसी संख्याओं को आकार देने का एकमात्र सामान्य-उद्देश्य तरीका, जिन्हें कोई...
कृत्रिम बुद्धिमत्ता, डीप लर्निंग, LLMs और मशीन लर्निंग इंजीनियरिंग की नवीनतम जानकारी पाएँ।
26 लेखग्रेडिएंट डिसेंट कभी पवित्र नहीं था। वह एक अस्थायी ढाँचा (scaffolding) था — अरबों ऐसी संख्याओं को आकार देने का एकमात्र सामान्य-उद्देश्य तरीका, जिन्हें कोई...
एजेंट ने एक भी लाइन कोड लिखने से पहले ग्यारह मिनट एक माइग्रेशन गाइड पढ़ने में बिताए। आपका एजेंट नहीं, बल्कि वह जिसे पिछले हफ़्ते किसी सहकर्मी ने SvelteKit...
शुक्रवार रात के 11 बजे हैं। आप थके हुए हैं, YouTube खोलते हैं, और होमपेज पर चीखते थंबनेल, हैरान चेहरों की भीड़ और वही तीन विषय दिखते हैं जिन्हें उसने 2019 में...
पिछले ढाई-तीन सालों में लिखे ब्लॉग पोस्ट दस मिनट पढ़िए, और आपको एक अजीब सी बात महसूस होगी: लगेगा कि सब कुछ एक ही, थोड़े ज़्यादा जोश वाले इंटर्न ने लिखा है। यही...
जब Mistral ने Mistral Large 4 के weights जारी किए, लगभग 1 ट्रिलियन पैरामीटर वाला मॉडल जिसमें लगभग 52 बिलियन active parameters हैं, तो मेरे इनबॉक्स में एक ही...
Stack Overflow पर अब हर महीने 1,000 से कम नए सवाल आते हैं — 2008 में अपने दूसरे महीने में इससे ज़्यादा सवाल आते थे। अगर पिछले पंद्रह सालों में आपने कभी...
नौ घंटे से बिजली नहीं है, सेल नेटवर्क पर भारी दबाव है, और गैराज के फ़्रीज़र में शनिवार को खरीदा गया मांस रखा है। क्या अब भी उसे खाना सुरक्षित है? आम दिनों में...
जब Genie 4 के डेमो सामने आए, तो मेरी पहली प्रतिक्रिया वही थी जो Sora के बाद से रहती है: यह एक बहुत अच्छा वीडियो जनरेटर है, तो हम इसे वर्ल्ड मॉडल क्यों कह रहे...
दूसरी और तीसरी कॉफ़ी के बीच में कहीं, हाल ही में कई कम्प्लेक्सिटी थ्योरिस्ट्स ने एक ऐसा वाक्य पढ़ा जिसकी उन्हें उम्मीद नहीं थी: एक डिटरमिनिस्टिक एल्गोरिदम जो...
पिछले साल एक टीम लंच में मैंने एक राय बहुत बुरी तरह डिफेंड की थी, और तब से अब तक मुझे उस पर और भी पक्का यकीन हो गया है: अगर आपका रीज़निंग मॉडल के बारे में...
एक डर्मेटोलॉजिस्ट ने हाल ही में 200 बायोप्सी-कन्फर्म्ड स्किन लीजन दो फ्रंटियर LLM और Google के एक दशक पुराने convolutional network Inception v3 की...
मैंने दो साल क्लासिक स्टैक पर वॉइस असिस्टेंट बनाने में लगाए: स्पीच-टू-टेक्स्ट इनपुट, बीच में लैंग्वेज मॉडल, और टेक्स्ट-टू-स्पीच आउटपुट। हर लेटेंसी...
जब DeepSeek ने अपना प्रोडक्शन LLM इनफरेंस इंजन Apache 2.0 लाइसेंस के तहत GitHub पर डाला, तो रेपो कुछ ही घंटों में हज़ारों स्टार पर पहुँच गया। इसमें हैरानी की...
पाँच साल पहले अगर कोई यह दावा करता, तो किसी भी फ़ोरकास्टिंग टीम में उसकी हँसी उड़ जाती: ज़्यादातर टाइम-सीरीज़ समस्याओं के लिए अपने डेटा पर मॉडल ट्रेन करना अब...
LLM एजेंट के बारे में एक असहज सच्चाई यह है: वे जो ज़्यादातर टोकन बनाते हैं, वह महंगा फ़िलर होता है। गणित का सवाल हल करने वाला reasoning एजेंट बड़े आराम से “मैं...
यहाँ एक ऐसी स्थिति है जो अब आम होती जा रही है: आपका कोडिंग एजेंट चार फ़ाइलों में 600 लाइनें लिखता है, टेस्ट पास हो जाते हैं, लिंटर भी खुश है, और आप merge कर...
यहाँ एक दावा है जो लीडरबोर्ड पर बहस करने वाले कई लोगों को चुभेगा: ज़्यादातर प्रोडक्शन LLM वर्कलोड के लिए “सबसे स्मार्ट” मॉडल ही गलत मॉडल है, और मिड-टियर...
मेरी एक दोस्त एक मझोली logistics कंपनी में operations संभालती है। पिछले बसंत में उसकी टीम ने तीन हफ़्ते लगाकर यह जाँचा कि क्या कोई LLM उनका exception-handling...
सालों तक मैकेनिस्टिक इंटरप्रेटेबिलिटी में एक निराशाजनक धारणा चलती रही: न्यूरल नेटवर्क उलझी हुई गांठें हैं, और उन्हें समझने से पहले आपको किसी दूसरे मॉडल को...
मॉडल तो आसान हिस्सा है। कम से कम दावा तो यही है — और पिछले कुछ सालों में डज़नों agentic coding CLI को आते, फोर्क होते और लड़खड़ाते देखने के बाद मुझे लगता है कि...
दुनिया में लगभग 7,000 भाषाएँ बोली जाती हैं। Google Translate उनमें से लगभग 130 को सपोर्ट करता है। ज़्यादातर कमर्शियल MT सिस्टम 30 से कम भाषाओं को ठीक से हैंडल...
ट्रांसफ़ॉर्मर अब ज़्यादा देर तक अकेले खिलाड़ी नहीं रहेंगे। यह दावा थोड़ा बड़ा लगता है, मानता हूँ। हम सालों से देख रहे हैं कि language models से लेकर protein...
मुझे इसका एहसास Copilot को नियमित रूप से इस्तेमाल करने के करीब छह महीने बाद हुआ। मैं एक Python स्क्रिप्ट डीबग कर रहा था और एरर मैसेज पढ़ने से पहले ही AI...
AI समुदाय multi-agent systems बना रहा है — LLM की ऐसी टीमें जो काम बाँटती हैं, आपस में संवाद करती हैं और मिलकर उन समस्याओं को सुलझाती हैं जिन्हें कोई एक model...
Transformer आर्किटेक्चर अब आठ साल से AI को चला रहा है। हर बड़ा language model, ज़्यादातर image generation सिस्टम, और बढ़ती संख्या में audio और video models उस...
पिछले साल मैंने एक लोकल इन्फरेंस रिग बनाने में $4,200 खर्च किए, जो 70B पैरामीटर वाला मॉडल ठीक-ठाक स्पीड पर चला सके। एक सहकर्मी ने मेरा सेटअप देखकर वही सीधा...