AI इंजीनियरिंग - एजेंट, MCP सर्वर और ड्यूरेबल AI वर्कफ़्लो
मॉडल के चारों ओर का वह प्लेटफ़ॉर्म जो AI फ़ीचर को डेमो से प्रोडक्शन तक ले जाता है: ऐसे एजेंट जो योजना बनाते हैं, काम करते हैं और जाँचते हैं, और किसी व्यवसाय के अपने सिस्टम पर MCP सर्वर। इनके चारों ओर हैं मॉडल प्रोवाइडरों के बीच रूटिंग, लंबे कामों के लिए ड्यूरेबल वर्कफ़्लो, हर क्लाइंट तक सीमित मेमोरी, और ऐसे गार्डरेल जो हर लिखने वाले काम पर एक इंसान को बनाए रखते हैं। इस साइट के पीछे चल रहा MCP सर्वर इसका जीता-जागता उदाहरण है, और यही इंजीनियरिंग एक हज़ार से ज़्यादा टेनेंट वाले एक एजेंट-फ़र्स्ट AI वर्कफ़्लो प्लेटफ़ॉर्म पर चली। यह सब अपने इन्फ्रास्ट्रक्चर पर चलता है, इसलिए कुछ भी बाहर नहीं जाता।
Md Moniruzzaman
पूरी कहानी
एक AI फ़ीचर प्रोडक्शन सिस्टम कैसे बनता है, और इससे आपके व्यवसाय के लिए क्या-क्या संभव होता है।
डेमो चलता है। फिर उसका सामना आपके व्यवसाय से होता है।
ज़्यादातर AI फ़ीचर डेमो और प्रोडक्ट के बीच दम तोड़ देते हैं। प्रोटोटाइप चैट विंडो में शानदार जवाब देता है, फिर उसका सामना असली व्यवसाय से होता है: वह ग्राहक का ऑर्डर नहीं देख पाता, टिकट नहीं खोल पाता, ऐसी पॉलिसी गढ़ लेता है जो है ही नहीं, उसका शुरू किया लंबा काम बीच में ही दम तोड़ देता है, और किसी दोपहर मॉडल प्रोवाइडर का आउटेज आपका आउटेज बन जाता है। टीमें महीनों प्रॉम्प्ट पर लगी रहती हैं और असली समस्या तक पहुँचती ही नहीं, क्योंकि समस्या कभी प्रॉम्प्ट थी ही नहीं।
यही वह स्टैक है जिससे स्टूडियो संस्थापकों और प्रोडक्ट टीमों के AI फ़ीचर प्रोडक्शन तक ले जाता है: ऐसे एजेंट जो प्लान करते हैं, काम करते हैं और जाँचते हैं; MCP सर्वर जो असिस्टेंट को किसी व्यवसाय के अपने सिस्टम तक सुरक्षित, टाइप्ड पहुँच देते हैं; मॉडल प्रोवाइडरों के बीच रूटिंग; उन कामों के लिए टिकाऊ वर्कफ़्लो जो खोने नहीं चाहिए; और गार्डरेल, जिनमें एक इंसान शामिल रहता है। असली ताक़त मॉडल के इर्द-गिर्द के प्लेटफ़ॉर्म में है, किसी एक मॉडल में नहीं। इस कहानी का बाकी हिस्सा हर हिस्से को और उससे संभव होने वाली चीज़ों को दिखाता है।
सबूत, जिसे आप अभी आज़मा सकते हैं
इस साइट के पीछे चलने वाला पब्लिक MCP सर्वर ही जीता-जागता उदाहरण है। किसी भी AI असिस्टेंट को इससे जोड़िए और स्टूडियो के काम के बारे में पूछिए: वह सत्ताईस टाइप्ड टूल के ज़रिए लाइव रिकॉर्ड पढ़ता है और वही बताता है जो डेटा कहता है। बिना पहचान बताए कॉल करने वालों को शॉर्टलिस्ट करने लायक टूल का एक सेट मिलता है; एक मुफ़्त एक्सेस कुंजी बाकी सब खोल देती है। संपर्क विवरण कभी डेटाबेस से बाहर नहीं जाते, तारीखें जानबूझकर सिर्फ़ महीने तक की सटीकता से लौटती हैं, और कुछ भी अप्रकाशित दिखाई नहीं देता।
पोर्टफ़ोलियो की जगह अपना प्रोडक्ट कैटलॉग, ऑर्डर हिस्ट्री या सपोर्ट रिकॉर्ड रखिए, ढाँचा वही रहता है: एक असिस्टेंट जो ट्रेनिंग डेटा से अंदाज़ा लगाने के बजाय आपके अपने डेटा से, आपके तय किए टूल के ज़रिए, ग्राहकों और स्टाफ़ को जवाब देता है।
असिस्टेंट और आपके सिस्टम के बीच एक MCP सर्वर
एक MCP सर्वर असिस्टेंट और आपके CRM, डेटाबेस, टिकटिंग या CMS के बीच बैठता है और कुछ टाइप्ड टूल सामने रखता है: जाँचे हुए इनपुट, हर टूल कौन-से फ़ील्ड लौटा सकता है इसकी अनुमति-सूची, और हर कॉल का लॉग। असिस्टेंट कभी सीधे डेटाबेस को नहीं छूता, और इंटीग्रेशन एक ही बार बनता है, आपकी टीम के हर असिस्टेंट के लिए: आपके अपने रिकॉर्ड से सपोर्ट, किसी अकाउंट की जाँच करती सेल्स टीम, ऐसे इंटरनल टूल जिन्हें कोई भी असिस्टेंट कॉल कर सकता है।
एजेंट जो प्लान करते हैं, काम करते हैं और जाँचते हैं
एजेंट ऐसा असिस्टेंट है जिसे कार्रवाई करने की अनुमति है, और एक उपयोगी और एक खतरनाक एजेंट के बीच का फ़र्क उसके चारों ओर के लूप में होता है। कोई काम मिलने पर वह ऐसा प्लान लिखता है जिसे आप पढ़ सकें, टूल की मदद से उसे पूरा करता है, टेस्ट या बिज़नेस नियमों के आधार पर अपने नतीजे की जाँच करता है, और बताता है कि उसने क्या किया और किसे छुआ तक नहीं। जो भी चीज़ असल दुनिया में कुछ बदलती है, वह किसी इंसान का इंतज़ार करती है।
एक प्रोडक्ट टीम के लिए इसका मतलब है कि जो काम पहले किसी इंजीनियर या ऑपरेटर की कतार में पड़ा रहता था, वह अपने आप आगे बढ़ता है: एक बदलाव किया गया, जाँचा गया और ड्राफ़्ट pull request के रूप में सौंपा गया; लौटी हुई डिलीवरी खोजी गई, कैरियर की समय-सीमा के भीतर क्लेम तैयार हुआ, ग्राहक का ईमेल ड्राफ़्ट हुआ, फ़ॉलो-अप शेड्यूल हुआ। भागदौड़ एजेंट करता है, फ़ैसला इंसान के हाथ में रहता है।
हर काम के लिए सही मॉडल, किसी एक वेंडर का बंधक नहीं
कोई भी एक मॉडल हर काम में सबसे अच्छा या सबसे सस्ता नहीं होता, और एक ही प्रोवाइडर से बँधा प्रोडक्ट उसके आउटेज, उसकी कीमतों के बदलाव और उसकी चुपचाप गिरती गुणवत्ता, सब विरासत में पाता है। यह स्टैक हर कॉल को एक पॉलिसी के ज़रिए रूट करता है: क्लासिफ़िकेशन और एक्सट्रैक्शन के लिए छोटे, तेज़ मॉडल, रीज़निंग और ड्राफ़्टिंग के लिए ज़्यादा सक्षम मॉडल, डेटा रेज़िडेंसी और लागत के आधार पर चुना गया प्रोवाइडर, और पहली पसंद के फ़ेल होने या धीमी पड़ने पर एक फ़ॉलबैक।
स्टूडियो ने यह रूटिंग एक एजेंट-फ़र्स्ट AI वर्कफ़्लो प्लेटफ़ॉर्म पर AWS Bedrock, OpenAI और Anthropic के बीच प्रोडक्शन में चलाई है। आपके व्यवसाय के लिए इसका मतलब है कि AI का बिल सबसे महँगे मॉडल की कीमत के बजाय हर काम की वैल्यू के हिसाब से चलता है, और किसी प्रोवाइडर की गड़बड़ी सपोर्ट टिकट नहीं, बस लॉग की एक लाइन बनकर रह जाती है।
लंबे काम जो विफलता के बाद भी टिके रहते हैं
असली AI काम शायद ही कभी एक कॉल का होता है। दो हज़ार रिकॉर्ड में जानकारी जोड़ना, एक महीने के इनवॉइस का मिलान करना, छह सिस्टम के ज़रिए किसी ग्राहक को ऑनबोर्ड करना: हर एक कदमों की एक श्रृंखला है जो घंटों चल सकती है, और हर कदम फ़ेल हो सकता है। कोई वर्कर बंद होते ही cron जॉब और क्यू भूल जाते हैं कि वे कहाँ थे, और फ़ेल हुई श्रृंखला आम तौर पर पहले कदम से दोबारा शुरू होती है, काम दोहराती है और मैसेज फिर से भेजती है।
यह स्टैक कई कदमों वाले एजेंट काम को Temporal पर टिकाऊ वर्कफ़्लो के रूप में चलाता है। हर पूरा हुआ कदम दर्ज होता है, फ़ेल हुआ कदम बैकऑफ़ के साथ दोबारा कोशिश करता है, और जो वर्कफ़्लो सातवें कदम पर रुक जाता है, वह अपनी स्थिति सुरक्षित रखते हुए सातवें कदम से ही फिर शुरू होता है। आपके ऑपरेशंस के लिए यह “बॉट बीच में क्रैश हो गया” को “रीट्राई के बाद वर्कफ़्लो फिर चल पड़ा” में बदल देता है, और यही एक AI डेमो और एक AI प्रोडक्ट के बीच का फ़र्क है।
गार्डरेल, और एक इंसान जो ना कह सकता है
पढ़ने वाले काम तुरंत चलते हैं। जो कुछ भी लिखता है, वह किसी इंसान का इंतज़ार करता है, आम तौर पर ऐसे ड्राफ़्ट से जिसे वह पहले पढ़ सके, और विनाशकारी कार्रवाइयाँ पुष्टि होने तक सिर्फ़ यह बताती हैं कि क्या होगा। हर टूल कॉल लॉग होती है, मालिक का एडमिन हिस्सा तीन स्वतंत्र जाँचों के पीछे रहता है, और हर टेनेंट का डेटा स्टोरेज लेयर पर ही अलग रखा जाता है, सिर्फ़ किसी परिपाटी के भरोसे नहीं। असिस्टेंट जो भी करे, कुछ भी बिना जाँचे लाइव नहीं होता, और हमेशा एक रिकॉर्ड रहता है।
आपके व्यवसाय के भीतर यह कैसा दिखता है
ऐसा सपोर्ट जो किसी स्क्रिप्ट के बजाय आपके अपने रिकॉर्ड से जवाब देता है, और रिफ़ंड या कोई अपवाद आते ही ग्राहक को किसी इंसान को सौंप देता है। ऑपरेशंस एजेंट जो क्लेम दर्ज करते हैं, सप्लायर से तक़ाज़ा करते हैं और फ़ॉलो-अप शेड्यूल करते हैं, और बाहर जाने वाला हर मैसेज मंज़ूरी के बाद ही जाता है। आपकी टीम जो इंटरनल टूल पहले से चलाती है, वे MCP टूल के रूप में उपलब्ध, ताकि कोई भी असिस्टेंट उन्हें कॉल कर सके। एक मेमोरी जो पिछले काम का संदर्भ याद रखती है, और इस तरह सीमित है कि एक क्लाइंट का इतिहास दूसरे क्लाइंट की ओर से कभी खोजा नहीं जा सकता।
एक एंगेजमेंट छोटे से शुरू होता है और भरोसा बनने के साथ बढ़ता है: एक सिस्टम, सिर्फ़ पढ़ने वाले टूल, आपकी तय की हुई मंज़ूरी पॉलिसी, और एक मेमोरी स्कोप जो आपका अपना है। पहला माइलस्टोन आपके असली डेटा पर चलता एक असिस्टेंट है, कोई स्लाइड डेक नहीं।
उस इंजीनियर का बनाया, जो इंफ़्रास्ट्रक्चर भी चलाता है
स्टूडियो का अपना बनने से पहले यह स्टैक एंटरप्राइज़ स्केल पर परखा जा चुका था: एक एजेंट-फ़र्स्ट AI वर्कफ़्लो प्लेटफ़ॉर्म पर इंजीनियरिंग लीड के रूप में, जहाँ ऑटोनॉमस एजेंट, टिकाऊ ऑर्केस्ट्रेशन और मल्टी-प्रोवाइडर LLM इंटीग्रेशन थे, एक हज़ार से ज़्यादा टेनेंट को सेवा देने वाले मल्टी-टेनेंट SaaS पर, प्रोडक्शन Kubernetes पर। कोई भी कठिन समस्या प्रॉम्प्ट की समस्या नहीं थी। वे थीं स्कीमा डिज़ाइन, आइसोलेशन की गारंटी, टूल सुरक्षा, रीट्राई सिमेंटिक्स और ऑब्ज़र्वेबिलिटी, वही इंजीनियरिंग जो किसी भी प्रोडक्शन सिस्टम को चाहिए।
पब्लिक MCP सर्वर और उसके पीछे का एडमिन हिस्सा खुद संभाले जाने वाले इंफ़्रास्ट्रक्चर पर चलते हैं, इसलिए कुछ भी बाहर नहीं जाता। अगर आप ऐसा AI चाहते हैं जो सुरक्षित रूप से आपका डेटा पढ़ सके, आपके टूल चला सके और आपका संदर्भ याद रख सके, तो काम की शक्ल यही है। इस वेबसाइट के पीछे के सर्वर की अपनी अलग कहानी है: Webanion प्लेटफ़ॉर्म।
ब्लॉग प्रोडक्शन से लिखे फ़ील्ड नोट्स हैं: आर्किटेक्चर के फ़ैसले, असली उपयोगकर्ताओं के सामने टिके AI सिस्टम, और अपनी लागत खुद निकालने वाला इन्फ्रास्ट्रक्चर। काम से लिखा गया, काम के बारे में नहीं।