AI ইঞ্জিনিয়ারিং - এজেন্ট, MCP সার্ভার ও ডিউরেবল AI ওয়ার্কফ্লো
মডেলের চারপাশের সেই প্ল্যাটফর্ম, যা AI ফিচারকে ডেমো থেকে প্রোডাকশনে নিয়ে যায়: এমন এজেন্ট যা পরিকল্পনা করে, কাজ করে ও যাচাই করে, আর একটি ব্যবসার নিজস্ব সিস্টেমের ওপর MCP সার্ভার। এদের ঘিরে থাকে মডেল প্রোভাইডারদের মধ্যে রাউটিং, দীর্ঘ কাজের জন্য ডিউরেবল ওয়ার্কফ্লো, প্রতিটি ক্লায়েন্টের জন্য আলাদা মেমরি, আর এমন গার্ডরেল যা প্রতিটি লেখার কাজে একজন মানুষকে যুক্ত রাখে। এই সাইটের পেছনের চালু MCP সার্ভারটিই এর জীবন্ত উদাহরণ, আর একই ইঞ্জিনিয়ারিং চলেছে এক হাজারেরও বেশি টেন্যান্টকে সেবা দেওয়া একটি এজেন্ট-ফার্স্ট AI ওয়ার্কফ্লো প্ল্যাটফর্মে। পুরোটাই চলে নিজস্ব অবকাঠামোতে, তাই কিছুই বাইরে যায় না।
Md Moniruzzaman
পুরো গল্পটা
একটি AI ফিচার কীভাবে প্রোডাকশন সিস্টেম হয়ে ওঠে, আর তাতে আপনার ব্যবসার জন্য কী কী সম্ভব হয়।
ডেমো ঠিকঠাক চলে। তারপর সেটা আপনার ব্যবসার মুখোমুখি হয়।
বেশিরভাগ AI ফিচার মারা যায় ডেমো আর প্রোডাক্টের মাঝখানে। প্রোটোটাইপ চ্যাট উইন্ডোতে চমৎকার উত্তর দেয়, তারপর আসল ব্যবসার মুখোমুখি হয়: গ্রাহকের অর্ডার দেখতে পারে না, টিকিট খুলতে পারে না, এমন একটা নীতি বানিয়ে বলে যা আসলে নেই, নিজের শুরু করা লম্বা কাজটা মাঝপথে বন্ধ হয়ে যায়, আর কোনো এক বিকেলে মডেল প্রোভাইডারের বিভ্রাট হয়ে দাঁড়ায় আপনার বিভ্রাট। দলগুলো মাসের পর মাস প্রম্পট নিয়ে খাটে, অথচ আসল সমস্যায় পৌঁছায়ই না, কারণ সমস্যাটা কখনো প্রম্পটে ছিল না।
প্রতিষ্ঠাতা ও প্রোডাক্ট টিমের AI ফিচার প্রোডাকশনে নিতে স্টুডিও এই স্ট্যাক ব্যবহার করে: এমন এজেন্ট যা পরিকল্পনা করে, কাজ করে ও যাচাই করে; MCP সার্ভার, যা সহকারীদের একটি ব্যবসার নিজস্ব সিস্টেমে নিরাপদ, টাইপড অ্যাক্সেস দেয়; মডেল প্রোভাইডারদের মধ্যে রাউটিং; যে কাজ হারানো চলবে না তার জন্য টেকসই ওয়ার্কফ্লো; আর একজন মানুষকে যুক্ত রেখে গার্ডরেল। আসল জোর মডেলের চারপাশের প্ল্যাটফর্মে, কোনো একটি মডেলে নয়। এই গল্পের বাকিটায় প্রতিটি অংশ আর তা দিয়ে কী সম্ভব হয়, তা দেখানো হয়েছে।
প্রমাণ, যা এখনই চালিয়ে দেখতে পারেন
এই সাইটের পেছনের পাবলিক MCP সার্ভারটিই চালু উদাহরণ। যেকোনো AI সহকারীকে এর সঙ্গে যুক্ত করুন আর স্টুডিওর কাজ নিয়ে প্রশ্ন করুন: সেটি সাতাশটি টাইপড টুলের মাধ্যমে লাইভ রেকর্ড পড়ে, আর ডেটায় যা আছে সেটাই উত্তর দেয়। পরিচয় না দিয়ে যাঁরা কল করেন, তাঁরা পান শর্টলিস্ট করার মতো একটি টুলসেট; একটি ফ্রি অ্যাক্সেস কী দিয়ে বাকিগুলো খুলে যায়। যোগাযোগের তথ্য কখনো ডেটাবেসের বাইরে যায় না, তারিখ ইচ্ছা করেই শুধু মাস পর্যন্ত ফেরত আসে, আর অপ্রকাশিত কিছুই দেখা যায় না।
পোর্টফোলিওর জায়গায় বসান আপনার প্রোডাক্ট ক্যাটালগ, অর্ডারের ইতিহাস বা সাপোর্ট রেকর্ড, কাঠামো একই থাকে: এমন একটি সহকারী, যা ট্রেনিং ডেটা থেকে আন্দাজ না করে আপনার নিজের ডেটা থেকে, আপনার ঠিক করে দেওয়া টুলের মাধ্যমে গ্রাহক ও কর্মীদের উত্তর দেয়।
সহকারী আর আপনার সিস্টেমের মাঝখানে একটি MCP সার্ভার
একটি MCP সার্ভার বসে সহকারী আর আপনার CRM, ডেটাবেস, টিকিটিং বা CMS-এর মাঝখানে, এবং কয়েকটি টাইপড টুল খুলে দেয়: যাচাই করা ইনপুট, প্রতিটি টুল কোন কোন ফিল্ড ফেরত দিতে পারবে তার অনুমোদিত তালিকা, আর প্রতিটি কলের লগ। সহকারী কখনো সরাসরি ডেটাবেস ছোঁয় না, আর ইন্টিগ্রেশন একবারই তৈরি হয় আপনার দলের ব্যবহার করা সব সহকারীর জন্য: আপনার নিজের রেকর্ড থেকে সাপোর্ট, সেলস টিমের অ্যাকাউন্ট যাচাই, এমন ইন্টারনাল টুল যা যেকোনো সহকারী কল করতে পারে।
যে এজেন্ট পরিকল্পনা করে, কাজ করে ও যাচাই করে
এজেন্ট হলো এমন একটি সহকারী, যাকে কাজ করার অনুমতি দেওয়া হয়েছে, আর একটি কাজের এজেন্ট ও একটি বিপজ্জনক এজেন্টের তফাত তার চারপাশের লুপে। কোনো কাজ পেলে সে এমন একটি পরিকল্পনা লেখে যা আপনি পড়তে পারেন, টুল দিয়ে ধাপে ধাপে তা শেষ করে, টেস্ট বা ব্যবসার নিয়মের সঙ্গে মিলিয়ে নিজের ফলাফল যাচাই করে, আর জানায় কী করেছে এবং কীসে হাত দেয়নি। বাস্তবে কিছু বদলে দেয় এমন যেকোনো কাজ একজন মানুষের জন্য অপেক্ষা করে।
একটি প্রোডাক্ট টিমের কাছে এর মানে, যে কাজ আগে কোনো ইঞ্জিনিয়ার বা অপারেটরের জন্য লাইনে পড়ে থাকত, তা নিজে থেকেই এগোয়: একটি পরিবর্তন করা, যাচাই করা এবং ড্রাফট pull request হিসেবে হস্তান্তর করা; ফেরত আসা একটি ডেলিভারি খুঁজে বের করা, ক্যারিয়ারের নির্ধারিত সময়সীমার মধ্যেই ক্লেইম তৈরি, গ্রাহকের ইমেইলের খসড়া লেখা, ফলো-আপের সময় ঠিক করা। খাটুনির কাজটা করে এজেন্ট, সিদ্ধান্ত থাকে মানুষের হাতে।
প্রতিটি কাজের জন্য সঠিক মডেল, কোনো একটি ভেন্ডরের কাছে জিম্মি নয়
কোনো একটি মডেল সব কাজে সেরা বা সবচেয়ে সস্তা নয়, আর যে প্রোডাক্ট একটিমাত্র প্রোভাইডারের সঙ্গে বাঁধা, সে তার বিভ্রাট, দাম বদল আর চুপচাপ মান পড়ে যাওয়া, সবই নিজের ঘাড়ে নেয়। এই স্ট্যাক প্রতিটি কলকে একটি নীতির মধ্য দিয়ে রাউট করে: ক্লাসিফিকেশন আর ডেটা এক্সট্র্যাকশনের জন্য ছোট, দ্রুত মডেল, রিজনিং আর খসড়া লেখার জন্য শক্তিশালী মডেল, ডেটা কোথায় থাকবে আর খরচ কত, তা দেখে প্রোভাইডার বাছাই, আর প্রথম পছন্দ ব্যর্থ হলে বা ধীর হয়ে গেলে একটি বিকল্প।
স্টুডিও একটি এজেন্ট-ফার্স্ট AI ওয়ার্কফ্লো প্ল্যাটফর্মে AWS Bedrock, OpenAI ও Anthropic জুড়ে এই রাউটিং প্রোডাকশনে চালিয়েছে। আপনার ব্যবসার জন্য এর মানে, AI-এর বিল চলে প্রতিটি কাজের মূল্য অনুযায়ী, সবচেয়ে দামি মডেলের দাম অনুযায়ী নয়, আর কোনো প্রোভাইডারের বিভ্রাট হয়ে দাঁড়ায় লগের একটি লাইন, সাপোর্ট টিকিট নয়।
লম্বা কাজ, যা ব্যর্থতার পরেও টিকে থাকে
আসল AI কাজ খুব কমই একটিমাত্র কলে শেষ হয়। দুই হাজার রেকর্ডে তথ্য যোগ করা, এক মাসের ইনভয়েস মেলানো, ছয়টি সিস্টেমের মধ্য দিয়ে একজন গ্রাহককে অনবোর্ড করা: প্রতিটিই ধাপের একটি চেইন, যা ঘণ্টার পর ঘণ্টা চলতে পারে, আর যেকোনো ধাপ ব্যর্থ হতে পারে। কোনো ওয়ার্কার বন্ধ হওয়ামাত্র cron জব আর কিউ ভুলে যায় কোথায় ছিল, আর ব্যর্থ চেইন সাধারণত প্রথম ধাপ থেকে আবার শুরু হয়, একই কাজ দ্বিতীয়বার করে, একই মেসেজ আবার পাঠায়।
এই স্ট্যাক একাধিক ধাপের এজেন্ট কাজকে Temporal-এ টেকসই ওয়ার্কফ্লো হিসেবে চালায়। প্রতিটি সম্পন্ন ধাপ রেকর্ড হয়, ব্যর্থ ধাপ ব্যাকঅফ দিয়ে আবার চেষ্টা করে, আর যে ওয়ার্কফ্লো সপ্তম ধাপে থেমে যায়, সেটি অবস্থা অটুট রেখে সপ্তম ধাপ থেকেই আবার চলে। আপনার অপারেশনের জন্য এটা “বট মাঝপথে ক্র্যাশ করেছে”-কে বদলে দেয় “রিট্রাইয়ের পর ওয়ার্কফ্লো আবার চলেছে”-তে, আর এটাই একটি AI ডেমো আর একটি AI প্রোডাক্টের তফাত।
গার্ডরেল, আর একজন মানুষ যিনি না বলতে পারেন
পড়ার কাজ সঙ্গে সঙ্গে চলে। যেকোনো লেখার কাজ একজন মানুষের জন্য অপেক্ষা করে, সাধারণত এমন একটি খসড়া থেকে যা তিনি আগে পড়ে নিতে পারেন, আর ধ্বংসাত্মক অ্যাকশনগুলো নিশ্চিত না করা পর্যন্ত শুধু জানায় কী ঘটবে। প্রতিটি টুল কল লগ হয়, মালিকের অ্যাডমিন অংশ তিনটি আলাদা যাচাইয়ের পেছনে থাকে, আর প্রতিটি টেন্যান্টের ডেটা স্টোরেজ স্তরেই আলাদা করা, নিছক রীতির ওপর ভরসা করে নয়। সহকারী যা-ই করুক, যাচাই ছাড়া কিছুই চালু হয় না, আর সবসময় একটি রেকর্ড থাকে।
আপনার ব্যবসার ভেতরে এটা দেখতে কেমন
এমন সাপোর্ট, যা স্ক্রিপ্ট নয়, আপনার নিজের রেকর্ড থেকে উত্তর দেয়, আর রিফান্ড বা কোনো ব্যতিক্রম জড়িত হওয়ামাত্র গ্রাহককে একজন মানুষের হাতে তুলে দেয়। অপারেশনের এজেন্ট, যা ক্লেইম জমা দেয়, সাপ্লায়ারের পেছনে লেগে থাকে, ফলো-আপের সময় ঠিক করে, আর বাইরে যাওয়ার আগে প্রতিটি মেসেজ অনুমোদন পায়। আপনার দল আগে থেকেই যে ইন্টারনাল টুল চালায়, সেগুলো MCP টুল হিসেবে খুলে দেওয়া, যাতে যেকোনো সহকারী কল করতে পারে। একটি মেমরি, যা আগের কাজের প্রসঙ্গ মনে রাখে, আর এমনভাবে সীমানা টানা যে এক ক্লায়েন্টের ইতিহাস অন্য ক্লায়েন্টের দিক থেকে কখনো খোঁজা যায় না।
একটি এনগেজমেন্ট শুরু হয় ছোট করে, আর আস্থা তৈরি হওয়ার সঙ্গে সঙ্গে বড় হয়: একটি সিস্টেম, শুধু পড়ার টুল, আপনার ঠিক করা অনুমোদন নীতি, আর আপনার মালিকানাধীন মেমরি স্কোপ। প্রথম মাইলস্টোন হলো আপনার আসল ডেটার ওপর চালু একটি সহকারী, কোনো স্লাইড ডেক নয়।
যে ইঞ্জিনিয়ার অবকাঠামোও চালান, তাঁরই তৈরি
স্টুডিওর নিজের হওয়ার আগে এই স্ট্যাক এন্টারপ্রাইজ স্কেলে পরীক্ষিত হয়েছে: একটি এজেন্ট-ফার্স্ট AI ওয়ার্কফ্লো প্ল্যাটফর্মে ইঞ্জিনিয়ারিং লিড হিসেবে, যেখানে ছিল অটোনোমাস এজেন্ট, টেকসই অর্কেস্ট্রেশন আর মাল্টি-প্রোভাইডার LLM ইন্টিগ্রেশন, এক হাজারেরও বেশি টেন্যান্টকে সেবা দেওয়া মাল্টি-টেন্যান্ট SaaS-এ, প্রোডাকশন Kubernetes-এর ওপর। কঠিন সমস্যাগুলোর কোনোটিই প্রম্পটের সমস্যা ছিল না। সেগুলো ছিল স্কিমা ডিজাইন, আইসোলেশনের নিশ্চয়তা, টুলের নিরাপত্তা, রিট্রাই সেমান্টিকস আর অবজারভেবিলিটি, যেকোনো প্রোডাকশন সিস্টেমের জন্য যে ইঞ্জিনিয়ারিং লাগে, ঠিক সেটাই।
পাবলিক MCP সার্ভার আর তার পেছনের অ্যাডমিন অংশ চলে নিজেদের পরিচালিত অবকাঠামোতে, তাই কিছুই বাইরে যায় না। আপনি যদি এমন AI চান যা নিরাপদে আপনার ডেটা পড়তে পারে, আপনার টুল চালাতে পারে আর আপনার প্রসঙ্গ মনে রাখতে পারে, তাহলে কাজটা দেখতে এমনই। এই ওয়েবসাইটের পেছনের সার্ভারের নিজের গল্প আছে: Webanion প্ল্যাটফর্ম।
ব্লগটি প্রোডাকশনের ময়দান থেকে লেখা নোট: আর্কিটেকচারের সিদ্ধান্ত, বাস্তব ব্যবহারকারীর মুখোমুখি টিকে যাওয়া AI সিস্টেম, আর নিজের খরচ নিজে তোলা অবকাঠামো। কাজ থেকে লেখা, কাজ নিয়ে গল্প নয়।