Azure AI Foundry এর ফাঁদ - কেন বেশিরভাগই দ্রুত ব্যর্থ হয়

আপনি ক্লিক করেছেন কারণ পডকাস্ট বলেছে Azure AI Foundry একটি ফাঁদ, তাই না? ভালো – আপনি সঠিক জায়গায় আছেন। এখানে অগ্রিম প্রতিশ্রুতি দেওয়া হলো: গ্রাউন্ডিং (grounding) ছাড়া কপাইলটগুলি (copilots) ভেঙে পড়ে, কিন্তু রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) এর মতো টুলগুলি Azure AI Search – হাইব্রিড এবং সিমান্টিক উভয়ভাবে – এর সাথে গ্রাউন্ডেডনেস (groundedness), প্রাসঙ্গিকতা (relevance) এবং সঙ্গতি (coherence) এর জন্য মূল্যায়নকারী (evaluators) ব্যবহার করলে আপনার উত্তরগুলিতে বিভ্রম বা মিথ্যা তথ্য আসার ঝুঁকি কমে যায়। আমরা বিপণনের উপস্থাপনাগুলি এড়িয়ে যাব এবং মাঠের বাস্তব উদাহরণসহ বেঁচে থাকার হ্যান্ডবুক দেখাবো। M365.Show নিউজলেটারে সাবস্ক্রাইব করুন এবং MVP বিশেষজ্ঞদের সাথে লাইভস্ট্রিমগুলি অনুসরণ করুন – এইগুলি হল সেই জায়গা যেখানে সমস্যার ক্ষতচিহ্ন এবং তার সমাধানগুলি থাকে। আর যেহেতু প্রথম ফাটলগুলি সাধারণত মাল্টিমোডাল অ্যাপগুলিতে দেখা যায়, তাই আসুন আমরা সেখান থেকে শুরু করি।

২. কেন বাস্তব জগতে মাল্টিমোডাল অ্যাপগুলি ব্যর্থ হয়

যখন আপনি স্টেজে একটি মাল্টিমোডাল ডেমো দেখেন, তখন এটিকে ত্রুটিহীন মনে হয়। উপস্থাপক একটি টেক্সট প্রম্পট, একটি পরিষ্কার ছবি, এমনকি হয়তো একটি দ্রুত ভয়েস ইনপুট দেন এবং মডেলটি একটি নিখুঁত চার্ট বা একটি ধারালো চুক্তির সারাংশ সরবরাহ করে। পুরোটা জাদুর মতো মনে হয়। কিন্তু যেই মুহূর্তে আপনি একটি আসল কোম্পানির ভেতরে একই জিনিস চেষ্টা করেন, চকচকে ভাবটি দ্রুত দূর হয়ে যায়।

ডেমোগুলি চলে পরিষ্কার ইনপুট-এর উপর। কর্মক্ষেত্রগুলি চলে জাঙ্ক (আবর্জনা)-এর উপর। এটাই আসল বিভাজন: উৎপাদনে, কেউ আপনার মডেলকে সাবধানে সাজানো স্ক্রিনশট বা মানসম্পন্ন কমিটি দ্বারা ফর্ম্যাট করা CSV দেবে না। এইচআর (HR) এটিকে দাগযুক্ত সরকারি আইডি সরবরাহ করছে। প্রকিউরমেন্ট (Procurement) পিডিএফ ফাইল টেনে আনছে যা পঞ্চম প্রজন্মের ফ্যাক্স। ফিনান্সের কেউ ভাঙা অ্যান্ড্রয়েড ফোনের ক্যামেরা দিয়ে একটি বিলের ছবি তুলছে।

মাল্টিমোডাল মডেলগুলি টেক্সট, ছবি, ভয়েস এবং ভিডিও পরিচালনা করতে পারে, তবে বিশৃঙ্খল পরিস্থিতিতে কাজ করার জন্য তাদের ভালোভাবে ইনডেক্স করা ডেটা এবং রিট্রিভাল প্রয়োজন। অন্যথায়, আপনি মডেলকে কেবল আবর্জনার উপর ভিত্তি করে তাৎক্ষণিক উদ্ভাবন করতে বলছেন। এবং কোনো পরিমাণ জিপিইউ (GPU) খরচ “আবর্জনা প্রবেশ, আবর্জনা বহির্গমন” কথাটি ঠিক করতে পারে না।

এইখানেই রিট্রিভাল-অগমেন্টেড জেনারেশন, বা RAG আপনাকে রক্ষা করার কথা। মোদ্দা কথা: মডেল আপনার ব্যবসা সম্পর্কে জানে না, তাই আপনি এটিকে একটি জ্ঞানের উৎসের সাথে সংযুক্ত করেন। এটি ডেটার একটি অংশ পুনরুদ্ধার করে এবং তার চারপাশে উত্তরটি তৈরি করে। যখন মিলটি তীক্ষ্ণ হয়, আপনি সহায়ক, গ্রাউন্ডেড উত্তর পান। যখন মিলটি দুর্বল হয়, মডেলটি বন্য হয়ে যায়, আত্মবিশ্বাসী বাজে কথা উগরে দেয়। Azure AI Studio এবং Azure AI Foundry উভয়ই এই প্যাটার্নের উপর নির্ভর করে। তবে ফাঁদটি হলো RAG তার ডেটার মতোই ভালো।

এখানে সেই গুরুত্বপূর্ণ বিষয়টি যা বেশিরভাগ দল মিস করে: আপনি কেবল একটি রিট্রিভাল পদ্ধতি প্লাগ ইন করে এটিকে “ভালো” বলতে পারবেন না। আপনি যদি ফলাফলগুলি দৃঢ়ভাবে ধরে রাখতে চান তবে আপনার কীওয়ার্ড এবং ভেক্টর সার্চের একটি হাইব্রিড অনুসন্ধান প্রয়োজন, যার উপরে একটি সিমান্টিক রি-র‍্যাঙ্কার (semantic re-ranker) যুক্ত করতে হবে। এটি Azure AI Search-এর মধ্যে অন্তর্নির্মিত। এটি সিস্টেমকে সিমান্টিক অর্থের সাথে আক্ষরিক কীওয়ার্ড হিটগুলিকে ভারসাম্য বজায় রাখতে দেয়। যখন আপনি এটিকে আপনার মাল্টিমোডাল সেটআপের সাথে সংযুক্ত করেন, তখন হঠাৎ মডেলটি বাঁকা স্ক্যান এবং ঝাপসা ছবি থেকে বাঁচতে পারে।

এখন, কেন এতগুলি স্থাপনা ব্যর্থ হয় সে সম্পর্কে কথা বলা যাক। সংস্থাগুলি প্রথম দিনেই পালিশ করা ফলাফল আশা করে কিন্তু মূল্যায়ন চক্রের জন্য বাজেট বরাদ্দ করে না। পটভূমিতে গ্রাউন্ডেডনেস, প্রাসঙ্গিকতা এবং সঙ্গতির জন্য পরীক্ষা ছাড়া, ব্যবহারকারীরা ইতিমধ্যেই হতাশ না হওয়া পর্যন্ত আপনি বিচ্যুতির বিষয়টি লক্ষ্য করেন না। এই কারণেই অনেক প্রথম দিকের নিয়োগ ব্যর্থ হয়: আউটপুটটি সঠিক মনে হয়, কিন্তু কেউ এটিকে উৎসের সত্যতার বিরুদ্ধে পরীক্ষা করে দেখেনি।

ব্যর্থতা শেষ কথা হতে হবে না। Carvana হল একটি Foundry গ্রাহকের গল্প যা এই বিষয়টি প্রমাণ করে। তারা রিট্রিভাল টিউন করে, তাদের এজেন্টদের গ্রাউন্ড করে এবং অবজার্ভেবিলিটি (observability)