🇧🇬 m365.show – Microsoft 365 • Изкуствен интелект • Облак Podcast

m365.show ти предлага всеки ден съвети, новини и уроци за Microsoft 365, изкуствен интелект и облачни технологии. Научи как да работиш по-умно с Copilot, Power Automate, Teams и съвременните инструменти на Microsoft – на български език. 🎙️ Твоето ежедне m365bg.substack.com

Épisodes

  1. Капанът на Azure AI Foundry – Защо повечето се провалят бързо

    -6 J

    Капанът на Azure AI Foundry – Защо повечето се провалят бързо

    Въведение Кликнахте, защото подкастът каза, че Azure AI Foundry е капан, нали? Добре – на правилното място сте. Ето обещанието предварително: помощниците (copilots) се сриват без обосноваване (grounding), но инструменти като генерирането, подсилено от извличане (RAG) с Azure AI Search – хибридно и семантично – плюс оценители за обоснованост, уместност и съгласуваност са действителните корекции, които ви предпазват от изпращане на халюцинации, маскирани като отговори. Ще минем отвъд маркетинговите презентации и ще ви покажем ръководството за оцеляване с реални примери от практиката. Абонирайте се за бюлетина M365.Show и следете предаванията на живо с MVP експерти – там се крият белезите и решенията. Тъй като първите пукнатини обикновено се появяват в мултимодалните приложения, нека започнем оттам. Защо мултимодалните приложения се провалят в реалния свят Когато видите мултимодално демо на сцена, то изглежда безупречно. Водещият подава текстова подкана, чисто изображение, може би дори бърз гласов вход, и моделът предоставя перфектна диаграма или ясно резюме на договор. Всичко изглежда като магия. Но в момента, в който опитате същото в реална компания, блясъкът бързо изчезва. Демонстрациите работят с девствени входове. Работните места работят с боклук. Това е истинското разделение: в производствена среда никой не дава на вашия модел внимателно подготвени скрийншоти. Отдел “Човешки ресурси” го храни с изцапани държавни лични карти. Отдел “Обществени поръчки” въвежда PDF файлове, които са пето поколение факс. Някой от финансите снима фактура с напукана камера на телефон с Android. Мултимодалните модели могат да обработват текст, изображения, глас и видео, но те се нуждаят от добре индексирани данни и извличане, за да функционират при хаотични условия. В противен случай просто молите модела да импровизира върху боклук. И никакво количество пари, похарчени за GPU, не поправя поговорката „боклук влиза, боклук излиза“. Тук трябва да ви спаси генерирането, подсилено от извличане (RAG). Обикновено казано: моделът не познава вашия бизнес, така че го свързвате с източник на знание. Той извлича част от данни и оформя отговора около тях. Когато съвпадението е точно, получавате полезни, обосновани отговори. Когато е неточно, моделът импровизира, изплювайки уверена безсмислица. Azure AI Studio и Azure AI Foundry разчитат на този модел и поддържат всички видове модалности. Но уловката е, че RAG е толкова добър, колкото са добри неговите данни. Ето ключовият момент, който повечето екипи пропускат: не можете просто да включите един метод за извличане и да го наречете „добър“. Ако искате резултатите да издържат, имате нужда от хибридно търсене по ключови думи плюс векторно търсене, допълнено от семантичен преподредител (semantic re-ranker). Това е вградено в Azure AI Search. То позволява на системата да балансира буквалните попадения по ключови думи със семантичното значение, след което пренарежда резултатите, така че правилният контекст да е отгоре. Когато свържете това с вашата мултимодална настройка, изведнъж моделът може да оцелее при криви сканирания и размазани изображения. Сега нека поговорим защо толкова много внедрявания се провалят. Предприятията очакват безупречни резултати още на първия ден, но не предвиждат бюджет за цикли на оценяване. Без проверки за обоснованост, уместност и съгласуваност, работещи във фонов режим, не забелязвате отклонението, докато потребителите вече не са се разочаровали. Много ранни внедрявания се провалят бързо точно поради тази причина: резултатът звучи правилно, но никой не го е проверил спрямо изходната истина. Не е задължително да завършва с провал. Carvana е една от историите на клиенти на Foundry, която доказва това. Те направиха AI за самообслужване наистина полезен, като настроиха извличането, обосноваха своите агенти и инвестираха в наблюдаемост (observability). И така, ето суровият извод: мултимодалният AI не се срива, защото AI не е „достатъчно умен“. Той се срива, защото данните не са подготвени, индексирани или наблюдавани. Хранете боклук в системата за извличане, пропускайте оценките и гледайте как доверието изгаря. Но с хибридно търсене, семантично преподреждане и постоянни цикли на оценяване, можете да обработвате фактури, договори и снимки с отговори, които се основават на реалността, а не на фантазията. И след като обосноваването е налице, се появява друг риск. Въпросът се променя: агентът, който координира всичко това, наистина ли помага на вашия бизнес, или просто тихо превръща ИТ бюджета ви в гориво за огън? Полезен агент или скъп „хартиено тегло“? Агентът (Agent) координира модели, данни, тригери и действия – представете си го като регулировчик за вашите автоматизирани работни потоци. Тук повечето екипи се подхлъзват. На теория агентът изглежда златен. Подавате му инструкции, насочвате го към вашите данни и приложения и той трябва да изпълнява процеси, да извлича отговори и дори да задейства работни потоци. Но това не е перфектен колега. Ето разграничението, което мнозина пропускат: помощниците (copilots) и агентите (agents) не са едно и също нещо. Помощникът е основно приятел с подкана. Вие питате, той отговаря, и вие оставате в контрол. Агентите, от друга страна, вземат решения, без да ви чакат. Те следват буквално вашите неясни инструкции, дори когато резултатите нямат смисъл. Истината е, че много екипи връчват на своя агент длъжностна характеристика, която е твърде обща: „Оптимизиране на процесите. Предоставяне на прозрения. Помощ на хората.“ Агентите без ясен обхват не остават учтиво в своята лента. Те изопачават. Измислят

    11 min

À propos

m365.show ти предлага всеки ден съвети, новини и уроци за Microsoft 365, изкуствен интелект и облачни технологии. Научи как да работиш по-умно с Copilot, Power Automate, Teams и съвременните инструменти на Microsoft – на български език. 🎙️ Твоето ежедне m365bg.substack.com

Plus de contenus par m365.Show