數位時代 Business Next

【數位時代Podcast】專講科技創新與轉型成長,將複雜的數位技術翻譯為新商業機會,讓轉型決策、資源配置有最前端的觀點與策略思考! 為你說數位、訪專家、談實戰。有想聽的主題或合作提案,歡迎來信:podcast@bnext.com.tw Powered by Firstory Hosting

  1. 5d ago

    數位關鍵字259.OpenRouter 和 Hugging Face 為什麼重要到被收購?AI 圈在紅的 Jev 到底在紅什麼?ft. AWS 社群英雄蔣鐙緯 Ernest

    8 月 16 日,一家做線上刷卡的公司買下了一家幫你挑 AI 模型的公司;18 天後的 9 月 3 日,最會賣 AI 晶片的那家公司用 129.3 億美元買下全世界最大的模型倉庫。兩家買主,Stripe負責收錢,NVIDIA做晶片,而它們買的公司都不做模型。同一個月還有第三件事:9 月 15 日,一個叫 Jev 的模型上線,它一個字都不生成,只回答一個判斷加一個機率。數位時代創新長黃亮崢 James 邀請 AWS 社群英雄蔣鐙緯 Ernest,拆解這兩家公司為什麼不造模型卻值這麼多錢,以及當AI把判斷變成便宜零件之後,人還剩下什麼要做。 
聽完這集你可以學到 不造模型的公司為什麼值這麼多錢:Ernest 的習慣是先看營收合不合價格。Hugging Face 營收印象中一億多美金,NVIDIA 卻開出約七、八十倍,代表買的不是營收。他的判斷是,這兩家已經站在所有人都會路過的那條路上,換成行銷的語言就是通路商。Hugging Face 是模型的貨架:以前找程式碼去 GitHub,現在找模型去這裡,還有訓練用的資料集與可直接試玩的 Spaces。Ernest 認為關鍵在旁邊那張模型卡,它記錄了怎麼訓練、有沒有坑、別人在哪些場景踩到雷。選型看的是這些,不是參數。OpenRouter 是路由器,也是收銀台:它依任務複雜度、價格、速度與供應商穩定度幫你挑模型與機房,再從預先儲值的餘額扣款、賺一點價差,很像金流廠商抽成。Ernest 說它對企業最實際的價值在帳單:自己串三家就是三份帳單,走中間層是一張,而且是累計式預儲。NVIDIA 買下Hugging Face貨架,一手合規一手私心:Ernest 把架構拆成應用、模型、基礎設施、晶片四層,指出晶片層選項其實很多。NVIDIA 需要對外證明自己不是壟斷,買下 Hugging Face 就能說模型也跑得動在別家晶片上。黃仁勳承諾不會要求必須用 NVIDIA 的運算,他認為合理,因為不需要把路全部擋死,但也相信 NVIDIA 有讓模型優先跑在自家與 Groq 上的私心。賣場走道怎麼排,比會不會被下架更關鍵:James 用賣餅乾的公司買下最大超市比喻,Ernest 拆出三個施力點:搜尋與推薦決定你碰不碰得到、預設值決定你怎麼跑第一次、文件與範例決定哪條路比較容易成功。他也留一句給買家,超市再大,餅乾越做越爛,消費者還是會用現金投票。開發者沒有因為收購而改變做法,因為本來就該做備案:Ernest 用 CI/CD 的思維看待,每個單點都可能壞掉。Hugging Face 對他們切在研究階段,模型下載後進自己的備份備援機制;OpenRouter 這側,架構裡本來就有自己的排程與路由層,出事就改打 Amazon Bedrock 或原廠 API。 這兩樁收購買的是必經之路,不是模型。 模型正在變便宜、變成通用商品,值錢的是模型經過的那條路。找模型大家都去 Hugging Face,決定這次用哪一個模型,很多團隊走 OpenRouter。Ernest 的觀察是,工具會一直換,但人要解決的問題不會消失,舊問題被解決之後人就會找到新問題,價值於是見縫插針地長出新的中間層。至於 Stripe 為什麼買,他的結論很直接:金流公司最怕使用者跑去新的通路而自己不知道,先切通路才能提早布局。 Jev 便宜到可以多判斷幾次,再取統計:一次判斷約萬分之四美金、約 1.2 分台幣,端到端只要 70 到 500 毫秒。Ernest 提醒它的設計目標是「做判斷」而不是「做出正確的判斷」,結果一樣可能錯。但既然一小時能跑 60 次,那就跑 60 次取平均或中位數,用統計逼近答案。 
人剩下的是定義與例外。 判斷都外包出去之後人還要做什麼?Ernest 的答案是先把 AI 切開來想,不管用不用 AI,我們自己有哪些事情想做。接著把事情定義下來,而且要同時有正面與負面描述,因為一定會有例外。這些例外能不能變成標準案例、能不能寫成處理流程,都描述清楚之後,才輪到思考哪些可以導入 AI 與 Jev 這類判斷。他也強調判斷本身要能迭代進步,一開始就認定它不準,那就用其他技巧層層疊上去。 
Ernest 的心法:梳理流程最困難的地方從來不是工具,是大部分的人無法描述規則。 
延伸閱讀 蔣鐙緯 Ernest 的梳理流程工作坊:https://www.kyklosify.com/zh/contact/TypeSafe AI 發表 Jev 的官方原文:https://typesafe.ai/blog/introducing-system-one-models-and-jevNVIDIA 收購 Hugging Face 官方公告:https://blogs.nvidia.com/blog/nvidia-to-acquire-hugging-face/ Powered by Firstory Hosting

    數位關鍵字259.OpenRouter 和 Hugging Face 為什麼重要到被收購?AI 圈在紅的 Jev 到底在紅什麼?ft. AWS 社群英雄蔣鐙緯 Ernest
  2. Sep 18

    數位關鍵字258.給 AI 一台用完就丟的電腦:企業 AI 的最後一哩 ft. Asgard 肆佳科技共同創辦人暨執行長王韋仁 William

    公司買了一批 ChatGPT 或 Claude 帳號,再找講師來上兩堂 prompt 課,這樣算導入 AI 了嗎?在企業現場,這只是第一階段,比較接近國民基本教育。真正的門檻在後面:AI 看不看得到公司的資料、權限與稽核管不管得住、能不能把公司裡那位十倍工作者的做事方法沉澱下來複製給別人。數位時代創新長黃亮崢 James 邀請 Asgard 肆佳科技共同創辦人暨執行長王韋仁 William,從企業導入的真實災情出發,拆解為什麼要給 AI 一台用完就丟的電腦,以及企業軟體最難的那段「最後一哩」卡在哪裡。 聽完這集你可以學到: 企業導入 AI 分成四個階段:買帳號上課、讓 AI 看得到公司資料、統一配帳號做稽核與權限管理,第四階段才是把優秀員工的做事方法沉澱成流程、複製給其他人。王韋仁觀察,多數公司都還停在前兩階。每個上班族有兩到三成時間在搬資料:複製貼上、建檔這類工作藏在會計、客服、業務身上,但世界上沒有一個 job title 叫資料搬運。王韋仁指出,公司買的是這個人的專業與決策能力,把時間還給他,能用在決策上的時間就多出三到四成。系統打不通不是技術問題,是政治問題:王韋仁直言技術上一定打得通,資料也都還在。阻力在於十幾年前導入系統的人早就離職,現在的 IT 接手的是遺留系統,動了出事卻要他負責,於是多一事不如少一事。破解方法通常只有一個,從老闆那一層 top-down 支援下來。最後一哩不是 demo,是上線那一刻:demo 永遠是 happy path,短時間就做得出來;難的是進到 production,每一次都要跑得完。王韋仁分析這一哩由三件事構成:權限、能不能被稽核、能不能跟既有系統並行。比較像幫 legacy system 開一道新的大門,而不是去顛覆它。駕馭工程(Harness Engineering)的白話定義:換一個模型還能完成同樣的工作,就代表 harness 做好了。王韋仁比喻,模型是腦子非常好但第一天上班的人,harness 就是那間公司的教育訓練、門禁卡、系統帳號、SOP 和主管是誰。換到車上講,模型是引擎,harness 是底盤、方向盤、煞車與調校。一個工作階段開一台電腦,用完丟掉:共用一台機器養 agent 很容易養壞。王韋仁說明,每次互動才開一台幾秒就啟動的虛擬電腦,出事直接拋棄,同事的薪資資料也留在上一台一起被丟掉。但 agent 不會離職,牠會把稽核紀錄和學到的例外寫回檔案系統,下次開新電腦再掛回去。agent 犯錯的真實災情:有一隻 agent 每天打電話訂便當,那天電話不通,牠很努力上網查,找到那家店有 Uber Eats,就自己登入帳號下了單。王韋仁強調,比犯錯更重要的是過程能不能被監管、被記錄、事後被防堵。另一個案例是報帳,交通費該掛專案還是部門是公司慣例,沒人寫下來,agent 當然掛錯。 舊系統怎麼交給 AI 碰:理想上直接操作 API 就能把事情做完,但王韋仁指出台灣的現實是,大量企業的系統已經跑了二三十年,原廠可能都不在了,不會有人回頭幫你開 API,而這些沒人維護的系統還在某一台電腦裡服役。給瀏覽器是最低限度的做法,至少讓 AI 有一條路能操作系統。至於權限那條線,他的做法是讓 agent 沿用工程師本來就在用的 CRUD 規則,而不是另外發明一套:讀取同一份資料二三十次都該是一樣的狀態,這類可逆的事直接授權;會造成資料變更的不可逆動作才要卡人核可。這樣做的附帶好處是,企業原本的稽核制度看得懂這件事,不必為 agent 重新創造一套稽核方式。 真正的痛點往往不在行銷和客服:Asgard 接觸的產業橫跨電商、餐飲、飯店、製造、材料與金融投資,切入點通常來自二代接班或大老闆的 top-down。王韋仁分享一個飯店業的例子:這家飯店有二三十間餐廳,每間的信用卡卡機對帳號碼都不同、結帳系統也不同,財務每個月對帳非常痛苦。他們要的其實不是完美,只是把銀行送來的對帳單跟自己收回的資料自動比對,先把對得上的七八成拉掉,剩下的一兩成再交給人。他說這種題目是外行人想不到的,得從企業真正的痛點反推回來。 不必追最新最大的模型:王韋仁認為好的流程架構與 harness,要確保模型是 plug and play、可以隨意切換。他自家公司幫員工付模型的錢但不限制用哪一個,重點是產出要能被接受、能被 review。他也直言沒必要一律用最聰明的模型,很多新模型是 thinking model,會花更多時間,一般的操作任務用 Sonnet 4.5 可能就搞定,效率反而更好而且不會出錯。至於地端,他判斷當一萬個員工都開始用 AI,token 用量會逼企業去想「我有沒有自己的發電裝置、自己的桶裝水」。 不要問一個人要配幾個 agent:黃仁勳在 Computex 2026 提出每位員工可以配 100 個 agent,也算過年薪 50 萬美元的工程師,一年的 token 成本可能要 25 萬美元。王韋仁換了一個算法:該問的不是標配幾隻給一個人,而是這間公司有多少件事已經被 agent 掌握、又需要多少人來操作牠們。他提醒台灣的現實是大部分賺錢的企業並不靠軟體賺錢,IT 是成本單位、預算本來就少,但 AI 接下來會像水、像電一樣變成生產要素。他給的起手建議是先確認自己 AI Ready 或 Data Ready,因為他遇過不少正在賺錢、資訊狀態卻還停在 15 年前的企業。 延伸閱讀 Karpathy 提出大語言模型是新作業系統核心行程:https://x.com/karpathy/status/1707437820045062561Karpathy 演講《Intro to Large Language Models》:https://www.youtube.com/watch?v=zjkBMFhNj_g黃仁勳與 Harrison Chase 對談:https://www.youtube.com/watch?v=Yy3JH6dDugc Powered by Firstory Hosting

    數位關鍵字258.給 AI 一台用完就丟的電腦:企業 AI 的最後一哩 ft. Asgard 肆佳科技共同創辦人暨執行長王韋仁 William

Ratings & Reviews

4.1
out of 5
14 Ratings

About

【數位時代Podcast】專講科技創新與轉型成長,將複雜的數位技術翻譯為新商業機會,讓轉型決策、資源配置有最前端的觀點與策略思考! 為你說數位、訪專家、談實戰。有想聽的主題或合作提案,歡迎來信:podcast@bnext.com.tw Powered by Firstory Hosting

More From 數位時代 +

You Might Also Like