數位時代 Business Next

【數位時代Podcast】專講科技創新與轉型成長,將複雜的數位技術翻譯為新商業機會,讓轉型決策、資源配置有最前端的觀點與策略思考! 為你說數位、訪專家、談實戰。有想聽的主題或合作提案,歡迎來信:podcast@bnext.com.tw Powered by Firstory Hosting

  1. 數位關鍵字204.為什麼地端AI元年來了!GPT OSS、Gemma 3讓企業自建不再是夢想

    14분 전

    數位關鍵字204.為什麼地端AI元年來了!GPT OSS、Gemma 3讓企業自建不再是夢想

    2025年8月5日,OpenAI發表了自2019年GPT-2以來首個開源模型GPT OSS。從年初中國DeepSeek掀起的開源熱潮,,加上Google發布的Gemma 3,到OpenAI主動出擊,地端AI時代正式來臨。數位時代創新長黃亮崢James邀請APMIC(亞太智慧機器)創辦人暨執行長吳柏翰Jerry,深入解析GPT OSS模型如何標誌著企業地端AI部署時代的來臨。 GPT OSS這個120億參數的模型透過MXFP4最佳化技術,將記憶體需求降低到原本的四分之一,讓企業能在單張H100上運行,相較於中國模型如DeepSeek動輒需要5張以上H100,美國開源模型更專注於在有限硬體資源下達到最佳性能。GPT OSS採用混合專家架構(MOE),大幅提升運算效率。更首次引入了Harmony Response Format格式將Agent的分析能力直接內建到模型中,企業可以更精確控制AI的思考過程,無需複雜的提示工程就能獲得高品質回應。 企業在評估地端AI部署時,需要考慮「合法、合規、合用」三大面向: 合法:模型需符合國家規範並具備在地文化理解;合規:要求通過ISO 27001資訊安全、ISO 42001人工智慧管理、ISO 27701隱私資訊管理等國際認證標準;合用:強調實際商業價值創造。 在成本計算上,當企業每日Token使用超過新台幣5000元時,就應認真考慮地端部署。對於金融、醫療、政府等受監管行業,地端部署不僅是成本考量,更是合規必要。企業在選擇開源模型時,需要考慮模型的可塑性、基礎能力和訓練難度。GPT OSS雖然訓練較困難但不易遺忘,適合需要穩定性的場景;Llama系列可塑性高但容易遺忘,適合需要頻繁微調的應用。 但是,地端AI部署遠比想像複雜,企業需要做好充分準備。硬體方面,除了GPU採購困難外,還需要升級機房電力系統、網路設備(100G以上交換器)和散熱系統。軟體方面,從作業系統選擇、CUDA環境配置、Python開發環境建置,到模型下載部署、企業系統整合等,每個環節都需要專業技術能力。更重要的是建立驗證標準,企業必須先定義明確的應用情境,建立量化的評估指標,讓實際使用者對AI產出進行評分驗證。 Jerry建議企業採用「先工具後自建」的策略,先透過成熟的企業AI工具建立使用經驗,再根據實際需求決定是否投資自建地端系統。他也提醒整個導入過程通常需要半年到一年時間,企業應該制定短中長期的AI投資計畫。 Powered by Firstory Hosting

    1시간 6분
  2. 東京在線EP17_ 從亞馬遜日本到日本獨角獸Mercari,跟著在日資深工程師看兩種典型國際化企業 ft. 前Mercari後端工程師 Po-An

    4일 전

    東京在線EP17_ 從亞馬遜日本到日本獨角獸Mercari,跟著在日資深工程師看兩種典型國際化企業 ft. 前Mercari後端工程師 Po-An

    本集《東京在線》邀請到 Po-An,曾任 Amazon Japan 後端工程師,後加入日本獨角獸公司 Mercari,參與快速成長的新創專案。他的職涯跨足大型企業與新創環境,對企業文化、流程與技術協作有深刻洞察。 節目中,Po-An 分享在 Amazon Japan 的跨部門專案與系統設計經驗,以及在 Mercari 新創環境下的敏捷開發、快速試錯與「Go Bold」文化,呈現跨文化團隊協作的重要性,並解析工程師在不同組織中的成長與角色擴展。他也提供對想進入日本科技市場的新創或技術人才的實務建議,涵蓋文化適應、職涯規劃與技術管理思維,並分享日本新創生態與技術趨勢觀察。 節目重點: ✅ 大型企業 vs. 新創公司的文化與流程比較 ✅ 跨部門與跨文化技術協作經驗分享 ✅ 敏捷開發與快速試錯在新創環境的應用 ✅ 工程師在不同組織中的成長與角色擴展 ✅ 對進入日本科技市場的新創或技術人才的建議 - 主持人:Ko桑(柯誠) 本集來賓:Po-An — 前Mercari後端工程師 了解更多 Meet Global 👉🏼 https://pse.is/7rqvqs 📍鏈結東京產業動態,關注Startup Island TAIWAN Tokyo Hub:https://tokyo.startupisland.tw/ 🎬 Production Team: Meet 創業小聚 🎧 Editing and Post-Production: 聲歷其境 All Around You Powered by Firstory Hosting

    35분
  3. 數位關鍵字203.Meta砸百億美元挖角AI天才!Zuckerberg能用錢買到超級智慧嗎?

    8월 29일

    數位關鍵字203.Meta砸百億美元挖角AI天才!Zuckerberg能用錢買到超級智慧嗎?

    Meta執行長Mark Zuckerberg正進行矽谷史上最瘋狂的挖角行動,開出高達1億美金的薪資包,瘋狂從OpenAI、Google、Anthropic等AI巨頭挖人。這場AI人才大戰不僅創下科技業薪資新紀錄,更可能重塑整個矽谷的競爭格局。數位時代創新長黃亮崢James邀請戴伊爾斯Botsnova創辦人兼執行長劉詩彥Sean,深入解析Meta這場前所未見的AI人才爭奪戰背後的戰略考量與產業影響。 聽完這集你可學到: 1.史無前例的薪資競賽規模:Meta開出1億美金薪資包在科技業歷史上的驚人地位,相較於2000年代Google幾百萬美金的挖角標準,這次手筆的誇張程度。 2.AI人才的戰略價值分析:Meta從不同公司挖來的人才類型,包括OpenAI早期研究員的大模型訓練經驗、Google DeepMind科學家的理論基礎,以及各類工程實作專家可能形成的新戰隊組合。 3.Scale AI、Windsurf挖角案例的市場競爭意涵:Meta花140億美金投資Scale AI挖走創辦人汪滔(Alexendr Wang)、Google也在OpenAI併購Windsurf破局之後出手挖走創辦人的手段,以及這種新型挖角模式對新創公司和投資人造成的巨大衝擊。 Meta這次的戰略轉彎確實急迫且驚人。從去年還在大力推動元宇宙、甚至把公司名稱從Facebook改成Meta,到現在突然砸重金成立Meta Superintelligence Labs,這種180度大轉彎在科技巨頭中極為罕見。AI搜尋和對話助手正在改變使用者取得資訊的方式,直接威脅到Meta以廣告為核心的商業模式。當使用者可能更依賴AI助手而不是社群媒體來取得資訊時,Meta必須在這個關鍵時刻面對OpenAI的ChatGPT和Google Gemini在AI領域建立的強大領先優勢,  Meta這次挖角策略採取「全方位收集」模式,Sean分析這些人才的戰略價值各有不同:從OpenAI挖來的早期研究員擁有GPT系列模型開發的第一手經驗;Google DeepMind的科學家具備強化學習、電腦視覺等領域的深厚理論基礎;還有大量工程實作專家知道如何讓AI模型在大規模系統上高效運行。TBD(To Be Determined)這個實驗室名稱雖然看似模糊,但Sean認為這更像是策略性的彈性保留,在AI領域變化如此快速的情況下,保持開放的技術路線選擇權。 儘管擁有如此豪華的人才陣容,Meta在技術執行上仍面臨重大挑戰。Llama 4的發布被社群普遍認為未達預期,甚至有內部員工爆料模型性能始終無法達到開源SOTA水準。Sean指出,這反映出Meta在模型架構、訓練技術、系統整合等方面可能存在根本性問題。光有頂尖人才還不夠,如何有效整合這些來自不同文化背景的專家,建立清晰的技術路線圖,才是Meta能否成功的關鍵。 Powered by Firstory Hosting

    1시간 37분

평가 및 리뷰

4.3
최고 5점
12개의 평가

소개

【數位時代Podcast】專講科技創新與轉型成長,將複雜的數位技術翻譯為新商業機會,讓轉型決策、資源配置有最前端的觀點與策略思考! 為你說數位、訪專家、談實戰。有想聽的主題或合作提案,歡迎來信:podcast@bnext.com.tw Powered by Firstory Hosting

數位時代 +의 콘텐츠 더 보기

좋아할 만한 다른 항목