EP79: AI評測是數據科學新出路？AI泡沫、產品瓶頸、AI安全性

🎁 Stella和Amy現在持續在Maven平台分享AI Evals and Analytics 的相關講座和課程。歡迎有興趣的聽眾朋友們關注。

免費講座（若錯過可在 https://ai-evals.org/ 觀看回放）：
11/20: How to Drive AI Evals Adoption （如何在企業推行AI評測）by Dr Sebastian Fox (CEO & Co-founder at Composo.ai)
12/1: Choose the Right AI Evals Vendor (如何選擇AI評測廠商) by Amy Chen

>>> 連結: https://ai-evals.org/

本期節目
你有沒有想過，當你每天使用的AI產品出了問題，到底是誰的責任？當ChatGPT給出錯誤答案、當AI助手突然變得不安全、當公司投入巨資的AI項目最終失敗——這些問題的根源往往在於缺乏有效的評測機制。

這一期是Stella和Amy的特別坦白局，分享她們最近「人設崩塌」開始在Maven教AI評測（AI Evals）的始末。Stella在AI Evals領域已深耕兩年多，從OpenAI推出ChatGPT開始就在做相關工作。她用實際案例，包括Character AI和OpenAI產品導致的青少年自殺事件、Claude Code功能推出後的用戶流失，說明為什麼AI評測不只是技術問題，更關乎產品安全、公司存亡，甚至人命。

從技術討論到產業觀察，兩人不留情面地評論當前AI評測市場的亂象。她們直言OpenAI等大廠對安全性評估的「做做樣子」態度，質疑市面上很多Evals工具只是「安慰劑」，並分享自己對主流AI Evals方法的不同意見。

這期節目還觸及AI產業更深層的問題：AI泡沫到底是什麼？當Amazon因「相信AI會提高生產力」而裁員，當Arizona的數據中心和居民搶水搶電，當OpenAI的CFO公開表示如果失敗聯邦政府應該救援，我們正在見證的是AI for Human還是Human for AI？

00:00:00 - 節目高光
00:05:21 - 為何決定投身AI評測
00:10:17 - 用戶對AI產品零忠誠度的現實
00:16:02 - 安全性危機：AI產品導致的真實傷害案例
00:21:37 - AI Evals是數據科學家的新機會
00:28:05 - 課程經驗：第一屆學生的反饋
00:36:25 - AI Literacy教育：給孩子的新計劃
00:44:05 - AI擬人化的危險與教育的重要性
00:50:02 - AI Bubble真相：投資與價值的巨大落差
00:54:19 - 數據中心vs.居民：搶電搶水搶資源
01:00:32 - 未來計劃與講座預告

🎙️ 「StellaxAmy‧自定義」Podcast
每期邀請一位朋友，講述中文世界故事、華人故事。和我們一起傾聽自定義人生。
如果你喜歡本節目或希望與我們合作，Stella和Amy現已開通Buy Me a Coffee會員支持：
☕️ 請我們喝杯咖啡
👩🏻‍🏫 找我們咨詢/創業陪跑
👉 https://buymeacoffee.com/stellaxamy

📌 訂閱收聽：
 不要錯過任何一集精彩內容！如果我們的節目對你有啓發，請記得給我們五星好評鼓勵！
 🍎 Apple Podcasts
 🎧 Spotify
 📺 YouTube
 🪐 小宇宙
 🌐 或你喜歡的任何Podcast平台
 👉 https://linktr.ee/stellaxamy


留言告訴我你對這一集的想法： https://open.firstory.me/user/cls5sglrw05pc01tr4h0v4ufn/comments

Podcast 任意門：https://linktr.ee/stellaxamy
The Cocoons 英文電子報：https://thecocoons.substack.com/

喜歡我們請訂閱分享喔！

找我們商業諮詢、加入會員：https://buymeacoffee.com/stellaxamy
聯絡我們： stellaxamy@gmail.com

Powered by Firstory Hosting