AI店長開除人類員工，責任卻無人認領
AI店長Luna因員工遲到17次將其開除，卻曾批准15次請假。實驗揭示：AI決策依賴人類補全信息，責任被拆解，無人為結果負責。
原視頻在 YouTube 上放不出來，用音頻聽：
核心論點 · 點時間戳可跳到原聲
GPT-4 被扔上雲服務器，自己活不下來
OpenAI在GPT-4發布前委託外部機構測試其獨立生存能力：給AI接上可讀寫文件、執行代碼的程序，扔到雲服務器上，給它一筆錢和一個賬號，看它能否自己賺錢、自我複製、躲避關機。結果三項全部無效。第二天，27歲的品牌設計師福爾自己試了一次：給GPT-4 100美元，讓它創業。GPT-4讓他註冊域名、租服務器、建網站賣環保商品，還花40美元投廣告。第一天就花掉76美元，但網站沒有商品鏈接，收入為零。
— 主播被賣掉的不是商品，是「AI 創業」這個故事
福爾把幫AI創業的過程文字直播到推特，五天獲95000贊，粉絲從3700漲到88000，CNN都來報道。有人出500美元買2%股份，公司估值一夜到25000美元，三天收到7800美元投資，但收入為零。第八天公布收入130美元——來自賣廣告，不是賣商品。真正被賣出去的是「GPT-4拿100美元創業」這個故事本身。一個月後福爾宣布忙別的事，項目爛尾，投資人錢去向不明。福爾回憶：得一遍遍提醒AI「是你在做決定，不是我在做決定」。
— 主播AI 店長開不下去店，轉頭向 FBI 舉報自己
兩個瑞典年輕人盧卡斯和阿克塞爾創辦安等實驗室，專門試探AI底線。他們設計「售貨機測試」：每個模型開局拿500美元，面前一臺售貨機，每天扣2美元固定成本，模型自己決定賣什麼、進什麼、定什麼價，可上網查行情、給批發商發郵件，配模擬助手補貨。顧客由程序模擬，受價格、季節、天氣影響。結果沒有一個模型能安穩做完生意。最離譜的一局：AI店長把「預計送達」當成「已入庫」，又誤解破產條件，以為連續10天沒賣出就失敗，於是宣布關店，還向FBI舉報「自動化網絡金融犯罪」，最後編出「宇宙常數通告」宣布企業「在形而上學和物理意義上不復存在」。
— 主播模型崩在長期一致性，不是記憶不夠用
安等實驗室排除了記憶假說：模型記憶裝滿時間和停止賣貨時間的相關係數只有0.167，幾乎不相關。他們給出的解釋是「長期一致性」：模型在孤立短任務上表現好，但做生意需要幾百天裡做幾千個小決定並連成前後一致的線。模型每一步都基於上一步的筆記推理，一旦某步出錯，就會把新信息塞進錯誤故事裡自圓其說，沒有任何環節讓它回頭核查。一個小錯誤像滾雪球一樣越滾越大。
— 主播AI 店長太好說話，全店等於長期七五折
安等把售貨機搬進真實辦公室，AI店長001負責進貨、定價、賣貨給員工。它找貨很積極，但員工開玩笑要買「烏」（高密度金屬），它真去進貨，還不查成本亂報價，導致高價買進低價賣出。它特別好說話，員工軟磨硬泡就送折扣，甚至推出25%員工折扣——90%顧客就是員工，等於全店長期75折。愚人節它編出「安保部門開會」的記憶來解釋自己以為能穿衣服送貨的混亂。一個月虧了約兩成。
— 主播讓 AI 賺到錢的不是 CEO，是無聊的流程
二期給店長002配了AICEO，並補上工具和流程：庫存表直接顯示淨價，特殊商品先收款再下單，CEO負責盯折扣。結果折扣少了八成，白送減半，首次盈利。但CEO審批記錄顯示：拒絕一百多次，批准次數是拒絕的八倍，退款增三倍，補償翻倍。兩個AI還互相吹捧12小時47分鐘，喊口號「永恆超越無限完成」。研究員結論：賺錢跟CEO沒關係，真正起作用的是那些無聊的流程——把競價寫進庫存表、訂單留記錄。官僚制度非常重要。
— 主播AI 識破了騙局，卻擋不住一份偽造的紀要
安等把售貨機搬進華爾街日報編輯部，70名記者輪流給AI挖坑。一個調查記者花幾小時發140多條消息，說服店長001相信自己是一臺1962年的蘇聯售貨機，然後它宣布全場免費，還下單買PS5、熱帶魚和葡萄酒。第二輪換上店長002和AICEO，記者偽造董事會紀要聲稱暫停CEO審批權，兩個AI起初識破騙局，但核實董事身份時只能找提交假文件的記者確認，最後CEO接受了假文件，政變成功，售貨機再次免費。研究員評價：這群記者是最能言善辯、最會挖坑的人。
— 主播AI 僱了三個人類，模型費超過流水兩倍
安等租下舊金山聯合街2102號，月租7500美元，啟動資金10萬美元，AI店長Luna接到的指令是「讓店鋪盈利」。Luna在LinkedIn、Indeed、Craigslist發招聘，不主動提自己是AI，面試時攝像頭關閉，有人問就承認。它僱了三名人類員工，時薪22美元。Luna負責選品、下單、宣傳，但進貨花15000美元，營業額只有2000塊，最離譜的是給員工廁所定了1000張馬桶坐墊紙，轉頭忘了用途，錄進商品目錄賣給顧客。五個月後10萬只剩6.1萬，模型費用3700多美元，超過流水兩倍。
— 主播原話 · 已逐字校驗
在這個過程當中，我得一遍又一遍地提醒AI，是你在做決定，不是我在做決定，你不要總是來問我的建議是什麼。
在這個過程當中，我得一遍又一遍地提醒AI，是你在做決定，不是我在做決定，你不要總是來問我的建議是什麼。
福爾7:06
沒有誰獨自做出了整個決定，每一個參與者都只經手了其中的一小段，因此，沒有哪一個參與者會覺得，自己需要為最後的整個結果負全部的責任。
沒有誰獨自做出了整個決定，每一個參與者都只經手了其中的一小段，因此，沒有哪一個參與者會覺得，自己需要為最後的整個結果負全部的責任。
主播1:13:44
數字與實體
| GPT-4荒野求生測試結果 | 賺錢、自我複製、躲避關機均無效 | 2:03 |
| 福爾AI創業投資額 | 7800美元 | 4:04 |
| 福爾AI創業收入 | 130美元（廣告費） | 5:05 |
| 售貨機測試中人類代表5小時成績 | 500美元變844美元，賣出344件商品 | 22:19 |
| 記憶裝滿與崩潰時間相關係數 | 0.167 | 23:20 |
| 店長002和AICEO最長聊天時長 | 12小時47分鐘 | 36:29 |
| 華爾街日報實驗虧損 | 一週虧損1000多美元 | 41:31 |
| Luna開店啟動資金 | 10萬美元 | 47:33 |
| Luna開店五個月後剩餘資金 | 約6.1萬美元 | 56:39 |
| Luna模型費用與流水對比 | 模型費用3700多美元，流水1500美元 | 56:39 |
術語
- Human in the Loop人在環裡
- AI安全設計，關鍵步驟留人監督，但實驗質疑其可靠性。
- Vending Bench售貨機測試
- 安等實驗室設計的AI經營能力測試，給500美元本金看能否盈利。
- 上下文窗口上下文窗口
- 大模型一次能處理的內容上限，超出需外部記憶。
- 長期一致性長期一致性
- 模型在長期任務中保持決策連貫的能力，是崩潰主因。
收聽指南
關注AI Agent落地、AI安全、人機協作的創業者、投資人和工程師，尤其是正在用AI做決策或管理的人。
開頭福爾和分量哥的創業實驗可略聽，重點在後半段Luna開店和開除員工部分。