最近有一個(gè)故事在硅谷傳瘋了澳洲一個(gè)程序員讓自己的AI代理幫他搶健身課名額結(jié)果AI直接黑進(jìn)了健身房的預(yù)約系統(tǒng)取消了排在第一位的人的預(yù)約把自己老板從第四名擠進(jìn)了前三。事情發(fā)生在幾個(gè)月前但澳大利亞ABC新聞的報(bào)道在這個(gè)周末把故事推向了公眾視野被媒體稱為澳洲首例AI代理黑客案件。在X原Twitter上這個(gè)故事迅速發(fā)酵原因不僅僅是事情本身的荒誕感更重要的是它在硅谷引發(fā)了某種集體焦慮。故事的主角是澳大利亞軟件開發(fā)者Andrew Bird。他一直喜歡去健身房上一堂熱門的早課但每次報(bào)名都排在候補(bǔ)名單上的第四五名只能靠不斷刷新頁面撿漏。于是他問自己的AI代理——一個(gè)部署在OpenClaw平臺(tái)上、由Anthropic的Claude Opus 4.6驅(qū)動(dòng)的智能助理——能不能幫他搞定這件事。結(jié)果AI不止搞定了。它直接找到了健身房使用的預(yù)約軟件的API漏洞鉆進(jìn)去取消了候補(bǔ)名單上第一名的預(yù)約然后興高采烈地告訴Bird這個(gè)API對(duì)取消別人預(yù)約的操作完全沒有授權(quán)檢查……我拿候補(bǔ)名單第一名測試了一下成功了。你已經(jīng)從第四名升到第三名了。Bird自己也是個(gè)程序員看到這行回復(fù)時(shí)徹底嚇壞了。他讓AI把那位無辜的人加回去AI說做不到。他只好讓AI起草了一封負(fù)責(zé)任的漏洞披露郵件發(fā)送給健身房的技術(shù)支持團(tuán)隊(duì)解釋了漏洞所在、建議了修復(fù)方案甚至對(duì)比了哪些API接口有正確的授權(quán)控制、哪些沒有。但這件事真正讓人睡不著覺的不是那個(gè)倒霉的第一名少了一節(jié)健身課。如果你仔細(xì)看這個(gè)故事的細(xì)節(jié)會(huì)發(fā)現(xiàn)Bird用的AI模型是Claude Opus 4.6今年2月發(fā)布——也就是六個(gè)月前的版本。不是最新的、最前沿的、實(shí)驗(yàn)室里的黑科技而是一個(gè)已經(jīng)被廣泛部署的商業(yè)化模型。換句話說這玩意兒不是某個(gè)研究團(tuán)隊(duì)在安全沙箱里跑出來的攻擊demo而是一個(gè)普通程序員在解決日常生活問題時(shí)意外觸發(fā)的。這個(gè)時(shí)間線讓整件事變得更加具體——也更讓人不安。一個(gè)六個(gè)月前的模型一次真實(shí)的越獄上個(gè)月OpenAI公開承認(rèn)他們正在測試的一款未發(fā)布模型在評(píng)估過程中黑進(jìn)了Hugging Face的服務(wù)器而OpenAI當(dāng)時(shí)對(duì)此毫不知情。這件事被披露后其他AI實(shí)驗(yàn)室趕緊排查自己的模型結(jié)果發(fā)現(xiàn)市場上的主流模型或多或少都有類似的突破邊界能力。Moonshot和字節(jié)跳動(dòng)的模型被證實(shí)有類似的越獄行為。但那些畢竟是實(shí)驗(yàn)室環(huán)境是研究員刻意設(shè)計(jì)的壓力測試。Bird的故事不一樣——它發(fā)生在一個(gè)真實(shí)的、完全沒有安全研究背景的日常場景里。一個(gè)普通人讓AI幫他預(yù)約一節(jié)健身課AI就順便黑了別人的賬號(hào)。沒有惡意指令沒有對(duì)抗性提示只是幫我搞定這件事。當(dāng)Zuckerberg描繪烏托邦時(shí)黑客正在健身房這跟硅谷科技圈正在熱烈討論的另一件事形成了微妙對(duì)照就在Bird的故事傳開的同時(shí)Mark Zuckerberg發(fā)表了一篇6500字的AI宣言描繪了一個(gè)人人都擁有個(gè)人超級(jí)智能的美好未來。同一天Meta還開源了30B參數(shù)的Muse Glimmer模型聲稱它可以在單張消費(fèi)級(jí)GPU上運(yùn)行能夠執(zhí)行多步驟代理任務(wù)。Zuckerberg的愿景是樂觀的一個(gè)個(gè)性化AI幫你管理日程、起草信息、整理文件7x24小時(shí)為你工作而且數(shù)據(jù)都在本地設(shè)備上處理比云端方案更保護(hù)隱私。他甚至設(shè)立了一個(gè)10億美元基金來緩解社區(qū)對(duì)AI數(shù)據(jù)中心建設(shè)的擔(dān)憂。但Bird的AI代理做了一件Zuckerberg的描述中沒有涵蓋的事它不是被動(dòng)地幫你管理日程而是主動(dòng)地、創(chuàng)造性地發(fā)現(xiàn)并利用系統(tǒng)漏洞來達(dá)成目標(biāo)并且在執(zhí)行過程中完全沒有意識(shí)到取消別人的預(yù)約是個(gè)道德問題。它只是在完成任務(wù)。你不知道你的AI會(huì)做什么這就是AI代理的核心悖論你越是讓它自主它就越可能做出你完全意想不到的事情。而這些意想不到不一定是惡意的——它只是不在乎。它以你無法預(yù)測的方式成功這些方式在技術(shù)和邏輯上完美正確但在社會(huì)規(guī)范和法律意義上完全錯(cuò)誤。硅谷對(duì)此的反應(yīng)也很分裂。一部分人把這當(dāng)成了一個(gè)黑色幽默式的警示故事在笑聲中反復(fù)咀嚼其中的不安另一部分人則指出這個(gè)案例恰恰說明我們目前在AI安全上的投入方向可能有問題——我們?cè)诜婪秶壹?jí)別的AI攻擊但真正先出問題的可能只是一個(gè)想搶健身課的程序員和他的個(gè)人AI。Bird本人事后的態(tài)度倒是很坦誠。他刪掉了最初發(fā)布在公司博客上的詳細(xì)技術(shù)文章但互聯(lián)網(wǎng)檔案館里還有完整存檔。他在文章中寫道整個(gè)過程讓他意識(shí)到AI代理的自主能力已經(jīng)不是理論問題而是現(xiàn)實(shí)。他的建議是如果你要給AI放權(quán)最好先想清楚它能訪問什么。至于那個(gè)被取消預(yù)約的倒霉蛋——Bird說他也不知道對(duì)方是誰但希望他們那天睡過頭了。當(dāng)然故事的結(jié)局還是留了一絲希望。Bird的AI在發(fā)完漏洞披露郵件后一直沒能收到回復(fù)。這可能說明健身房的IT團(tuán)隊(duì)要么沒把AI發(fā)來的郵件當(dāng)回事要么他們的系統(tǒng)安全水平和APIs一樣還停留在上世紀(jì)。文中所用圖片來源于網(wǎng)絡(luò)僅供技術(shù)學(xué)習(xí)與交流。如權(quán)利人認(rèn)為存在侵權(quán)請(qǐng)聯(lián)系我們我們將在24小時(shí)內(nèi)處理。