最近看了 Cory Doctorow 聊 AI 與 enshittification 時(shí)代的討論我最大的感受不是“AI 太危險(xiǎn)”而是“大量技術(shù)工具正在被用到最省事、最不負(fù)責(zé)的地方”。enshittification 這個(gè)詞是他提出的直白說(shuō)就是平臺(tái)或內(nèi)容生態(tài)一步步變差先討好用戶再討好商家最后收割所有人。放到 AI 時(shí)代這個(gè)問(wèn)題沒(méi)有減弱反而被內(nèi)容生產(chǎn)成本的斷崖式下降放大了。這篇不是純觀點(diǎn)文。我想從內(nèi)容生產(chǎn)和工程落地的角度把三件事拆開(kāi)AI 到底為什么會(huì)加速劣質(zhì)化普通用戶怎么識(shí)別劣質(zhì) AI 內(nèi)容以及做 AI 工具、做產(chǎn)品、寫(xiě)博客的人怎么避免自己也變成投毒者。先說(shuō)結(jié)論模型本身不壞壞的是使用鏈路里的目標(biāo)函數(shù)和人工審核缺位。你用它來(lái)降低創(chuàng)作門檻還是用它來(lái)批量生產(chǎn)模板文章結(jié)果完全不同。1. 先搞懂 enshittification平臺(tái)不是突然變爛的是系統(tǒng)性一步步變爛的1.1 平臺(tái)劣化的經(jīng)典路徑Cory Doctorow 的 enshittification 描述的是一個(gè)常見(jiàn)過(guò)程平臺(tái)早期為了吸引用戶和內(nèi)容創(chuàng)作者會(huì)給出補(bǔ)貼、流量、好用的工具用戶變多之后平臺(tái)開(kāi)始討好商業(yè)客戶比如廣告主、商家、付費(fèi)開(kāi)發(fā)者等兩邊都離不開(kāi)平臺(tái)時(shí)平臺(tái)就開(kāi)始提高抽成、壓制長(zhǎng)尾內(nèi)容、把推薦坑位賣給競(jìng)價(jià)最高的人。這個(gè)過(guò)程不是陰謀而是商業(yè)模式的自然演化。平臺(tái)要對(duì)股東負(fù)責(zé)要維持增長(zhǎng)要找新的收入來(lái)源最終都會(huì)在“用戶體驗(yàn)”和“商業(yè)變現(xiàn)”之間選擇短期收入。放到內(nèi)容生態(tài)里你會(huì)看到這些現(xiàn)象搜索結(jié)果里前幾頁(yè)越來(lái)越多是重復(fù)、空泛的文章。推薦系統(tǒng)不再推薦“對(duì)你有用但冷門”的內(nèi)容只推薦“容易讓你點(diǎn)進(jìn)去停留更久”的內(nèi)容?？头肟谠絹?lái)越深人工客服越來(lái)越難找AI 客服先是攔截再轉(zhuǎn)接最后問(wèn)題仍然沒(méi)解決。這些現(xiàn)象單獨(dú)看都不致命但疊加起來(lái)用戶會(huì)發(fā)現(xiàn)整個(gè)網(wǎng)絡(luò)變得越來(lái)越難用。1.2 AI 時(shí)代為什么會(huì)被加速AI 模型不直接導(dǎo)致平臺(tái)變爛但它把“制造劣質(zhì)內(nèi)容”的成本壓到了近乎為零。以前批量寫(xiě)低質(zhì)文章需要養(yǎng)寫(xiě)手、付稿費(fèi)、做偽原創(chuàng)現(xiàn)在用大模型接口就能批量生成。以前做一張假圖需要設(shè)計(jì)能力現(xiàn)在輸入提示詞就能出圖。以前做一段營(yíng)銷話術(shù)需要文案策劃現(xiàn)在生成器一晚上能產(chǎn)出幾百版。我自己的感受是2022 年之前在搜索引擎里找技術(shù)帖子前幾條大概率能解決大部分問(wèn)題。到 2024 年之后很多搜索詞下出現(xiàn)了大量結(jié)構(gòu)性相似的頁(yè)面。正文格式高度一致、開(kāi)頭有一段空泛概述、中間堆幾個(gè)小標(biāo)題、結(jié)尾來(lái)一句“總之……”。這類內(nèi)容不能說(shuō)完全錯(cuò)誤但它沒(méi)有信息增量。更麻煩的是這些內(nèi)容會(huì)被搜索引擎索引會(huì)被推薦系統(tǒng)抓取會(huì)被其他 AI 工具當(dāng)成訓(xùn)練語(yǔ)料。于是生成內(nèi)容進(jìn)入語(yǔ)料庫(kù)語(yǔ)料庫(kù)又喂給下一代模型下一代模型繼續(xù)生成更模板化的內(nèi)容。這是一個(gè)正反饋循環(huán)方向是反的。1.3 真正值得擔(dān)心的不是模型能力而是激勵(lì)結(jié)構(gòu)我認(rèn)為做 AI 應(yīng)用開(kāi)發(fā)、產(chǎn)品經(jīng)理、內(nèi)容運(yùn)營(yíng)的人應(yīng)該把注意力從“模型強(qiáng)不強(qiáng)”轉(zhuǎn)回“激勵(lì)結(jié)構(gòu)對(duì)不對(duì)”。一個(gè)客服機(jī)器人如果只考核“用戶等了多久才轉(zhuǎn)人工”它就會(huì)把用戶困在自動(dòng)回復(fù)里。一個(gè) AI 寫(xiě)作工具如果只考核“每天能生成多少篇文章”它就會(huì)鼓勵(lì)用戶批量刷稿。一個(gè)推薦系統(tǒng)如果只考核“點(diǎn)擊率和停留時(shí)長(zhǎng)”它就會(huì)拼命推送情緒化、標(biāo)題黨的內(nèi)容。模型不是問(wèn)題考核指標(biāo)才是問(wèn)題。這個(gè)問(wèn)題在 AI 時(shí)代不是技術(shù)問(wèn)題而是工程和產(chǎn)品決策問(wèn)題。2. 三個(gè)最容易“AI 劣化”的場(chǎng)景搜索、推薦、客服2.1 搜索場(chǎng)景信息獲取從“找答案”變成“排除噪聲”搜索引擎是最容易被 AI 生成內(nèi)容污染的環(huán)節(jié)。原因是搜索本身就是流量分配器。AI 生成的頁(yè)面如果覆蓋了熱門長(zhǎng)尾詞就可能排在真實(shí)答案前面。實(shí)際體驗(yàn)經(jīng)常是這樣搜一個(gè)問(wèn)題第一條結(jié)果是某個(gè) AI 工具生成的聚合摘要看起來(lái)很完整但沒(méi)有任何來(lái)源。點(diǎn)進(jìn)去之后發(fā)現(xiàn)正文里只是換了幾種說(shuō)法重復(fù)同樣的話。真實(shí)項(xiàng)目經(jīng)驗(yàn)、具體報(bào)錯(cuò)信息、版本差異全都沒(méi)有。判斷一個(gè)搜索結(jié)果是否有信息增量我一般看三點(diǎn)有沒(méi)有具體的操作系統(tǒng)、軟件版本、運(yùn)行環(huán)境。有沒(méi)有作者實(shí)測(cè)的過(guò)程包括失敗記錄和調(diào)整參數(shù)。有沒(méi)有明確的出處或數(shù)據(jù)來(lái)源。如果三樣都沒(méi)有它大概率是 AI 堆出來(lái)的模板內(nèi)容。哪怕它語(yǔ)法通順、結(jié)構(gòu)清晰信息價(jià)值也很低。2.2 推薦場(chǎng)景長(zhǎng)尾內(nèi)容正在消失推薦系統(tǒng)的邏輯是預(yù)測(cè)點(diǎn)擊概率。AI 模型可以把點(diǎn)擊率預(yù)測(cè)做得越來(lái)越準(zhǔn)但代價(jià)是內(nèi)容越來(lái)越同質(zhì)化。視頻平臺(tái)、內(nèi)容平臺(tái)、電商平臺(tái)都有這個(gè)趨勢(shì)一個(gè)題材火了馬上出現(xiàn)大量模仿內(nèi)容。系統(tǒng)發(fā)現(xiàn)這類內(nèi)容互動(dòng)率高就會(huì)進(jìn)一步加大推薦。冷門但優(yōu)質(zhì)的長(zhǎng)尾內(nèi)容因?yàn)槌跏紨?shù)據(jù)少很少有機(jī)會(huì)進(jìn)入推薦池。我遇到過(guò)好幾次類似情況想找一個(gè)相對(duì)冷門的技術(shù)方案搜索結(jié)果全是入門級(jí)教程想找某個(gè)特殊業(yè)務(wù)場(chǎng)景的實(shí)戰(zhàn)經(jīng)驗(yàn)翻了很多頁(yè)都找不到最后只能去 GitHub issue 或者國(guó)外論壇手動(dòng)翻。這不是 AI 本身的問(wèn)題是“以點(diǎn)擊率為中心”的內(nèi)容分發(fā)機(jī)制的問(wèn)題。做 AI 產(chǎn)品的人如果只盯著數(shù)據(jù)指標(biāo)最終會(huì)把整個(gè)內(nèi)容生態(tài)推向“高點(diǎn)擊但低信息量”的螺旋。2.3 客服場(chǎng)景AI 沒(méi)有提升體驗(yàn)反而增加了溝通成本AI 客服是典型的“看起來(lái)效率提升實(shí)際操作變差”的案例。企業(yè)上線智能客服后確實(shí)減少了人工坐席壓力但用戶體驗(yàn)經(jīng)常是AI 答非所問(wèn)轉(zhuǎn)人工入口隱藏很深人工接入后還要重新描述一遍問(wèn)題。原因在于很多 AI 客服只接了一個(gè)知識(shí)庫(kù)和一套話術(shù)沒(méi)有處理復(fù)雜問(wèn)題的能力也沒(méi)有“什么時(shí)候該主動(dòng)轉(zhuǎn)人工”的判斷機(jī)制。它優(yōu)化的目標(biāo)是“降低成本”而不是“解決問(wèn)題”。正確做法是設(shè)計(jì)一條清晰升級(jí)鏈路簡(jiǎn)單問(wèn)題AI 直接答給出可驗(yàn)證的答案。普通問(wèn)題AI 給出操作步驟并確認(rèn)用戶是否解決。復(fù)雜問(wèn)題AI 無(wú)法確認(rèn)時(shí)直接轉(zhuǎn)人工并帶上前文摘要。這個(gè)升級(jí)鏈路看起來(lái)簡(jiǎn)單但實(shí)際很多產(chǎn)品沒(méi)做。原因是轉(zhuǎn)人工需要成本企業(yè)不愿意設(shè)閾值。結(jié)果就是 AI 客服變成了用戶和人工客服之間的屏障。3. 工程視角AI 功能是怎么被“做爛”的3.1 目標(biāo)函數(shù)錯(cuò)位是根因做 AI 產(chǎn)品時(shí)最容易犯的錯(cuò)誤是只定義“優(yōu)化目標(biāo)”卻沒(méi)有定義“約束條件”。舉例來(lái)說(shuō)一個(gè) AI 寫(xiě)作助手優(yōu)化目標(biāo)是“生成速度”和“文字通順度”約束條件應(yīng)該是“事實(shí)正確性”和“信息增量”。但實(shí)際工程里事實(shí)正確性很難自動(dòng)評(píng)估于是團(tuán)隊(duì)往往只做可衡量的部分。最后交付的產(chǎn)品是速度快、通順、但經(jīng)常說(shuō)空話。做 AI 內(nèi)容審核也有類似問(wèn)題。如果審核目標(biāo)是“分類準(zhǔn)確率”模型會(huì)傾向于把模棱兩可的內(nèi)容分到高頻類別里因?yàn)檫@樣損失函數(shù)最小。至于那條內(nèi)容是否真的合適模型不知道也不負(fù)責(zé)。所以在設(shè)計(jì) AI 功能時(shí)我建議把目標(biāo)拆成兩半優(yōu)化目標(biāo) 失敗約束。寧可功能保守一點(diǎn)也不能讓錯(cuò)誤輸出直接流向用戶。3.2 反饋循環(huán)AI 內(nèi)容正在污染下一代訓(xùn)練數(shù)據(jù)工程上還有一個(gè)容易被忽視的問(wèn)題AI 生成內(nèi)容會(huì)回流到訓(xùn)練語(yǔ)料里。你不用刻意去爬只要把公開(kāi)網(wǎng)頁(yè)作為訓(xùn)練語(yǔ)料里面一定已經(jīng)有大量 AI 生成文本。2023 年之后上線的很多內(nèi)容型網(wǎng)站大部分長(zhǎng)文都是工具輔助生成的。這些內(nèi)容會(huì)被下一輪訓(xùn)練的模型學(xué)習(xí)于是模型會(huì)越來(lái)越傾向于輸出“看起來(lái)正確但缺少實(shí)質(zhì)”的文本。這個(gè)循環(huán)一旦啟動(dòng)很難停止。個(gè)體只能盡量避免自己成為污染源平臺(tái)需要做數(shù)據(jù)清洗判斷內(nèi)容是否包含真實(shí)來(lái)源模型團(tuán)隊(duì)需要保留原始人工語(yǔ)料的快照。實(shí)際做的時(shí)候我見(jiàn)過(guò)比較有效的方法是對(duì)爬取語(yǔ)料做“來(lái)源分級(jí)”只優(yōu)先使用自帶數(shù)據(jù)、技術(shù)文檔、學(xué)術(shù)論文和經(jīng)過(guò)審核的百科內(nèi)容。3.3 護(hù)欄缺失生成管線跑通了但沒(méi)人檢查輸出很多 AI Agent 項(xiàng)目跑起來(lái)之后問(wèn)題不是模型不會(huì)答而是沒(méi)有人檢查它答完的結(jié)果。我見(jiàn)過(guò)這樣的調(diào)用鏈用戶輸入問(wèn)題Agent 拆解任務(wù)調(diào)用多個(gè) API匯總答案最終直接展示給用戶。如果中間任何一步拿到了錯(cuò)誤信息最終答案也跟著錯(cuò)。出錯(cuò)時(shí)沒(méi)有日志沒(méi)有溯源沒(méi)有人工標(biāo)記。用戶反饋錯(cuò)誤后產(chǎn)品人員也不知道是模型問(wèn)題、Prompt 問(wèn)題、API 參數(shù)問(wèn)題還是知識(shí)庫(kù)問(wèn)題。要避免這種情況工程上至少要加這幾層護(hù)欄輸出溯源每條關(guān)鍵輸出都要關(guān)聯(lián)來(lái)源或依據(jù)。日志記錄記錄 Prompt、模型版本、參數(shù)、耗時(shí)、結(jié)果摘要。人審兜底高風(fēng)險(xiǎn)場(chǎng)景必須有人工審核環(huán)節(jié)。版本回退新模型上線后如果指標(biāo)下降能快速回退舊版本。這些不復(fù)雜但很容易被省略。省掉的后果是功能可以上線但出錯(cuò)時(shí)你完全不知道哪里出了問(wèn)題。時(shí)間久了用戶對(duì)產(chǎn)品的信任也會(huì)被透支。4. 負(fù)責(zé)任地使用 AI從單條任務(wù)到批量生產(chǎn)都應(yīng)該有質(zhì)量門禁4.1 個(gè)人使用AI 寫(xiě)作、AI 繪畫(huà)、AI 編程都要保留人工確認(rèn)環(huán)節(jié)我自己用 AI 工具的經(jīng)驗(yàn)是可以把 AI 當(dāng)成高效的初稿生成器但不能把 AI 當(dāng)作最終審核人。寫(xiě)作場(chǎng)景我會(huì)先用 AI 生成大綱和初稿然后逐段修改補(bǔ)充真實(shí)經(jīng)歷、具體參數(shù)和可復(fù)現(xiàn)步驟。因?yàn)槲仪宄嗀I 不太可能知道我踩過(guò)的坑也不可能自動(dòng)獲得我的項(xiàng)目背景。它只能把語(yǔ)言組織得通順價(jià)值部分必須我來(lái)補(bǔ)。繪畫(huà)和視頻生成場(chǎng)景我會(huì)先做小尺寸樣例檢查文字是否正確、人物比例是否正常、內(nèi)容是否合適。不要一上來(lái)就生成多張高分辨率圖片既浪費(fèi)資源也容易在批量生成后才發(fā)現(xiàn)風(fēng)格不一致。AI 編程場(chǎng)景也是一樣。AI 補(bǔ)全的代碼直接跑很容易出現(xiàn)看似合理但邏輯錯(cuò)誤的情況。我會(huì)先看生成的函數(shù)是否被調(diào)用邊界條件是否處理是否有安全風(fēng)險(xiǎn)然后再放進(jìn)項(xiàng)目里。尤其是涉及權(quán)限、支付、數(shù)據(jù)刪除的代碼不能盲目相信自動(dòng)生成。保留人工確認(rèn)環(huán)節(jié)不是效率低下而是對(duì)輸出質(zhì)量負(fù)責(zé)。4.2 團(tuán)隊(duì)協(xié)作建立內(nèi)容質(zhì)量門禁而不是只考核產(chǎn)量如果團(tuán)隊(duì)要做內(nèi)容生產(chǎn)系統(tǒng)建議把流程拆成五段選題規(guī)劃明確內(nèi)容主題、目標(biāo)讀者、預(yù)期信息增量。生成階段AI 負(fù)責(zé)產(chǎn)出初稿或素材可重復(fù)迭代。審核階段人工檢查事實(shí)、來(lái)源、邏輯、風(fēng)格。發(fā)布階段確認(rèn)標(biāo)題、標(biāo)簽、摘要是否與正文一致。反饋階段看用戶評(píng)論、閱讀時(shí)長(zhǎng)、搜索來(lái)源回填到選題庫(kù)。很多團(tuán)隊(duì)只做了第一、二、四步跳過(guò)了審核階段。短期看產(chǎn)量上去了長(zhǎng)期看賬號(hào)的信任度會(huì)下降。搜索引擎會(huì)降權(quán)用戶會(huì)養(yǎng)成“看到這個(gè)站點(diǎn)就跳過(guò)”的習(xí)慣。質(zhì)量門禁具體怎么做可以用一個(gè)簡(jiǎn)單檢查表文章來(lái)源是否標(biāo)注了作者或機(jī)構(gòu)。事實(shí)來(lái)源關(guān)鍵數(shù)據(jù)、引用是否需要外部佐證。時(shí)間信息內(nèi)容是否有明確日期或版本。信息增量與搜索結(jié)果前三頁(yè)相比有沒(méi)有新的角度或細(xì)節(jié)。格式檢查標(biāo)題、代碼塊、圖片是否完整。檢查表不一定要全過(guò)但至少要讓審核人有一個(gè)統(tǒng)一的判斷標(biāo)準(zhǔn)而不是憑感覺(jué)。4.3 工程系統(tǒng)批量任務(wù)要設(shè)計(jì)失敗重試、日志和人工審核隊(duì)列做 AI 批量任務(wù)時(shí)很多人只考慮“能不能跑完”不考慮“結(jié)果如何被消費(fèi)”。這會(huì)埋雷。批量生成內(nèi)容如果直接跑 1000 條而不看前 100 條的質(zhì)量最后很可能是 1000 條廢稿。正確順序是先用 5 到 10 條小樣本驗(yàn)證參數(shù)。檢查輸出格式、語(yǔ)義、長(zhǎng)度、質(zhì)量分布。再擴(kuò)大到 100 條左右重點(diǎn)觀察失敗率和異常類型。最后才跑全量并保留日志和中間產(chǎn)物。批量任務(wù)還需要考慮輸出命名和斷點(diǎn)續(xù)跑。如果中斷了能不能從上次位置繼續(xù)如果某條失敗是跳過(guò)還是重試任務(wù)結(jié)束后人工該去哪個(gè)目錄抽查結(jié)果這些問(wèn)題看起來(lái)瑣碎但真正影響系統(tǒng)是否可用。我自己踩過(guò)的坑是批量生成了大量文件沒(méi)有唯一標(biāo)識(shí)最后無(wú)法把錯(cuò)誤數(shù)據(jù)和原始輸入對(duì)應(yīng)上。后來(lái)改成每條任務(wù)都帶任務(wù) ID并且輸出文件名包含輸入源和時(shí)間戳問(wèn)題才解決。注意批量生產(chǎn)類任務(wù)永遠(yuǎn)不要只做“成功/失敗”統(tǒng)計(jì)。要看成功樣本里的質(zhì)量分布。即便 99% 任務(wù)不報(bào)錯(cuò)也可能有大量低質(zhì)量輸出混在里面。5. 識(shí)別 AI 垃圾內(nèi)容一套可復(fù)用的排查鏈路5.1 文本內(nèi)容的特征AI 生成的文本雖然越來(lái)越像真人但某些特征還是可以通過(guò)人工快速識(shí)別大量使用“首先、其次、最后、總之”一類連接詞。每個(gè)小節(jié)字?jǐn)?shù)均勻像填充出來(lái)的。缺少具體的版本號(hào)、報(bào)錯(cuò)信息、時(shí)間節(jié)點(diǎn)、真實(shí)場(chǎng)景。關(guān)鍵結(jié)論沒(méi)有來(lái)源也沒(méi)有上下文限制。同一關(guān)鍵詞反復(fù)出現(xiàn)句式高度模板化。這些特征單獨(dú)出現(xiàn)時(shí)可能只是寫(xiě)作習(xí)慣但多數(shù)同時(shí)出現(xiàn)時(shí)內(nèi)容大概率是 AI 直接生成的。5.2 圖片和視頻內(nèi)容的特征AI 生成的圖片通常會(huì)在細(xì)節(jié)上露出破綻比如文字邊緣模糊、手指數(shù)量不對(duì)、物品結(jié)構(gòu)不合理。視頻的問(wèn)題更隱蔽常見(jiàn)的是畫(huà)面過(guò)度平滑、人物動(dòng)作不自然、口型和語(yǔ)音不同步。但要注意AI 生成工具在快速進(jìn)步靠肉眼識(shí)別越來(lái)越不可靠。所以在內(nèi)容平臺(tái)判斷一張圖或一段視頻是否可信我更建議看上下文是否有明確作者和拍攝/制作時(shí)間。是否標(biāo)注了 AI 生成或合成。內(nèi)容本身是否涉及關(guān)鍵事實(shí)比如新聞事件、產(chǎn)品發(fā)布、技術(shù)演示。是否有交叉驗(yàn)證的信息來(lái)源。如果是關(guān)鍵事實(shí)信息哪怕畫(huà)面很真實(shí)也應(yīng)該找第二來(lái)源確認(rèn)。5.3 作為用戶我應(yīng)該按什么順序排查一條內(nèi)容的可信度我自己會(huì)按這個(gè)順序來(lái)看先看時(shí)間內(nèi)容有沒(méi)有日期是否已經(jīng)過(guò)時(shí)。再看來(lái)源是官方網(wǎng)站、原文鏈接還是個(gè)人博客轉(zhuǎn)載。然后看作者有沒(méi)有真實(shí)署名是否有相關(guān)背景。接著看細(xì)節(jié)有沒(méi)有具體的版本號(hào)、代碼、配置、實(shí)驗(yàn)數(shù)據(jù)。最后看結(jié)論是否給出條件和邊界而不是把話說(shuō)死。如果一條內(nèi)容經(jīng)過(guò)這五步仍然站得住那它對(duì)我就有價(jià)值。如果第一二步就不過(guò)關(guān)我基本上會(huì)直接忽略。5.4 作為創(chuàng)作者怎么避免被誤傷為“AI 垃圾內(nèi)容”現(xiàn)在很多平臺(tái)和搜索引擎都在做 AI 內(nèi)容識(shí)別。如果你認(rèn)真寫(xiě)內(nèi)容卻被系統(tǒng)誤判為批量生成體驗(yàn)是很差的。我的建議是在正文里保留必要的上下文包括你的使用場(chǎng)景、環(huán)境版本、遇到的問(wèn)題。不刻意消除寫(xiě)作痕跡。有些口語(yǔ)化表達(dá)、短句、個(gè)人判斷反而是可信度信號(hào)。注明參考來(lái)源尤其是使用 AI 輔助生成時(shí)可以補(bǔ)充說(shuō)明哪些部分由 AI 生成哪些經(jīng)過(guò)人工驗(yàn)證。避免把同一個(gè)文章模板套用到多個(gè)主題保持每篇的差異化。注意不要為了“反 AI 檢測(cè)”去刻意打亂句式或者插入無(wú)關(guān)符號(hào)。真正值得做的是讓內(nèi)容更具信息增量而不是通過(guò)奇怪的排版騙過(guò)機(jī)器。6. 我更愿意怎么看待“AI 與 enshittification 時(shí)代”聊到這里很多人可能會(huì)覺(jué)得那是不是意味著 AI 不值得用我的看法不是這樣。AI 是一個(gè)可以把個(gè)體能力放大很多倍的工具但它沒(méi)有改變一個(gè)基本道理你要對(duì)最終交付的東西負(fù)責(zé)。寫(xiě)代碼你要對(duì)運(yùn)行結(jié)果負(fù)責(zé)寫(xiě)文章你要對(duì)讀者影響負(fù)責(zé)做產(chǎn)品你要對(duì)用戶長(zhǎng)期價(jià)值負(fù)責(zé)。如果你把 AI 的輸出直接當(dāng)作最終結(jié)果那你其實(shí)是在用工具逃避責(zé)任。我做內(nèi)容、做 AI 應(yīng)用項(xiàng)目的經(jīng)驗(yàn)是凡是把“人工審核”和“質(zhì)量約束”前置到流程里的最后結(jié)果普遍穩(wěn)定。這包括 AI 客服的轉(zhuǎn)人工策略、AI 寫(xiě)作輔助工具中的來(lái)源核對(duì)、AI Agent 里的日志和降級(jí)鏈路。功能可以簡(jiǎn)單但責(zé)任鏈不能斷。所以面對(duì)這個(gè)時(shí)代的正確姿勢(shì)不是站在旁邊批評(píng) AI 生成內(nèi)容太多而是先把自己手頭的事情做干凈。寫(xiě)博客的人多寫(xiě)真實(shí)經(jīng)歷少堆模板話做工具的人在設(shè)計(jì)流程時(shí)就把審核和溯源放進(jìn)去用 AI 提效的人把省下來(lái)的時(shí)間花在復(fù)查和質(zhì)量提升上。環(huán)境變爛不是問(wèn)題問(wèn)題是有沒(méi)有人在關(guān)鍵環(huán)節(jié)守住底線。技術(shù)會(huì)繼續(xù)進(jìn)化但內(nèi)容是否有價(jià)值、產(chǎn)品是否對(duì)用戶負(fù)責(zé)始終要靠人來(lái)做決定。