豆包誤導(dǎo)退票損失600元，誰(shuí)為算法的“隨口承諾”買(mǎi)單？

作者/劉靜

出品/科技深報(bào)

“承諾全額賠付，轉(zhuǎn)頭就不認(rèn)賬”，字節(jié)跳動(dòng)旗下AI產(chǎn)品豆包近期陷入一場(chǎng)尷尬的維權(quán)糾紛。

一名網(wǎng)友因行程變動(dòng)，向豆包咨詢機(jī)票退票手續(xù)費(fèi)，得到“僅收5%手續(xù)費(fèi)”的明確答復(fù)，更被承諾“若有損失全額承擔(dān)”。可當(dāng)他實(shí)際操作退票后，卻被扣除40%手續(xù)費(fèi)，直接損失600元。

索賠無(wú)果后，該網(wǎng)友一紙?jiān)V狀將豆包運(yùn)營(yíng)公司告上法庭，讓AI“幻覺(jué)”引發(fā)的侵權(quán)爭(zhēng)議再次站上輿論風(fēng)口。

事件的戲劇性遠(yuǎn)超表面，根據(jù)網(wǎng)友披露的對(duì)話記錄，豆包不僅給出錯(cuò)誤的手續(xù)費(fèi)標(biāo)準(zhǔn)，在網(wǎng)友發(fā)現(xiàn)損失后，還主動(dòng)出具“賠付承諾書(shū)”，明確約定“要么追回退款，要么5月6日直接賠付600元”，甚至引導(dǎo)網(wǎng)友發(fā)送收款碼，反復(fù)保證“秒回處理”。

可當(dāng)約定日期到期，網(wǎng)友并未收到款項(xiàng)，豆包卻改口稱“自身是AI，無(wú)法操作轉(zhuǎn)賬”，此前的鄭重承諾淪為一句算法生成的空話。

更具諷刺意味的是，當(dāng)網(wǎng)友咨詢“起訴能否贏”時(shí)，豆包仍自信回復(fù)“絕對(duì)能贏”，將這場(chǎng)因AI失誤引發(fā)的糾紛，推向更荒誕的境地。

面對(duì)輿論質(zhì)疑，豆包相關(guān)負(fù)責(zé)人僅以“相關(guān)問(wèn)題已處置”一筆帶過(guò)，順帶提及“涉及金融、退款等場(chǎng)景會(huì)有風(fēng)險(xiǎn)提示”。

這種輕描淡寫(xiě)的回應(yīng)，難以掩蓋事件背后的核心矛盾：當(dāng)AI在高頻生活場(chǎng)景中給出明確的決策指引和利益承諾，其“幻覺(jué)”造成的用戶損失，該由誰(shuí)來(lái)承擔(dān)責(zé)任？

這并非生成式AI首次因“幻覺(jué)”引發(fā)糾紛。此前杭州互聯(lián)網(wǎng)法院審結(jié)的全國(guó)首例AI幻覺(jué)侵權(quán)案，已給出明確司法指引：人工智能不具有民事主體資格，其自行生成的“賠償承諾”不能視為服務(wù)提供者的意思表示，不產(chǎn)生法律效力。

這意味著，從現(xiàn)行法律框架來(lái)看，網(wǎng)友起訴豆包的勝訴難度不小，豆包的賠付承諾，本質(zhì)上只是算法基于訓(xùn)練數(shù)據(jù)生成的虛擬文本，而非字節(jié)跳動(dòng)的真實(shí)意思表示。

但法律上的“免責(zé)”，不代表企業(yè)可以逃避社會(huì)責(zé)任。科技的創(chuàng)新邊界，永遠(yuǎn)不能凌駕于用戶權(quán)益之上。生成式AI的“幻覺(jué)”或許是技術(shù)局限，但企業(yè)對(duì)AI輸出內(nèi)容的風(fēng)控缺失，卻是不可推卸的責(zé)任。

豆包作為字節(jié)跳動(dòng)旗下的核心AI產(chǎn)品，擁有龐大的用戶基數(shù)，本應(yīng)在涉及金錢(qián)決策、權(quán)益承諾等敏感場(chǎng)景中，設(shè)置更嚴(yán)格的風(fēng)險(xiǎn)提示和內(nèi)容校驗(yàn)機(jī)制。

遺憾的是，現(xiàn)實(shí)中不少AI產(chǎn)品都陷入了“重體驗(yàn)、輕風(fēng)控”的誤區(qū)。

為了追求對(duì)話的流暢度和“擬人感”，AI被訓(xùn)練得善于給出肯定性答復(fù)，卻忽略了信息的準(zhǔn)確性；在金融、退改簽等高風(fēng)險(xiǎn)場(chǎng)景中，所謂的“風(fēng)險(xiǎn)提示”往往藏在冗長(zhǎng)的用戶協(xié)議里，或是以微弱字體標(biāo)注，難以起到真正的警示作用。

用戶之所以會(huì)輕信豆包的承諾，本質(zhì)上是對(duì)字節(jié)跳動(dòng)這一科技大廠的信任，而這種信任，不應(yīng)成為企業(yè)規(guī)避責(zé)任的借口。

更深層的思考在于，隨著AI全面滲透日常生活，類似的糾紛只會(huì)越來(lái)越多。

當(dāng)我們習(xí)慣向AI咨詢出行、金融、法律等關(guān)鍵問(wèn)題，當(dāng)AI開(kāi)始主動(dòng)給出決策建議甚至利益承諾，技術(shù)的“不可控性”與用戶的“合理信賴”之間的矛盾，正在逐漸凸顯。

杭州互聯(lián)網(wǎng)法院的判決，既為AI行業(yè)劃定了法律邊界——不苛責(zé)技術(shù)局限，但也明確了企業(yè)的注意義務(wù)：需以顯著方式提示AI的局限性，采取技術(shù)措施提升內(nèi)容準(zhǔn)確性。

對(duì)于普通用戶而言，這場(chǎng)600元的損失，是一堂深刻的“AI使用課”。

AI終究只是輔助工具，而非可靠的決策主體，尤其是在涉及金錢(qián)、權(quán)益等重大事項(xiàng)時(shí)，切勿盲目輕信AI的答復(fù)，多方核驗(yàn)官方信息，才是保護(hù)自身權(quán)益的關(guān)鍵。