原標(biāo)題：新聞1+1丨全國(guó)首例AI“幻覺”侵權(quán)案 為何這么判

一位高考生的哥哥梁某在查詢高校信息后，發(fā)現(xiàn)AI平臺(tái)生成的信息存在錯(cuò)誤，AI則表示，內(nèi)容有誤將賠償10萬(wàn)元。一氣之下，梁某將AI平臺(tái)的研發(fā)公司告上法庭。近日，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回訴訟請(qǐng)求。法院為什么會(huì)這么判？看似聰明的人工智能，為何會(huì)產(chǎn)生“幻覺”？怎樣為生成式人工智能服務(wù)厘清責(zé)任的邊界？《新聞1+1》帶來(lái)分析解讀。

為何提供AI服務(wù)的公司不需要負(fù)責(zé)？

全國(guó)首例AI“幻覺”侵權(quán)案一審結(jié)束，法院的判決結(jié)果中說(shuō)，AI不是一個(gè)民事主體，所以它不能作出意思表示。AI它不是人，所以它自己不能負(fù)責(zé)，那為什么提供AI服務(wù)的公司本身也不負(fù)責(zé)呢？

全國(guó)首例AI“幻覺”案主審法官 杭州互聯(lián)網(wǎng)法院一級(jí)法官 肖芄：AI生成的內(nèi)容不準(zhǔn)確有很多原因，其中最根本的原因是AI模型在訓(xùn)練的過(guò)程中，教會(huì)了它預(yù)測(cè)概率，而不是教會(huì)它理解事實(shí)。因此，生成內(nèi)容不準(zhǔn)確，在當(dāng)前的技術(shù)情況下具有不可避免性。但也不代表服務(wù)提供者就可以免責(zé)。如果服務(wù)提供者盡到了法律規(guī)定的注意義務(wù)、社會(huì)交往過(guò)程中的注意義務(wù)、合同約定的注意義務(wù)后，生成的信息仍然不準(zhǔn)確，通常還是不能認(rèn)定服務(wù)提供者存在過(guò)錯(cuò)。

AI不具有民事主體資格，這在民法典中有明確的規(guī)定。但是AI生成的內(nèi)容是不是可視為服務(wù)提供者的意思，這個(gè)需要分情況討論。在本案的咨詢問(wèn)答場(chǎng)景中，我們認(rèn)為不能視為服務(wù)提供者的意思。

這起案子審理的難點(diǎn)是什么？

回過(guò)頭來(lái)看這起案子的整個(gè)審理過(guò)程，因?yàn)樗俏覀儑?guó)家的首例有關(guān)AI“幻覺”的判例，在審理案件的過(guò)程中，最有挑戰(zhàn)的地方在哪里？

肖芄：我個(gè)人覺得，最難的點(diǎn)在于AI科技創(chuàng)新和產(chǎn)業(yè)發(fā)展與當(dāng)事人合法權(quán)益之間的平衡。通過(guò)在AI侵權(quán)責(zé)任案件中適用一般侵權(quán)責(zé)任原則，也就是過(guò)錯(cuò)責(zé)任原則，更好地為AI的服務(wù)提供者提供明確的邊界標(biāo)準(zhǔn)，使他們能夠在一個(gè)相對(duì)明確的標(biāo)準(zhǔn)中更好地創(chuàng)造和應(yīng)用AI。

AI“幻覺”產(chǎn)生的原因是什么？

在普通人的認(rèn)知里面，AI是一個(gè)更高級(jí)的大腦，它懂得更多、算得更快，而且可能會(huì)更加聰明，不生病也沒有情緒，更加穩(wěn)定。但為什么會(huì)有AI“幻覺”，它產(chǎn)生的原因是什么？

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任 劉曉春：AI“幻覺”，一方面，現(xiàn)在生成式人工智能基礎(chǔ)的技術(shù)原理、技術(shù)規(guī)律，導(dǎo)致它是一個(gè)預(yù)測(cè)式的，而不是像人腦一樣去理解的過(guò)程。另外，也跟AI訓(xùn)練過(guò)程有關(guān)，比如數(shù)據(jù)優(yōu)化訓(xùn)練的過(guò)程，比如AI是“討好型人格”，實(shí)際上AI會(huì)希望更好地為用戶解答問(wèn)題，這時(shí)它可能發(fā)揮想象空間，產(chǎn)生了一些“幻覺”。

如何平衡創(chuàng)新和保護(hù)公眾權(quán)益之間的關(guān)系

未來(lái)，從監(jiān)管的角度來(lái)看，怎么來(lái)鼓勵(lì)創(chuàng)新和保護(hù)公眾的權(quán)益，在風(fēng)險(xiǎn)防控和促進(jìn)發(fā)展之間去做好平衡？

劉曉春：首先，這個(gè)案例給出的底線，或者說(shuō)基礎(chǔ)的規(guī)則還是蠻好的，我們并不要求產(chǎn)業(yè)界給到一個(gè)百分之百?zèng)]有“幻覺”的交付標(biāo)準(zhǔn)。產(chǎn)業(yè)是可以在這個(gè)基礎(chǔ)之上更好地放開手腳發(fā)展。

另一方面，比如這個(gè)案例提到的是一個(gè)并不存在高風(fēng)險(xiǎn)的場(chǎng)景，也就是說(shuō)，用戶用完可能有一些不準(zhǔn)確的信息，但是有辦法通過(guò)其他的驗(yàn)證手段去避免。所以在這種情況之下，不屬于高風(fēng)險(xiǎn)，也不屬于嚴(yán)格的產(chǎn)品責(zé)任。實(shí)際上，在法律或者監(jiān)管的過(guò)程當(dāng)中，可能有一些場(chǎng)景，比如說(shuō)像關(guān)系到人民生命健康的，或者關(guān)系到財(cái)產(chǎn)安全的，像醫(yī)療健康、金融投資，包括法律領(lǐng)域，其實(shí)希望人工智能能夠給出更加準(zhǔn)確的、容錯(cuò)率更低的回答。

在這些應(yīng)用過(guò)程當(dāng)中，法律實(shí)際上可以去區(qū)別基礎(chǔ)模型和模型應(yīng)用兩個(gè)場(chǎng)景?；A(chǔ)模型，比如案子當(dāng)中涉及的，可以更快地往前去跑一跑，不用承擔(dān)那么重的責(zé)任。但是如果有應(yīng)用方把人工智能的工具，比如應(yīng)用到比較嚴(yán)格、高風(fēng)險(xiǎn)場(chǎng)景的時(shí)候，這個(gè)時(shí)候可能需要法律能夠去給它更清晰的標(biāo)準(zhǔn)，比如說(shuō)特定行業(yè)的技術(shù)標(biāo)準(zhǔn)，來(lái)預(yù)防高風(fēng)險(xiǎn)的，或者說(shuō)給人民群眾造成更大意義上的損失。

從法律角度 如何提前化解AI“幻覺”風(fēng)險(xiǎn)

像AI“幻覺”會(huì)是AI技術(shù)在狂飆突進(jìn)當(dāng)中的一個(gè)階段性的產(chǎn)物，還是說(shuō)會(huì)始終伴隨AI技術(shù)的發(fā)展，是一個(gè)無(wú)法去改變和完全消除的技術(shù)缺陷？未來(lái)假如是第二種情況的話，那從法律的角度上，怎么樣更好地去界定這個(gè)權(quán)責(zé)，能夠提前去化解風(fēng)險(xiǎn)？

劉曉春：在技術(shù)的原理上看，如果技術(shù)基礎(chǔ)的模型沒有產(chǎn)生本質(zhì)性變化的話，AI“幻覺”有可能會(huì)伴隨著人工智能產(chǎn)業(yè)一直發(fā)展。也不是說(shuō)不能完全消除，只是說(shuō)如果要降低“幻覺”，也是要付出相應(yīng)的成本?？赡苷麄€(gè)產(chǎn)業(yè)需要在某些領(lǐng)域投入更多的成本，去限制或者降低AI“幻覺”。

在法律上其實(shí)很重要的是識(shí)別出一些隨著產(chǎn)業(yè)的發(fā)展，能看到的一些跟老百姓的生命安全、財(cái)產(chǎn)安全等根本利益相關(guān)的領(lǐng)域，識(shí)別出這些高風(fēng)險(xiǎn)的領(lǐng)域。然后針對(duì)高風(fēng)險(xiǎn)，要求產(chǎn)業(yè)去投入更多的資本，針對(duì)性地去降低“幻覺”。同時(shí)包括產(chǎn)業(yè)也需要去進(jìn)行一些提示，特別在一些比較敏感的，比如大家進(jìn)行情感陪伴，或者把自己很多基礎(chǔ)的信賴放在AI上，這個(gè)時(shí)候是需要建立更清楚的責(zé)任的邊界，使得產(chǎn)業(yè)能夠去更好地降低“幻覺”帶來(lái)的損害。