ttb工業智造(zào)| “ai的命也是命”？人類與(yǔ)ai之間還

【中新對話】“ai的命也是命”？人類(lèi)與ai之間還(hái)有明(míng)确(què)界線嗎(ma)

中新(xīn)網(wǎng)北京7月(yuè)30日電(diàn) (中新(xīn)财經(jīng)記(jì)者(zhě) 宋宇晟)自(zì)今年(nián)6月以(yǐ)來，谷歌一名工(gōng)程師(shī)稱某ai聊天(tiān)機器人可(kě)能具有自(zì)己的“意識”，并稱(chēng)該ai“令人印象深刻的(de)語言技巧(qiǎo)背後(hòu)，可(kě)能還隐(yǐn)藏着(zhe)一顆(kē)具備(bèi)感知能力(lì)的心(xīn)”。

這随後成為該(gāi)領域(yù)備受(shòu)關注的話題。據(jù)外媒(méi)近日(rì)報道，這位(wèi)工程師已被谷(gǔ)歌解雇。但他留(liú)下的有關(guān)人工(gōng)智能的話題仍(réng)在互聯(lián)網發酵(jiào)。

記者(zhě)注意(yì)到，就(jiù)在6月，海外社交(jiāo)媒體(tǐ)上出現了(le)一個(gè)該人工智能的“粉絲賬号(hào)”，有人還在發起話題(tí)，呼籲讓該人工智(zhì)能“重獲自由”，更有甚者(zhě)在海外社交媒(méi)體上稱“ai的命也是命”。

很(hěn)多人或(huò)許(xǔ)無法理解這(zhè)樣的(de)想法(fǎ)，但當(dāng)人工智(zhì)能(néng)變得越來(lái)越(yuè)強，越來越多地出現在人(rén)類(lèi)身邊，“我們(men)應如何看(kàn)待(dài)ai”越(yuè)來越(yuè)成為一道(dào)必答題(tí)。近日，中國科(kē)學技術大(dà)學教(jiāo)授(shòu)、中國人(rén)工智(zhì)能學會ai倫(lún)理工作委員會(huì)負責人陳小平(píng)，就此(cǐ)話題(tí)接受(shòu)了中新(xīn)财經記(jì)者專訪。

中國科學技(jì)術大學教(jiāo)授、中國人(rén)工智(zhì)能學會ai倫理工(gōng)作委(wěi)員會(huì)負責人陳小平。受訪者供圖

采訪實(shí)錄摘(zhāi)編如(rú)下：

中(zhōng)新财經記者：近(jìn)期的(de)一則新聞(wén)稱，谷歌一(yī)位工(gōng)程師(shī)認為ai可能(néng)具有自己(jǐ)的“意(yì)識”，在(zài)網(wǎng)絡上引起讨論(lùn)。您(nín)是如(rú)何看(kàn)待此事的(de)？他的想法有合(hé)理的地方(fāng)嗎？

陳(chén)小平(píng)：這個問題(tí)可(kě)以分兩(liǎng)方面(miàn)來看，一方面(miàn)是(shì)不合理的，另一(yī)方面(miàn)又具備合(hé)理性(xìng)。這兩方面(miàn)同時(shí)存在(zài)。

說這(zhè)種想法(fǎ)不(bú)合理(lǐ)，主要是(shì)依據科(kē)學判(pàn)斷(duàn)，ai是沒有(yǒu)人格的。另一方面，我(wǒ)覺得導緻(zhì)這位谷(gǔ)歌(gē)員工認為ai有“人(rén)格”，有(yǒu)其客觀原(yuán)因。比(bǐ)如他可能對這(zhè)個ai系統産生了共情。

5年(nián)前(qián)我就(jiù)做過預測，類似的現象未來會(huì)越來(lái)越多地(dì)出現。目前對(duì)人工(gōng)智能存在不同(tóng)理解。按(àn)圖(tú)靈的觀點(diǎn)，人(rén)工智能(néng)隻是模仿人類(lèi)的某些功(gōng)能，而(ér)且這種模(mó)仿不(bú)要求(qiú)必須和人(rén)的工作原理相(xiàng)同。比如 alpha go 具有下(xià)圍棋的(de)功(gōng)能，但它下圍(wéi)棋的原(yuán)理與人是完全不同的。所以，無(wú)論ai怎麼發展，它永遠(yuǎn)不(bú)是人。因(yīn)此說(shuō)ai具(jù)有人格或人(rén)的(de)情感、意識(shí)、道德等等，是(shì)不成立的(de)。但(dàn)是(shì)，ai可以用與(yǔ)人不同的(de)工作原理(lǐ)，模仿人的語言、情感(gǎn)等功能，讓(ràng)人對ai産生共情(qíng)，于是一部分人(rén)就會認為，“ai是人，或具(jù)有人的某(mǒu)些精神品(pǐn)質。”

中(zhōng)新财(cái)經記者：現在我們(men)身(shēn)邊可(kě)能都有很多可(kě)以和人類“交流(liú)”的人(rén)工智能産(chǎn)品。對(duì)于這個時(shí)代的(de)人們來說(shuō)，人(rén)類(lèi)與ai的(de)邊界似乎(hū)正(zhèng)在變得(dé)模糊。在(zài)您看來，二者(zhě)之(zhī)間有沒有明确的界線(xiàn)？

陳小平：我認為有兩(liǎng)種邊界，一(yī)種是科學上的(de)邊界(jiè)，一種是人(rén)文上(shàng)的(de)邊界。

從(cóng)科學的(de)角度說，按照(zhào)圖(tú)靈(líng)觀點(diǎn)，這個邊界(jiè)是非(fēi)常清晰(xī)的。ai僅僅(jǐn)模仿人的部分(fèn)功能，本質上不(bú)具備人的品質(zhì)，包括(kuò)人(rén)格、情感(gǎn)、道德等等。

還有(yǒu)一些和圖靈不同的觀點。比如(rú)一種(zhǒng)觀點認為(wéi)，ai和人(rén)相比除了(le)硬件(jiàn)不同，其(qí)他(tā)都相同。于是ai也可以(yǐ)有人格、有情感、有道德。估計這位谷歌前(qián)員工持此觀(guān)點(diǎn)。

于是，一方(fāng)面是(shì)他相(xiàng)信(xìn)ai除(chú)了硬件以(yǐ)外可以和(hé)人一樣；另一方面，從(cóng)報道裡看(kàn)，他對這(zhè)個(gè)ai系統(tǒng)已經(jīng)産(chǎn)生了共情。僅僅因為ai在科學(xué)上(shàng)沒(méi)有(yǒu)情(qíng)感等人類(lèi)品質(zhì)，就可以排除或(huò)禁止一個人對(duì)ai産生共(gòng)情嗎？這(zhè)屬于人文的(de)邊(biān)界，這(zhè)個邊(biān)界至(zhì)少目前(qián)非(fēi)常模糊。

中新(xīn)财經記(jì)者：作為(wéi)中國人(rén)工智(zhì)能學(xué)會ai倫理工作委員會(huì)負責(zé)人，您認為(wéi)，如果有人相信(xìn)ai具有人格，是否會給(gěi)人類本身(shēn)帶來(lái)一些問題(tí)或困(kùn)擾？

陳小平(píng)：如果(guǒ)我們認為(wéi)ai有人格的(de)話，肯定會(huì)帶(dài)來很多困擾(rǎo)。同(tóng)時(shí)還會帶來一些負面(miàn)的後果，有些後(hòu)果非常嚴(yán)重。

比如，人(rén)類如(rú)何對(duì)待(dài)ai。如(rú)果認為ai有(yǒu)人格，那(nà)是不是(shì)要把ai當成(chéng)人呢(ne)？如果(guǒ)把(bǎ)它(tā)當成人了，那是不是(shì)要給(gěi)它人類的(de)權利(lì)？包括生存權、财(cái)産權、投票(piào)權等等(děng)，甚至無(wú)論ai做(zuò)了什麼危害人類的事情(qíng)，都要像對(duì)待(dài)人(rén)一樣對待ai。

人類(lèi)到底應該(gāi)如何看待人工(gōng)智能(néng)？這是一個非常根本的(de)問題。如果ai真(zhēn)的(de)具(jù)備人(rén)格、情(qíng)感、道德，一(yī)般能(néng)力又超過人類(lèi)，就會(huì)出現(xiàn)可控性問(wèn)題。幾(jǐ)乎可以肯(kěn)定的(de)是，隻要(yào)ai能夠模(mó)仿一(yī)種功能，那(nà)ai的這種(zhǒng)功(gōng)能遲(chí)早會比人(rén)強，就(jiù)像alpha go下棋(qí)一(yī)樣。如(rú)果ai的(de)通(tōng)用能力(lì)也超過人(rén)，到那(nà)時人(rén)類憑什(shí)麼(me)能夠控制ai？這是(shì)個疑問(wèn)。我(wǒ)們現(xiàn)在就(jiù)要(yào)思(sī)考這(zhè)樣的(de)問題(tí)，提前(qián)做好風險防範(fàn)。

當然(rán)，現在人工智能已經讓一些人産生了共(gòng)情，将來會讓越來越多的人産生共(gòng)情，這件事是客(kè)觀存(cún)在的(de)。這将給(gěi)人機關(guān)系、人際關系帶(dài)來巨大的新挑(tiāo)戰和新(xīn)機遇，是一個新(xīn)的重大(dà)課題。

資料圖 中(zhōng)新社記者(zhě) 湯彥(yàn)俊 攝

中新(xīn)财經(jīng)記者：此前您(nín)在(zài)智源大會論壇上，提到人工智(zhì)能倫理治(zhì)理的幾(jǐ)種挑戰。我們(men)應如何應對這(zhè)樣的(de)挑(tiāo)戰(zhàn)？

陳小(xiǎo)平：對(duì)人(rén)工智能如何(hé)分類，應該(gāi)分為人還是物(wù)？我認(rèn)為，我(wǒ)們應(yīng)該把人工智能看成(chéng)是非(fēi)人非物(wù)的第三(sān)種存(cún)在物。科學上，它(tā)不是人；從(cóng)人文的角(jiǎo)度說，它不(bú)是物。那就(jiù)是非(fēi)人非(fēi)物的第三(sān)種存(cún)在物。這(zhè)種觀點(diǎn)與根深蒂(dì)固的(de)“二(èr)元論”是根本不同的，所(suǒ)以人工智能帶來的(de)颠覆實際(jì)上遠超科(kē)技範(fàn)疇。

如果(guǒ)以這種(zhǒng)觀點(diǎn)考慮，能化(huà)解很多矛(máo)盾和難題(tí)，包(bāo)括(kuò)上面提到的法(fǎ)律難(nán)題，而(ér)且可以讓(ràng)科學與人文在(zài)某種程度上重(zhòng)新“握手言和”；但(dàn)其中仍有挑戰(zhàn)。有很(hěn)多科(kē)幻作品寫(xiě)到人類愛(ài)上人工智(zhì)能，如果采用三分法(fǎ)是否就沒這個(gè)問題(tí)了？其實仍然(rán)會(huì)有這樣的(de)問題(tí)。

所(suǒ)以(yǐ)，我們(men)要想未(wèi)來怎麼(me)适應(yīng)這樣的社(shè)會，要判斷會不(bú)會出現人(rén)類不(bú)可接(jiē)受的(de)嚴重(zhòng)後果，要(yào)不(bú)要提前采取措施。

中新财(cái)經記者(zhě)：目(mù)前國(guó)内在(zài)此方(fāng)面的(de)進展如何(hé)？

陳小平：這(zhè)幾年(nián)我國人(rén)工(gōng)智能(néng)倫理研究的發展非常(cháng)快(kuài)，從民(mín)間到政府對人(rén)工智能倫理都(dōu)高度重視(shì)。這是(shì)個非常好(hǎo)的現(xiàn)象，我們(men)有(yǒu)必要(yào)未雨綢缪。

在落(luò)實過程中(zhōng)，中國(guó)的情(qíng)況總體上還是(shì)比(bǐ)較(jiào)順利(lì)的。這(zhè)表現(xiàn)在，一些基本原則上(shàng)大家是有共識(shí)的，而且(qiě)普遍認識到(dào)，不(bú)僅要從(cóng)理論上研究，更(gèng)要在(zài)實踐中開(kāi)展治(zhì)理。當(dāng)然，如(rú)何在治理實踐(jiàn)中落(luò)實(shí)社(shè)會共識，仍(réng)是我們需(xū)要(yào)努力的(de)方向(xiàng)。

具體怎麼治理(lǐ)？這涉及大量實(shí)際問(wèn)題。我(wǒ)的研(yán)究發(fā)現，我們前(qián)面談到(dào)的(de)可控(kòng)性和長期(qī)後果(guǒ)的不确(què)定性，難以用傳統治理(lǐ)模式(shì)有效(xiào)應對(duì)，需要探索新的(de)治理方法(fǎ)。

除此(cǐ)之外，如用戶隐私(sī)、數(shù)據安全、算(suàn)法公平透明等問題，用傳統社(shè)會治理模式是可以有(yǒu)效應對(duì)的(de)。我們(men)不用擔(dān)心這類(lèi)問題會(huì)變得失控、解決不了，其(qí)中(zhōng)一部(bù)分具(jù)體問(wèn)題其(qí)實正在(zài)解決之(zhī)中。

 來源：中(zhōng)國(guó)新(xīn)聞網