在曾毅看來(lái)，如果技術(shù)發(fā)展只關(guān)注科學(xué)突破而忽視了其對(duì)社會(huì)的潛在負(fù)面影響，特別是不考慮到如何緩解這些影響，那么技術(shù)進(jìn)步可能會(huì)加劇社會(huì)不平等。如果在開發(fā)和應(yīng)用技術(shù)時(shí)積極考慮并解決技術(shù)可能帶來(lái)的負(fù)面影響，那么技術(shù)就有可能被用來(lái)彌合數(shù)字鴻溝，促進(jìn)社會(huì)公平。

技術(shù)對(duì)社會(huì)不平等的影響可能會(huì)跨越多代人，因此，人們?cè)谙硎芗夹g(shù)帶來(lái)的便利的同時(shí)，也需要考慮其對(duì)后代的潛在影響，并采取措施以確保技術(shù)發(fā)展不會(huì)加劇社會(huì)不平等。曾毅指出，“智能鴻溝”是一個(gè)社會(huì)和技術(shù)交織的問(wèn)題，需要多方面的努力來(lái)解決。這不僅僅是技術(shù)研究者和開發(fā)者的責(zé)任，也是政策制定者、教育者和整個(gè)社會(huì)需要共同面對(duì)的挑戰(zhàn)。

理性認(rèn)識(shí)人工智能及其價(jià)值觀

人工智能是一種信息處理工具，它通過(guò)學(xué)習(xí)和模仿人類行為來(lái)執(zhí)行任務(wù)；人工智能解決問(wèn)題的方式、機(jī)制跟人有著很大的差異，一些時(shí)候它能幫助人類解決問(wèn)題，但有時(shí)候它會(huì)以一種完全不可接受的方式、或者完全沒有能夠想象到的方式去犯錯(cuò)誤。

目前，人工智能是基于數(shù)據(jù)驅(qū)動(dòng)的模型，通過(guò)數(shù)學(xué)優(yōu)化器從數(shù)據(jù)中學(xué)習(xí)并生成期望的輸出。然而，真正的人工智能應(yīng)該能夠模擬人類智能的各個(gè)方面，包括計(jì)算機(jī)制、內(nèi)部機(jī)理和行為表現(xiàn)，并且能夠以人類可理解的方式進(jìn)行交流。曾毅表示，人工智能的核心在于數(shù)據(jù)和算法，這兩個(gè)要素可能產(chǎn)生偏見，因?yàn)樗鼈儊?lái)源于社會(huì)數(shù)據(jù)，這些數(shù)據(jù)記錄了人類行為，可能包含人類的偏見。

人工智能本身不具備道德判斷能力，它的行為和輸出是由其訓(xùn)練數(shù)據(jù)和算法決定的。在這種背景下，可以說(shuō)人工智能是中立的，它既可以為善也可以為惡，還可能會(huì)無(wú)意中復(fù)制和放大人類的偏見和錯(cuò)誤。這取決于它的數(shù)據(jù)和算法如何被設(shè)計(jì)和使用。

生成式人工智能是AI的一個(gè)分支，它使用“Next Token Prediction”技術(shù)，通過(guò)分析序列數(shù)據(jù)的統(tǒng)計(jì)顯著性來(lái)預(yù)測(cè)下一個(gè)最可能的輸出。這種技術(shù)在推薦系統(tǒng)等領(lǐng)域有廣泛應(yīng)用。

人工智能是否能夠獲得意識(shí)？這取決于其發(fā)展方式。如果使用大規(guī)模數(shù)據(jù)進(jìn)行訓(xùn)練，它可能會(huì)表現(xiàn)出看似有意識(shí)的行為。但由于計(jì)算機(jī)和人類的工作機(jī)制不同，意識(shí)的本質(zhì)難以界定。只有當(dāng)人工智能能夠基于自身經(jīng)驗(yàn)理解他人行為時(shí)，它才能產(chǎn)生認(rèn)知共情和情感共情，從而產(chǎn)生道德和利他行為。

“人工智能的主要挑戰(zhàn)在于如何確保其輸出符合人類的倫理和道德標(biāo)準(zhǔn)”。曾毅表示，人工智能存在如下幾方面的問(wèn)題：一是缺乏真正的理解和判斷能力，它不能像人類那樣明辨善惡；二是可能習(xí)得并放大人類的偏見；三是在面對(duì)復(fù)雜或未預(yù)見的情況時(shí)，可能無(wú)法做出符合倫理的決策。此外，隨著AI技術(shù)的發(fā)展，它可能會(huì)學(xué)習(xí)到人類的欺騙策略，這增加了對(duì)人工智能行為控制的難度。

為了更好地駕馭人工智能，人們需要確保其設(shè)計(jì)和訓(xùn)練過(guò)程遵循倫理原則，減少偏見的產(chǎn)生。同時(shí)也需要對(duì)人工智能的決策過(guò)程進(jìn)行監(jiān)督和評(píng)估，確保其在各種情況下都能做出符合人類價(jià)值觀的決策。而隨著人工智能技術(shù)的進(jìn)步，人們也需要不斷更新和完善對(duì)人工智能的監(jiān)管和指導(dǎo)，以應(yīng)對(duì)可能出現(xiàn)的新挑戰(zhàn)。

大量工作正在被AI取代，未來(lái)AI會(huì)不會(huì)來(lái)?yè)尮ぷ鳎?/strong>

《論語(yǔ)》中有一句話叫做“君子不器”，器，就是器物，有好用的，不好用的，“君子不器”就是說(shuō)人一生要成為君子，不要去做一個(gè)器物。

人工智能是什么？曾毅指出，人工智能其實(shí)是一個(gè)工具，好聽一點(diǎn)就是智能信息處理的工具，難聽一點(diǎn)就是總是欺騙人、讓人覺得它是智能的信息處理工具。

一個(gè)人被人工智能替代，也就是說(shuō)他被一個(gè)工具所替代，這意味著本身他把自己當(dāng)作了“器”。如果人工智能暫時(shí)替代了人的那份工作——無(wú)論是當(dāng)初他如何熱愛的工作，實(shí)際上也是向他提供了一個(gè)很好的機(jī)會(huì)，倒逼反思如何適應(yīng)新的技術(shù)挑戰(zhàn)，如何在新形勢(shì)下追求內(nèi)心自我、追求人生價(jià)值。人們經(jīng)常講人工智能“向善”，善是追求本源，人的一生其實(shí)也是在不斷的追尋自我本質(zhì)、完善自我的一生。

《The Future of Work》一書的作者在討論中表示，未來(lái)很多社會(huì)服務(wù)性的工作需要人類情感交流，以前不會(huì)被認(rèn)為是工作的，未來(lái)都會(huì)被認(rèn)為是工作，比如機(jī)器人喂食老人、看護(hù)小孩。不過(guò)，由于人類情感的互動(dòng)基礎(chǔ)就是演化，不論是老人還是小孩，都沒有動(dòng)機(jī)去跟機(jī)器人交流和互動(dòng)。讓一個(gè)器具去做社會(huì)性需要情感交流甚至是對(duì)于家庭的服務(wù)，這不是人工智能應(yīng)當(dāng)去探索的。

“但是，當(dāng)越來(lái)越多的工作被人工智能所替代的時(shí)候，不可替代的部分就會(huì)變得越來(lái)越清晰?！痹愎?jié)曬說(shuō)，ChatGPT問(wèn)世之初，很多新聞工作者都擔(dān)心自己的工作會(huì)被替代，一年后的今天，這一現(xiàn)象并沒有明顯的發(fā)生。人工智能的進(jìn)展證明，當(dāng)互聯(lián)網(wǎng)上出現(xiàn)更大規(guī)模的人工智能書寫的數(shù)據(jù)和知識(shí)，而這些數(shù)據(jù)和知識(shí)又被喂到人工智能去訓(xùn)練的時(shí)候，人工智能的能力會(huì)變的越來(lái)越弱。人工智能代替部分的工作，就像蒸汽機(jī)、計(jì)算機(jī)時(shí)代的出現(xiàn)，會(huì)提供一些加持和期待，那種期待帶來(lái)短期的焦慮，讓更多的人回歸本位。

人工智能到底是人類的幫手還是對(duì)手？

人工智能到底是幫手還是對(duì)手？

在曾毅看來(lái)，這不是一個(gè)“yes”或“no”的問(wèn)題。以無(wú)人車為例，“蘿卜快跑”話題一度十分熱鬧，也遭到很多出租車司機(jī)反對(duì)。有人說(shuō)出租車司機(jī)要跟上技術(shù)變化，認(rèn)為其應(yīng)該找到更有意義的工作。但曾毅完全否定了這個(gè)觀點(diǎn)。在他看來(lái)，高鐵、飛機(jī)絕大多數(shù)情況下都是采取自動(dòng)駕駛方式，它們的安全性最高，相比之下，汽車是這三項(xiàng)交通工具中最危險(xiǎn)的交通工具，即使是人類駕駛。

更安全的飛機(jī)與更安全的火車不去做完全無(wú)人化的替代，反而在道路上行駛的汽車就一定把司機(jī)替換下來(lái)？

“這個(gè)邏輯是完全不成立的?！痹阏f(shuō)，“飛機(jī)和火車的風(fēng)險(xiǎn)低，但可控性比較差，極端情況下人是最后的護(hù)航，汽車也是一樣的道理，不能說(shuō)汽車上只有一兩名乘員，就沒有多大的代價(jià)。這是個(gè)倫理難題，不能根據(jù)年齡、數(shù)量、種族等做決定。我認(rèn)為無(wú)人車技術(shù)發(fā)展過(guò)程中有點(diǎn)聽之任之，或者過(guò)于追求短期的利益。不能因?yàn)轳R斯克大力發(fā)展無(wú)人車，中國(guó)也要大力發(fā)展無(wú)人車；要通過(guò)負(fù)責(zé)任的研發(fā)和使用人工智能，將人工智能塑造為人們的幫手。”

他承認(rèn)無(wú)人系統(tǒng)很有價(jià)值，特別是在一些非常高危的場(chǎng)景，比如井下煤礦作業(yè)，作為人形機(jī)器人就能發(fā)揮很好的替代工作。

曾毅堅(jiān)信，人工智能不會(huì)成為人類的對(duì)手，但如果不負(fù)責(zé)任地研發(fā)和使用、濫用或惡用，那人類連跟人工智能競(jìng)爭(zhēng)的機(jī)會(huì)都沒有，甚至不知道它將以什么樣的方式毀滅人類。

“蘿卜快跑”熱度快速降低，正是因?yàn)轫攲颖O(jiān)管。畢竟，社會(huì)的方方面面都沒有準(zhǔn)備好。所以技術(shù)和社會(huì)的解決方案要加持在人工智能發(fā)展的過(guò)程中，絕對(duì)不能夠依靠技術(shù)去解決潛在風(fēng)險(xiǎn)，不能把希望僅僅寄托于技術(shù)研究者。

如何看待攻防挑戰(zhàn)賽以及開源的意義？

外灘大會(huì)期間舉辦的AI創(chuàng)新賽?全球Deepfake攻防挑戰(zhàn)賽，是人氣最旺的活動(dòng)之一。主辦方用人工智能技術(shù)對(duì)抗Deepfake的TOP選手代表鑒別圖像和視頻的真?zhèn)?，引發(fā)陣陣歡呼。曾毅表示，這種攻，是指突破技術(shù)能夠達(dá)到的極致，但是這種突破，比如合成，合成很多的假圖片以假亂真，不僅肉眼無(wú)法分辨，甚至連機(jī)器也分辨不出來(lái)。但當(dāng)獲勝方是攻而不是防的時(shí)候，深度造假這個(gè)問(wèn)題是無(wú)解的。畢竟，下一個(gè)能夠被研發(fā)出來(lái)防御措施，是非常不確定的。因此，這實(shí)際上也是一個(gè)不負(fù)責(zé)的行為。

曾毅指出，很多信息安全領(lǐng)域的專家表達(dá)出擔(dān)憂，都希望能把防護(hù)的技術(shù)也同時(shí)做好。事實(shí)上，已經(jīng)有這樣的企業(yè)——他們攻破了所有的手機(jī)的人臉識(shí)方法，同時(shí)封死了互聯(lián)網(wǎng)上所有用戶的銀行帳戶。因此，研發(fā)出的利器越多，帶來(lái)的傷害會(huì)更大。

在曾毅看來(lái)，造一個(gè)堅(jiān)硬無(wú)比的矛，再造一個(gè)非常優(yōu)秀的盾，從商業(yè)角度意味著可以同時(shí)銷售兩類產(chǎn)品，但對(duì)于社會(huì)而言，潛在的風(fēng)險(xiǎn)巨大，因?yàn)閷?duì)應(yīng)的監(jiān)管措施非常薄弱。

他同時(shí)指出，如果一項(xiàng)技術(shù)有明確的潛在風(fēng)險(xiǎn)，但不能先解決自己能夠解決的問(wèn)題，反而帶來(lái)新的問(wèn)題，那么，解決方案作為一種開源的工具是不合適的。但他對(duì)開源本身這件事情表示非常支持，開源確實(shí)能夠推進(jìn)人工智能的發(fā)展和技術(shù)的進(jìn)步——只要開源是為了促進(jìn)發(fā)展，建設(shè)負(fù)責(zé)任的生態(tài)，那就要支持。

好在相較2018年甚至更早時(shí)候，如今絕大多數(shù)人工智能企業(yè)都意識(shí)到了自律自治與倫理安全的重要性與相關(guān)風(fēng)險(xiǎn)，采取的措施也使得人工智能的發(fā)展更合乎倫理、更具有道德。

“不是存在商業(yè)機(jī)遇的地方就是人工智能發(fā)展應(yīng)當(dāng)?shù)淖呦?。要讓人工智能成為人類的幫手，就必須?fù)責(zé)任去塑造人工智能技術(shù)，而不要隨人工智能的野蠻的生長(zhǎng)，誤用、濫用和惡用，給世界帶來(lái)不可預(yù)制的一環(huán)?！痹愫粲酰鹤屫?fù)責(zé)任的人工智能變成所有人工智能從業(yè)者內(nèi)在的基因，這對(duì)創(chuàng)新者來(lái)說(shuō)是一個(gè)必選之題。

嘉賓簡(jiǎn)介：

曾毅教授，聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專家、北京人工智能安全與治理實(shí)驗(yàn)室主任、中國(guó)科學(xué)院自動(dòng)化研究所研究員，螞蟻科技倫理顧問(wèn)委員會(huì)專家，是國(guó)內(nèi)技術(shù)倫理領(lǐng)域引領(lǐng)的前沿專家，在國(guó)際上也很強(qiáng)的影響力。

Inclusion·外灘大會(huì)

Inclusion·外灘大會(huì)指導(dǎo)單位為上海市人民政府，由支付寶、螞蟻集團(tuán)主辦，上海市地方金融監(jiān)督管理局、黃浦區(qū)人民政府特別支持。自創(chuàng)辦以來(lái)，致力于推動(dòng)科技與金融相互賦能，已成為各方矚目的交流對(duì)話平臺(tái)和產(chǎn)業(yè)促進(jìn)平臺(tái)。今年Inclusion·外灘大會(huì)設(shè)置了豐富的議程，為專家學(xué)者、企業(yè)領(lǐng)袖、創(chuàng)新創(chuàng)業(yè)者充分利用大會(huì)搭建的平臺(tái)，交流創(chuàng)新經(jīng)驗(yàn)，共享發(fā)展機(jī)遇，并首次設(shè)立創(chuàng)新者舞臺(tái)和AI創(chuàng)新賽，并有多個(gè)重磅的技術(shù)產(chǎn)品首發(fā)亮相，多維度展現(xiàn)金融與科技融合的產(chǎn)業(yè)前景，為上海國(guó)際金融中心和科創(chuàng)中心建設(shè)貢獻(xiàn)智慧和力量。

分享到

xiesc

相關(guān)推薦