人工智能與隱私與人權(quán)的未來(lái)

 

    當(dāng)然，人工智能對(duì)大數(shù)據(jù)的依賴(lài)已經(jīng)在很大程度上影響了隱私?？纯磩蚍治龉荆–ambridgeAnalytica）的Facebook惡作劇或亞馬遜（Amazon）的Alexa竊聽(tīng)，這兩個(gè)都是科技瘋狂的例子。批評(píng)人士認(rèn)為，如果沒(méi)有適當(dāng)?shù)谋O(jiān)管和限制，情況會(huì)變得更糟。2015年，蘋(píng)果首席執(zhí)行官蒂姆?庫(kù)克嘲笑競(jìng)爭(zhēng)對(duì)手谷歌和Facebook貪婪驅(qū)動(dòng)的數(shù)據(jù)挖掘。

 

    他在2015年的一次演講中說(shuō)：“他們正在狼吞虎咽地學(xué)習(xí)關(guān)于你的一切知識(shí)，并試圖將其貨幣化。”。“我們認(rèn)為這是錯(cuò)誤的。”

 

    去年秋天，庫(kù)克在比利時(shí)布魯塞爾的一次談話中闡述了他的擔(dān)憂。

 

    他說(shuō)：“通過(guò)收集大量個(gè)人資料來(lái)推進(jìn)人工智能是懶惰，而不是效率。”。“人工智能要真正聰明，就必須尊重人的價(jià)值，包括隱私。如果我們弄錯(cuò)了，危險(xiǎn)是深遠(yuǎn)的。”

 

    “如果負(fù)責(zé)任地實(shí)施，人工智能將造福社會(huì)。然而，與大多數(shù)新興技術(shù)一樣，商業(yè)和國(guó)家的使用對(duì)人權(quán)產(chǎn)生有害影響，這種實(shí)際風(fēng)險(xiǎn)是存在的。”對(duì)此很多人都表示同意。

 

    總部設(shè)在英國(guó)的人權(quán)和隱私組織Article19和privacyInternational最近發(fā)表了一篇論文，文章指出，人們對(duì)人工智能的焦慮只限于其日常功能，而不是像機(jī)器人霸主的出現(xiàn)那樣的災(zāi)難性轉(zhuǎn)變。

 

    “如果負(fù)責(zé)任地實(shí)施，人工智能可以造福社會(huì)，”“然而，正如大多數(shù)新興技術(shù)的情況一樣，商業(yè)和國(guó)家使用確實(shí)存在對(duì)人權(quán)產(chǎn)生有害影響的風(fēng)險(xiǎn)。特別是，這些技術(shù)的應(yīng)用經(jīng)常依賴(lài)于大量數(shù)據(jù)的生成、收集、處理和共享，包括個(gè)人和集體行為。這些數(shù)據(jù)可以用來(lái)分析個(gè)人和預(yù)測(cè)未來(lái)的行為。雖然其中一些用途，如垃圾郵件過(guò)濾器或網(wǎng)上購(gòu)物的建議項(xiàng)目，可能看起來(lái)是良性的，但其他用途可能產(chǎn)生更嚴(yán)重的影響，甚至可能對(duì)隱私權(quán)以及言論和信息自由權(quán)（“言論自由”）構(gòu)成前所未有的威脅。使用人工智能還可能影響其他一些權(quán)利的行使，包括獲得有效補(bǔ)救的權(quán)利、獲得公平審判的權(quán)利和免受歧視的權(quán)利。”

 

    助人還是殺人：人工通用智能的奇幻可能性

 

    2018年11月下旬在倫敦威斯敏斯特大教堂發(fā)表講話，國(guó)際知名人工智能專(zhuān)家斯圖爾特·羅素（StuartRussell）開(kāi)玩笑說(shuō)（或不開(kāi)玩笑）“他與記者們達(dá)成了正式協(xié)議，除非他們同意不在文章中放一個(gè)終結(jié)者機(jī)器人，否則我不會(huì)與他們交談。”他的調(diào)侃透露出對(duì)好萊塢代表的遙遠(yuǎn)未來(lái)人工智能的明顯蔑視，后者傾向于過(guò)度勞累和世界末日。羅素所說(shuō)的“人類(lèi)級(jí)人工智能”，也被稱(chēng)為人工通用智能，長(zhǎng)期以來(lái)一直是幻想的素材。

 

    拉塞爾解釋說(shuō)：“在我們制造出任何類(lèi)似人類(lèi)水平的人工智能之前，仍有一些重大突破需要實(shí)現(xiàn)。”。“一個(gè)例子是真正理解語(yǔ)言?xún)?nèi)容的能力，這樣我們就可以使用機(jī)器在語(yǔ)言之間進(jìn)行翻譯……當(dāng)人類(lèi)進(jìn)行機(jī)器翻譯時(shí)，他們理解內(nèi)容，然后表達(dá)出來(lái)。而現(xiàn)在機(jī)器并不擅長(zhǎng)理解語(yǔ)言的內(nèi)容。如果達(dá)到這個(gè)目標(biāo)，我們就會(huì)有一個(gè)系統(tǒng)，可以閱讀和理解人類(lèi)所寫(xiě)的一切，而這是人類(lèi)無(wú)法做到的。一旦我們有了這種能力，你就可以查詢(xún)?nèi)祟?lèi)所有的知識(shí)，它就能夠綜合、整合和回答人類(lèi)從來(lái)沒(méi)有回答過(guò)的問(wèn)題，因?yàn)樗麄儧](méi)有閱讀過(guò)，并且能夠把在歷史上一直保持分離的事物之間的點(diǎn)合在一起。”

 

    另外一個(gè)例子，如何讓機(jī)器人具有思想。在這一方面，模仿人腦是非常困難的，這也是AGI仍然未能實(shí)現(xiàn)的另一個(gè)原因。密歇根大學(xué)（universityofmichigan）工程與計(jì)算機(jī)科學(xué)教授約翰萊爾德（johnlaird）在這一領(lǐng)域進(jìn)行了幾十年的研究。

 

    “我們的目標(biāo)一直是試圖建立我們稱(chēng)之為認(rèn)知架構(gòu)的東西，我們認(rèn)為這是智力系統(tǒng)固有的東西，”他在談到主要受人類(lèi)心理學(xué)啟發(fā)的工作時(shí)說(shuō)。“例如，我們知道的一件事是，人腦實(shí)際上不僅僅是一組同質(zhì)的神經(jīng)元。在不同的組成部分中有一個(gè)真實(shí)的結(jié)構(gòu)，其中一些與如何在世界上行為的知識(shí)有關(guān)。”

 

    這叫做程序記憶。然后是基于一般事實(shí)的知識(shí)，也就是語(yǔ)義記憶，以及關(guān)于先前經(jīng)歷（或個(gè)人事實(shí)）的知識(shí)，這被稱(chēng)為情景記憶。萊爾德實(shí)驗(yàn)室的一個(gè)項(xiàng)目涉及使用自然語(yǔ)言指令來(lái)教機(jī)器人一些簡(jiǎn)單的游戲，如井字游戲和拼圖。這些指令通常包括對(duì)目標(biāo)的描述、目標(biāo)流程和目標(biāo)結(jié)果的概述。機(jī)器人將這些指令內(nèi)化并使用它們來(lái)計(jì)劃自己的動(dòng)作。然而，和以往一樣，突破來(lái)得很慢，至少比萊爾德和他的同事們希望的要慢。

 

    “每一次我們?nèi)〉眠M(jìn)展，”他說(shuō)，“我們也會(huì)對(duì)它的艱難有新的認(rèn)識(shí)。”

 

    AGI真的是對(duì)人類(lèi)生存的威脅嗎？

 

    不止幾個(gè)主要的人工智能人物（有些人比其他人更夸張）贊同一個(gè)噩夢(mèng)場(chǎng)景，這個(gè)場(chǎng)景涉及到所謂的“奇點(diǎn)”，即超級(jí)智能機(jī)器接管并通過(guò)奴役或消滅永久改變?nèi)祟?lèi)的存在。

 

    已故的理論物理學(xué)家史蒂芬·霍金（StephenHawking）有一個(gè)著名的假設(shè)，即如果人工智能本身開(kāi)始設(shè)計(jì)出比人類(lèi)程序員更好的人工智能，結(jié)果可能是“智能超過(guò)我們?nèi)缤祟?lèi)超過(guò)蝸牛”。埃隆·馬斯克（ElonMusk）相信并警告說(shuō)，AGI是人類(lèi)最大的生存威脅。他說(shuō)，實(shí)現(xiàn)這一目標(biāo)的努力就像是“召喚惡魔”。他甚至表示擔(dān)心，他的朋友、谷歌聯(lián)合創(chuàng)始人兼Alphabet首席執(zhí)行官拉里?佩奇（LarryPage）可能會(huì)不顧自己的好意，意外地引導(dǎo)一些“邪惡”的東西存在。比如說(shuō)，“一支人工智能增強(qiáng)型機(jī)器人艦隊(duì)能夠摧毀人類(lèi)。”（你可能知道，馬斯克有戲劇化的天賦。）即使是Onetrack的馬克·瓊吉希，在人工智能預(yù)測(cè)方面沒(méi)有危言聳聽(tīng)，也不排除任何可能性。他說(shuō)，在某個(gè)時(shí)刻，人類(lèi)將不再需要訓(xùn)練系統(tǒng)；他們將自己學(xué)習(xí)和進(jìn)化。

 

    “我不認(rèn)為我們目前在這些地區(qū)使用的方法會(huì)導(dǎo)致機(jī)器決定殺死我們，”他說(shuō)。“我認(rèn)為，也許五年或十年后，我將不得不重新評(píng)估這一說(shuō)法，因?yàn)槲覀儗⒂胁煌姆椒ê筒煌姆椒▉?lái)處理這些事情。”

 

    雖然兇殘的機(jī)器可能仍然是小說(shuō)的素材，但許多人相信它們會(huì)以各種方式取代人類(lèi)。

 

    去年春天，牛津大學(xué)人類(lèi)未來(lái)研究所公布了一項(xiàng)人工智能調(diào)查的結(jié)果。人工智能何時(shí)能超越人類(lèi)的表現(xiàn)？來(lái)自人工智能專(zhuān)家的證據(jù)，包含了352名機(jī)器學(xué)習(xí)研究人員對(duì)人工智能未來(lái)幾年進(jìn)化的估計(jì)。這群人中有許多樂(lè)觀主義者。調(diào)查對(duì)象的中位數(shù)表示，到2026年，機(jī)器將能夠撰寫(xiě)學(xué)校論文；到2027年，自動(dòng)駕駛卡車(chē)將不再需要司機(jī)；到2031年，人工智能在零售業(yè)的表現(xiàn)將超過(guò)人類(lèi)；到2049年，人工智能將成為下一個(gè)斯蒂芬·金，到2053年，人工智能將成為下一個(gè)查理·張。稍顯刺耳的是：到2137年，所有人工工作將實(shí)現(xiàn)自動(dòng)化。但是人類(lèi)自己呢？毫無(wú)疑問(wèn)，喝著機(jī)器人提供的遮陽(yáng)傘飲料。

 

    DiegoKlabjan是西北大學(xué)教授，也是該校分析學(xué)碩士項(xiàng)目的創(chuàng)始董事，他認(rèn)為自己是AGI懷疑論者。

 

    “目前，計(jì)算機(jī)可以處理一萬(wàn)多個(gè)字，”他解釋說(shuō)。“那么，有幾百萬(wàn)個(gè)神經(jīng)元。但是人類(lèi)大腦有數(shù)十億個(gè)神經(jīng)元，它們以一種非常有趣和復(fù)雜的方式連接在一起，而目前最新的（技術(shù)）只是簡(jiǎn)單的連接，遵循非常簡(jiǎn)單的模式。所以，從幾百萬(wàn)個(gè)神經(jīng)元到數(shù)十億個(gè)神經(jīng)元，用當(dāng)前的硬件和軟件技術(shù)——我不認(rèn)為會(huì)發(fā)生這種情況。”

 

    戰(zhàn)爭(zhēng)機(jī)器人與邪惡動(dòng)機(jī)：人類(lèi)如何使用AGI才是真正的威脅

 

    Klabjan更關(guān)心機(jī)器，例如戰(zhàn)爭(zhēng)機(jī)器人，被邪惡的人類(lèi)錯(cuò)誤的“刺激”喂養(yǎng)。正如麻省理工學(xué)院物理學(xué)教授、著名人工智能研究人員馬克斯·泰格馬克（MaxTegmark）在2018年的TED演講中所言，“人工智能真正的威脅不是惡意，就像好萊塢愚蠢的電影中那樣，而是能力——人工智能是否能實(shí)現(xiàn)與我們不一致的目標(biāo)。”。

 

    他說(shuō)：“我絕對(duì)看不出有什么東西醒來(lái)后決定要接管世界。”。“我認(rèn)為這是科幻小說(shuō)，不是人工智能將要上演的方式。”

 

    萊爾德最擔(dān)心的不是邪惡的人工智能本身，而是“邪惡的人類(lèi)利用人工智能作為一種武器”來(lái)進(jìn)行銀行搶劫和信用卡欺詐等罪行。因此，雖然他經(jīng)常對(duì)AI進(jìn)步的步伐感到沮喪，但AI的緩慢進(jìn)展實(shí)際上可能是一種祝福。

 

    “是時(shí)候了解我們?cè)趧?chuàng)造什么了，以及我們將如何把它融入社會(huì)，”萊爾德說(shuō)，“這也許正是我們真正需要的。”

 

    但沒(méi)人能夠確切知道。

 

    拉塞爾在威斯敏斯特的演講中說(shuō)：“必須要有幾個(gè)重大突破，而且這些突破可能會(huì)很快實(shí)現(xiàn)。”。他提到了1917年英國(guó)物理學(xué)家歐內(nèi)斯特·盧瑟福（ErnestRutherford）提出的核裂變（原子分裂）的快速轉(zhuǎn)變效應(yīng)，并補(bǔ)充道：“很難預(yù)測(cè)這些概念上的突破何時(shí)會(huì)發(fā)生。”

 

    但無(wú)論何時(shí)，如果他們這樣做了，他都強(qiáng)調(diào)了準(zhǔn)備的重要性。這意味著要開(kāi)始或繼續(xù)討論在道德上使用轉(zhuǎn)基因技術(shù)，以及是否應(yīng)該對(duì)其進(jìn)行監(jiān)管。這意味著要努力消除數(shù)據(jù)偏差，因?yàn)閿?shù)據(jù)偏差會(huì)對(duì)算法產(chǎn)生破壞性影響，目前是人工智能軟膏中的一只大蒼蠅。這意味著要努力發(fā)明和增強(qiáng)能夠控制技術(shù)的安全措施。這意味著我們要謙虛地認(rèn)識(shí)到，僅僅因?yàn)槲覀兛梢宰觯⒉灰馕吨覀儜?yīng)該做。

 

    泰格馬克在TED演講中說(shuō)：“我們的技術(shù)狀況很復(fù)雜，但整體相當(dāng)簡(jiǎn)單。“大多數(shù)AGI研究人員預(yù)計(jì)AGI將在幾十年內(nèi)出現(xiàn)，如果我們只是毫無(wú)準(zhǔn)備地進(jìn)入這一階段，這可能將是人類(lèi)歷史上最大的錯(cuò)誤。它可能導(dǎo)致殘酷的全球獨(dú)裁，帶來(lái)前所未有的不平等、監(jiān)視、苦難，甚至可能導(dǎo)致人類(lèi)滅絕。但是，如果我們小心駕駛，我們可能會(huì)在一個(gè)美好的未來(lái)結(jié)束，那里每個(gè)人都過(guò)得更好，窮人更富有，富人更富有，每個(gè)人都健康，都可以自由地實(shí)現(xiàn)自己的夢(mèng)想。”