行業(yè)新聞
反思人工智能領域的神話現(xiàn)象
我的位置：主頁 >行業(yè)新聞
2017年7月，國務院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，制定了我國人工智能未來發(fā)展的戰(zhàn)略部署。人工智能的健康發(fā)展，關系到這一國家戰(zhàn)略的有效實施。目前，從技術、管理、倫理和法律等角度提出的治理舉措，顯性地護航了該戰(zhàn)略的實施。人工智能與其他學科的有效融合，將有效推動人工智能戰(zhàn)略的實施。而一些不良影響因素的存在，則會阻礙其相互融合以及戰(zhàn)略實施。其中，人工智能領域的神話現(xiàn)象就是一個重要的不良影響因素。從文化角度看，神話現(xiàn)象的存在會對人工智能的健康發(fā)展造成隱性影響。
神話現(xiàn)象的表現(xiàn)形式
人工智能領域的神話現(xiàn)象是技術神話的一種表現(xiàn)形式，具體表現(xiàn)為奇點來臨、人工智能成為主體、人工智能成為偶像、人工智能話語神話四個方面。
第一種神話形式是奇點神話。“奇點來臨”是庫茨維爾（Ray Kurzweil）提出的概念。這一概念是對人工智能與人類關系的特定特征的描述，本意可以看作人工智能超越人類的特征。今天，這個概念被演繹出一種時代變更的特征，即人類被智能機器超越的特征。然而，懸置這一特征，我們會發(fā)現(xiàn)一個被掩蓋的事情，即超級人工智能降臨的時刻。“超越”與“降臨”是描述人工智能與人類關系的兩個不同的概念?！俺健苯⒃谥悄苓M化的基礎上，指經(jīng)過特定時間與技術發(fā)展，人工智能在與人類智能相對齊后，會勝過人類智能。而“降臨”則不是建立在延續(xù)性的基礎上，對于人工智能而言，指的是在某個特定時刻“意識覺醒”的發(fā)生。所以，從時間觀念來看，奇點來臨是時刻發(fā)生意義上的現(xiàn)象，而并不是延續(xù)演化意義上的經(jīng)驗事件。這樣的話，人工智能作為一種神話形象就存在了。所以，接受奇點來臨的可能性結果，會導致人工智能發(fā)展中神話現(xiàn)象的產(chǎn)生。
第二種神話形式是主體神話。智能體的出現(xiàn)讓我們看到了與人類類似的現(xiàn)象，即從無到有的一個發(fā)生過程。智能體可以從一個無的環(huán)境中生成。人工智能類似于人的一點，在于空間記憶細胞的結構。人工智能領域的相關實驗（如智能體的空間學習）表明：智能體的空間記憶細胞的結構，類似于人類、動物的空間記憶細胞的結構。更為有趣的是，深度學習網(wǎng)絡中的每層神經(jīng)元的統(tǒng)計特性，與大腦皮質層層級結構中神經(jīng)元的統(tǒng)計特性非常接近。這些經(jīng)驗性研究有一個明顯的假設：智能體作為一種新的主體形式，與人類主體有著極強的類似性。當然，人工智能作為新的主體還有更深的含義，即從智能體演化為新的主體。因為內(nèi)在結構的相似性，目前智能體的認知、決策能力趨近于人，可能只是時間問題。這并不是人類設計的結構，而似乎成為智能體的先天結構。智能體通過認知、情感等能力獲得道德能力，將成為其邁向主體過程的必要鋪墊。
第三種神話形式是偶像神話。在一些領域，人工智能能夠自主作出決策判斷，看出人無法看出的問題，從而獲得決策權。人們對于智能體的狂迷、崇拜態(tài)度，使新的偶像得以產(chǎn)生。這是在宗教性偶像之外的技術偶像，會對人類自身的自主性產(chǎn)生極大影響。在這種情況下，決策與自主權具有了被讓渡出去的可能性。
第四種神話形式是話語神話。有學者指出，人工智能產(chǎn)生了一套話語體系，在這一意義上成為現(xiàn)代人再造的一個新的神話，表達了人對于技術無限進步的質疑和恐懼，同時又借助于對其批判來捍衛(wèi)人之為人的固有尊嚴。人工智能話語神話的出現(xiàn)，意味著人類對其演化的必然性以及不可干預性的擔憂與恐懼，同時也意味著基于人文主義的一種“保衛(wèi)戰(zhàn)”。然而，這一論述的不足之處也非常明顯。從歷史上看，一些權力（如政治權力）的合法性，有時會來自神話賦權，如君權神授、元代之長生天等講法，都反映了這一觀念。所以，神話不僅是一種話語，更能夠賦予權力合法性。人工智能也是如此，相關神話讓某些學術活動、科研活動具有了特定的合法形式。
神話現(xiàn)象的成因
要理解人工智能領域神話現(xiàn)象的形成，還需要從神話本身入手。對于神話的理解，可以劃分為兩種，即理性理解與非理性理解。在前者中，神話被看作精神的外化產(chǎn)物、前理性階段、政權合法性根據(jù)。馬克思將神話看作人類想象力的外化，是以想象力征服和支配自然的產(chǎn)物。他在《〈政治經(jīng)濟學批判〉導言》中指出：“任何神話都是用想象和借助想象以征服自然力，支配自然力，把自然力加以形象化；因而，隨著這些自然力之實際上被支配，神話也就消失了?！睂⑸裨捒醋髑袄硇噪A段的觀點主要來自卡西爾（Ernst Cassirer），他將神話看作前理性階段、一個充滿了迷魅的時期。布留爾（Lucien Lévy-Bruhl）對原始思維的討論，可以看作對原始神話思維的討論。前理性階段意味著神話作為理性之源的地位確立。沃格林（Eric Voegelin）則將神話看作政治合法性的根據(jù)。在非理性視野中，神話與創(chuàng)世、恐懼與狂迷和祈求聯(lián)系在一起，一種通過非理性方式獲得根據(jù)的形式確立起來?？梢钥闯觯胂罅Τ蔀樯裨捚鹪吹尿寗恿?，人類對于自然界的無知與恐懼放大了對于自然的想象力，最終導致了神話的產(chǎn)生。
現(xiàn)代神話的發(fā)生除了人類想象力之外，還有另外一些因素在起作用。在現(xiàn)代社會中，國家神話、技術神話與資本神話成為主要的表現(xiàn)形式。國家神話曾被卡西爾作為重要現(xiàn)象系統(tǒng)討論過。當前，資本神話已成為一種普遍現(xiàn)象。資本具有強大的力量，在資本力量的驅動下，一系列神話現(xiàn)象被制造出來，如各類影星、歌星、人工智能、元宇宙等。技術神話主要是在更為經(jīng)驗化的形式上被加以討論，一種形式就是信息媒介技術導致的數(shù)字神話。莫斯可（Vincent Mosco）討論了數(shù)字技術神話的確立，并指出數(shù)字信息技術發(fā)展導致了歷史、地理與政治的終結。然而，人工智能領域中的神話現(xiàn)象并沒有得到充分關注。
人工智能神話作為現(xiàn)代神話的一種典型類型，其產(chǎn)生的一個最基礎因素是想象。在原始時期，人類對自然界缺乏認知且無力掌控，所以將想象力作為一種支配因素。隨著科學技術的發(fā)展，想象力逐漸退卻，科學成為主要的支配形式。在人工智能迅猛發(fā)展的今天，這一情況變得更為復雜。對自然界的原始恐懼為對機器的現(xiàn)代恐懼所取代，盧德主義依然有其存在的土壤，這種恐懼滋生著人工智能領域的神話現(xiàn)象。想象依然是影響人工智能發(fā)展中神話形成的主要原因，但是這種想象已表現(xiàn)為對技術的過度想象。然而，容易被忽略的是科學理性因素。在科學領域，人工智能取得了很多令人驚異的成果，如類似于動物進化的智能體演化方式、能夠自我復制的智能體等。這些成果無形之中刺激著敏感者的神經(jīng)，使其以一種恐懼的心態(tài)看待智能體在悄然之中的變化。同時，現(xiàn)實場景以及生活自身的深度智能化，也成為社會實踐活動合法性的重要根據(jù)。
我們需要防范人工智能領域神話現(xiàn)象的可能后果。這是一種技術文化現(xiàn)象，其后果往往是隱性的，并不像人工智能本身及其應用產(chǎn)生的顯性風險和社會風險那樣引人關注。以人工智能倫理為例，現(xiàn)在人們的目光多集中在人工智能產(chǎn)生的安全、隱私、偏見和信任等問題上，大量規(guī)范也被陸續(xù)制定出來。然而，文化方面的問題因其隱性而容易被忽略。比如，人工智能話語神話導致的技術傲慢、過度想象化導致的人工智能領域的神話現(xiàn)象等。所以，我們需要認真對待此類問題。
防范神話現(xiàn)象形成的途徑
第一，重建信任以消除對機器的現(xiàn)代恐懼。根據(jù)馬克思的理論邏輯，人工智能神話的形成主要是對人工智能的想象所導致，過度的想象導致了人工智能神話的形成。過度想象的深處是人類對于機器的不信任。如今，人工智能深度學習算法層次使得黑箱效應更加嚴重，甚至有時連技術專家都束手無策。對此，我們需要對人工智能進行科學普及，讓黑箱不再“全黑”，并讓有關企業(yè)的信息更為透明。此外，還有文化上的因素。目前大眾文化中如“敵托邦”的科幻作品就在塑造著對機器人的特定恐懼。德國學者肯內(nèi)（Christopher Coenen）指出，從歷史上看，西方思想文化史中存在著極濃厚的對于機器的不信任觀念，這種觀念深深地影響了今天人們對于人工智能的態(tài)度及文化。因此，對這些因素也需要加以重視?？傮w來說，重新構建人類對于機器的信任心理及文化，消除對機器的現(xiàn)代恐懼尤為重要。
第二，充分挖掘人工智能意識發(fā)生的條件。關于主體神話，盡管相比當下專用人工智能研究的大眾性來說，通用人工智能研究屬于小眾研究，但這種研究的結果卻是革命性的?！爸悄鼙ā薄爸悄苡X醒”等都展示了這一點。牛津大學的弗洛里迪（Luciano Floridi）從中看到了一個超歷史的可能性。盡管人工智能從多個方面具有與人類智能的相似性，但人工智能的意識絕不是設計生成的，而更多是一種自然發(fā)生的結果，如同果熟落地、花開花落一樣。當意識發(fā)生的條件具備之時，也就是意識的生成之時。對這種發(fā)生條件的分析，是人工智能哲學要承擔的任務。
第三，形成增強智能的意識以平衡人類與人工智能的關系。這是針對偶像神話的一種舉措。盡管人工智能具有超強的感知和信息獲取能力，也具有超強的算力，然而在作出決策方面，有限度地交給機器可能是明智之舉。這一點就是增強智能觀念所著重強調的。增強智能是一種設計模式，用來實現(xiàn)在人與人工智能的合作中以人為中心的合作模式，可以增強包括學習、決策和新經(jīng)驗在內(nèi)的認知能力。增強智能不是一種實體性的技術類型，不像人工智能那樣去模擬人類的思維和行動，創(chuàng)造出一個類人的形象，而是更多呈現(xiàn)出一種人與人工智能體的關系樣態(tài)。增強智能的目標是讓人—機實現(xiàn)合作，產(chǎn)生一種既不是機器也不是人類單獨獲得的積極后果。
第四，對于奇點臨近有一種正確的認識。奇點臨近是一種神話重構抑或趨勢預測？如果是未來學家的趨勢預測，那么應該在這種宏大敘事中找到發(fā)生的最初跡象，從微小跡象預判可能發(fā)生的事情。能夠生成智能體的環(huán)境、能夠自我復制的智能體等科學成果的提出，或許就是微小跡象。但我們不應該只是從一個證偽/證實的角度去分析所面對的問題。因為微小并不意味著奇點沒有到來，而是要作出前瞻式判斷。如果是神話重構，那么我們也要看到這種重構話語的合理之處，一種時刻性時間觀念隱含在其中。這種時間觀念早已在傳統(tǒng)的“時機”中有所體現(xiàn)，但現(xiàn)代性的發(fā)展使這種觀念被持續(xù)性的時間觀念所遮蔽。
第五，建立一種倫理學的應對方式。人工智能并不是簡單的技術，而是有很多超越技術的地方。比如，超級智能體可能的自覺意識、奇點帶來的機器超越和取代人類、成為主體的自主意識等。如果說這種超越可能過于久遠，那么我們需要看到，人工智能展現(xiàn)出了一種匯聚能力。人工智能將諸多技術匯聚，甚至成為開啟未來智慧城市、數(shù)字化轉型的必要技術基礎，這對于未來的影響是深遠的。從這個角度看，約納斯（Hans Jonas）的責任倫理學是必要的，有助于我們建立起技術會影響未來的觀念。此外，我們還可以通過美德倫理學的有效復興，應對人工智能帶給我們的種種問題（如技術性傲慢）。謙遜作為一種美德，能夠為克服技術性傲慢提供一劑良藥。但這不是深層的，需要找到更為深入的方式。究其根本，技術性傲慢還是理性傲慢的體現(xiàn)?；蛟S，進一步分析記憶及其在智能時代的作用，有助于問題的進一步解決。
