• <menu id="ykygk"><strong id="ykygk"></strong></menu>
  • 社科網首頁|客戶端|官方微博|報刊投稿|郵箱 中國社會科學網
    新興領域

    【肖峰】人工智能與人工體能的哲學比較

     

    人工智能是今天我們耳熟能詳的概念了, 但人工體能還鮮有提及。其實, 只要人工智能隱喻能夠成立, 人工體能的說法也同理可接受, 而且人工體能是比人工智能更早出現的現象。人工體能作為人工智能的先行者, 兩者之間存在著錯綜復雜的關系。如果從哲學的層面上進行比較, 可以使人工體能為人工智能提供理解上的借鑒和參考, 由此來加深和拓寬我們對作為當今科技前沿的人工智能的哲學把握。而且, 由于馬克思的思想資源有助于深化對這一問題的探析, 所以這種比較無疑也可顯示馬克思相關理論在智能時代的闡釋力。

    一、概念界定及兩者的可比較性

    作為人造的技術系統, 雖然人工體能先于人工智能出現, 但作為概念的使用, 則顯然是人工智能在先, 而人工體能迄今還未出現于正式的學術出版物中。鑒于本文首用這一概念, 理應需要對其加以界定。借鑒人工智能技術是在計算機上模擬或人工地產生人的部分智能之功效的隱喻性稱謂, 可以同樣隱喻性地稱謂那些能夠行使人的部分體能功效的工具裝置為人工體能技術。更確切地說, 類似于我們對人工智能的界定, 可以把人工體能理解為人類體能的技術性延長或增強, 也就是通過各種人工設備 (通常是機器) 而非自然手段 (人的身體) 來實現的需要人的體能才能完成的任務。可見, 無論智能還是體能, 都可以并且應該有“自然的” (人自身的) 和“人工的” (技術構建的) 之分。當人的體力被機器一類的技術裝置轉化而來的自然力所模仿從而在功能上被替代時, 和形成人工智能的機制一樣就形成了人工體能。這樣, 作為具有智能特征的A I和具有體能特征的機器就成為具有一定相似度的可比較對象。

    如果將計算機也視為一種機器或機器的高級形態 (即所謂“信息機器”) , 那么人工智能和人工體能都可以視為主要是以機器為載體的“人工能力” (可以將人不借助人工的技術手段而具有的能力——無論體能還是智能——統稱為人的“自然能力”, 而將經過人工的技術手段所形成的能力統稱為“人工能力”) , 所以人工智能又被稱為“機器智能”, 由此推論人工體能也可稱為“機器體能”, 于是從物理表現上它們都是某種形態的機器, 一個是“肌肉機器”, 一個是“大腦機器”。前一種機器的工作機制是機械化, 后一種機器的工作機制是計算化, 因此人工體能是機械化后模擬和放大的體能, 人工智能則是通過計算化而模擬和放大的智能。還可以說, 人工體能是在物能系統上人工轉化而來的自然能 (含人自身的體能) , 人工智能則是在信息系統上人工轉化而來的符號變換能力。

    上述的界定將機器作為形成人工體能而后人工智能的起點, 那么一個相關的問題是:只借助手工工具 (如榔頭或紙筆) 所延展的體力和智力是人工體能和人工智能嗎?嚴格地說不是, 因為它們只是簡單地延長, 沒有形成“放大”或“增強”的效應。但由于使用了這樣的手工工具后, 確實又使得人可以去做較之僅靠身體來說更多的事情 (無論改變物理對象的體力活動, 還是認識世界的智力活動) , 所以也可視其為從人的自然能力向人工能力的過渡, 或者是人工能力 (從人工體能到人工智能) 的開端。

    二、兩者的特征屬性比較

    從修辭上, 人工體能和人工智能都是“人工的”, 都是人工物的某種屬性, 即都是人工物的運行所涌現出來的功能, 前者是蒸汽機或發動機的運轉所涌現出來的功能, 后者是計算機的運作所涌現出來的功能, 也可將它們視為都是人工運動所造成的人工變化, 其中人工體能造成的是物理對象的物質形態變化, 人工智能造成的是虛擬對象的信息形態變化。由于它們都隸屬于人工物的功能這個“大家族”, 因此它們之間具有維特根斯坦所說的“家族相似”。例如, 兩者的人工性標示了其存在的屬人性, 即以人為依托的本體論屬性。無論人工體能還是人工智能, 都是圍繞人而衍生出來的人工現象, 都是人對自己功能的延伸和拓展。如果沒有人, 就不會有人工體能, 也不會有人工智能, 它們的生發都源于人, 是由人所創造出來“附隨”于人的現象。又如, 兩者的人工性也標示其狀態的非自然性, 這里的“自然”即自然界現存的或從自然狀態中進化出來的, 如人自己的體力和智力, 就是“人自身的自然”;人工體能和人工智能都不是人身的自然現象, 而是非自然的人工現象, 是人使用技術手段所“發明”和“創造”出來的, 所以這里的人工性也就是技術性, 沒有人造的技術裝置, 就沒有人工體能和人工智能。人工體能和人工智能一起構成了人工能力的主干, 而人的自然能力和人工能力一起構成了人類的“總體能力”。可以說, 一部人類進化史, 就是人的自然能力不斷附加上人工能力從而不斷實現其總體能力提升的歷史, 而人類的“文明發展史”則主要是人工能力不斷提升的歷史。

    可以說, 人工體能和人工智能都具有對人而言的工具屬性, 它們都是人用來為自己服務的, 由此它們具有起因上的相似性, 即都源于克服自身自然能力的不足:通過人造的工具來實現從僅僅依靠人的自然能力向借用人工能力過渡, 亦即借助一定的技術工具來放大自身的能力, 從放大自身的體力到放大自身的智力。從另一個角度說, 人工體能和人工智能的起因也是為了節省人自己的體力或腦力, 而且兩者之間還具有連續性:人在節省了自己的體力之后還要進一步節省自己的腦力, 人從擺脫繁重的體力勞動之后還要進一步擺脫重復、繁瑣和枯燥的部分腦力勞動。從這種“接力式”的關系中可以看到兩者之間的另一種相關性, 即歷史相關性:人工體能技術是人工智能技術的前身或“前奏”, 人工智能技術是人工體能技術的延續乃至必然產物, 因為人工體能發展到一定階段后必然需要可替代自己控制人工體能技術的信息技術, 這就是行使自動控制功能的最早應用于生產過程中的信息技術或智能技術。

    由此我們也看到, 它們都具有對人的智能的替代性。作為人工體能和人工智能的技術可以將人所進行的物能行為和信息行為分解為單一性的操作或運轉, 再以力度或速度上的優勢獲得替代人的價值, 如機器以力度和頻率形成對人的體能優勢, 電腦則以運算速度形成對人的計算優勢;它們在耐力和規模上也具有相對于人的優勢, 從而它們都以某種形式“超越于人”, 使人變得“渺小”。馬克思描述人與巨大的機器比拼時的弱小感也同樣適用于刻畫人腦與超級電腦較量某些智能時的感受:人的體能“在科學面前, 在巨大的自然力面前, 在社會的群眾性勞動面前, 作為微不足道的附屬品而消失了;科學、巨大的自然力、社會的群眾性勞動都體現在機器體系中, 并同機器體系一道構成‘主人’的權力”。[1]而當深藍戰勝卡斯帕羅夫、AlphaGo打敗李世石后, 也使不少人產生智力上面對AI時的“渺小感”, 可見人工體能和人工智能都對人形成了某種程度的“威脅”, 從就業到安全再到人的主體地位, 也被形象地概括為前者使人手貶值, 后者使人腦貶值, 兩者似乎都導致了“人的貶值”。

    更為內在的是, 從工作機制上看它們都具有“機械化”或“自動化”的特點。如同行使人工體能的機器按固定模式并以流水線的方式加工產品一樣, 行使人工智能的計算機也按固定的程序或算法來加工信息, 兩者所遵循的都是機械化的工作方式。機器算法是人腦算法的外化, 也是對人腦思維過程“分化”和“純化”后的產物, 如同機器的“動作”是對人的肢體動作分解、簡化后的產物一樣。正是將人的復雜動作分解為簡單動作后, 才使得在機械裝置上機械地、自動地實現這些動作具有了技術上的可能性。類似地, 也正是機器算法對人腦算法的“分解”, 將其形式化、模式化、程序化, 由此才為在計算機這樣的信息機器裝置上實現計算、推理等過程的機械化、自動化提供了技術上的可能性 (正因為如此, 人腦思維過程中的綜合化與靈活性難以實現“機械化”和“自動化”) 。或者說, “通過在計算機上使用算法, 我們把精神上的行為機械化, 把設想和抽象集成到計算機, 以便計算機通過我們指定的行為, 為我們實現設想”。[2]或者說, 正是算法將問題單純化、形式化后, 才使得人工智能顯示出解決某些問題 (如下棋、人臉識別、機器翻譯、數據分析等) 的強大能力。可以說, 一切可以通過機器算法來解決的認知任務, 人在效率上是無法與運用該算法的機器相較量的。

    總之, 物品生產和信息處理的這種機械化、程式化、流水線化也正是保證其“高效化”的有力手段。在這個意義上, 算法貫穿的機器智能是人的認知活動中理性化、形式化方面的極端化發揮, 正是這種發揮贏得了機器智能的高速度和高效益, 如同機器體能中機械化所獲得的高速度高效益一樣。在這個意義上, 人工智能是人工器具對人的身體 (包括人腦) 活動的一種新型延展。或者說, 將智能計算化 (形成人工智能) , 如同將體能機械化 (形成人工體能) , 前者是信息時代的主題, 后者是工業時代的主題。在這個意義上, 信息革命也延續了工業革命的本質, 或者說人工智能延續了人工體能的追求人類活動高效化的本質。

    三、兩者社會效應的相似性比較

    人工體能和人工智能作為工具技術, 使人獲得了生產物品和處理信息的新手段, 提高了人在進行這些活動時的效率, 增強了人類自身的能力, 實現了人類的文化進化。但在帶來這些積極效應的同時, 它們也造成了一些負面的社會效應, 其表現形式盡管不同, 但也有若干相似性可加以比較, 并成為可通向更高階段融合的根據和推動。

    第一, 它們使人所失去的具有一定的相似性。

    人工體能技術所造就的機械化大生產, 被托夫勒概括為“好大狂”的生產方式, 它在高速運轉的機械化流水線上生產出來的工業品千篇一律, 取代了手工品的多姿多彩, 從而失去了產品的個性化, 并且使工人的勞動喪失情趣。如同馬克思所揭示的機器勞動的如下特征:機器用它極為簡單的機械運動的復合, 代替了勞動者的復雜技能, “使用機器的基本原則, 在于以簡單勞動代替熟練勞動”, [3]“把科學作為一種獨立的生產能力與勞動分離開來”。[1]機器技術把復雜勞動還原為簡單勞動后使得勞動“去技能化”, 工人所特有的專業和技藝被抽象化和齊一化為空洞的機械動作, 各種專業性的勞動被通約為工人在機器流水線上的極為簡單的操作。“由于機器使用同一的、簡單的、最多不過在年齡和性別上有區別的勞動, 去代替有手藝的獨立的手工業者和由于分工而發展起來的勞動專業化, 它就把一切勞動力都變為簡單的勞動能力, 把一切勞動都變為簡單勞動”;[3]“機器勞動……奪去身體上和精神上的一切自由活動。甚至減輕勞動也成了折磨人的手段, 因為機器不是使工人擺脫勞動, 而是使工人的勞動毫無內容。”[1]

    機器勞動對人的手工勞動的這種“抽象化”, 表現在人工智能中就是對人的認知本質說明時的抽象化, 即認知主義用人工智能反推和假設人腦的認知工作機制。人工智能是用計算機的計算過程來模擬人的部分認知能力, 而這種機制后來被計算機主義加以擴大化和極端化, 用于解釋人腦的思維方式并闡釋人的全部認知特征, 形成所謂功能主義的認知科學, 將人的認知的本質歸結為“計算-表征”的抽象過程, 這個機制在人工智能的機器運作中雖然帶來了形式化所導向的信息處理高效率化, 但用它來說明人的認知本質時則使其失去了符號的接地性、語義的豐富性、信息處理的靈活性, 以及一切由認知的具身性或情景性所決定的特性, 認知過程變成了純粹符號的形式推演。人的認知確實有抽象的一面, 對這一面的說明確實也需要形式化、算法化等手段, 否則就難以發現普遍性和規律性的東西, 也難以進行機械化的移植和模擬。但經過形式化、算法化的抽象認知, 同時也脫離了身體和環境的豐富特性, 如同操作機器的動作變成機械劃一而不是多姿多彩的行為一樣。所以, 對這樣的認知闡釋還需進行再度的具體化還原, 才是活生生的人的認識, 否則就只能是機器所執行的嚴格死板的程序。

    再就是, 人工智能是在算法控制下運行的。算法實際是人基于計算機的可接受性而設計的可以“外包”給計算機去替我們進行的部分認知任務的“技術方案”, 算法使得信息處理可以定型化、規范化、程式化地實現, 反過來也會影響 (部分) 人腦的認知呈現這一特點, 即把人的 (部分) 思考塑造成如電腦一樣固化和僵硬。也就是說, AI的使用也會使人失去一些東西, 就類似于機器的使用會使人失去一些東西一樣。當人工智能的工作原理被用來觀照人自身的智能活動時, 無疑會使生動的人類智能被其遮蔽掉很多的屬性和特征, 所以對認知的計算主義闡釋后來遭到了第二代認知科學的批判與否定。這也表明人的自然智能與人工智能之間在相當長的時間內還會存在各司其職、不能相互“僭越”的分工, 如果人去單純訓練形式表征的計算速度, 則人就真的把自己變成了機器。

    人工體能技術中的機器運動作為一種由機械或物理規律所決定的確定運動, 消除了人在勞動時的隨意性, 成為“折磨人”的新手段。《資本論》在注釋中援引了恩格斯在《英國工人階級狀況》中所引述的這樣一段描述和分析:“一個人每天看管機器的劃一運動15小時, 比他從事同樣長時間的體力勞動還要衰老得快。這種看管機器的勞動, 如果時間不太長, 也許可以成為一種有益于智力的體操, 但是由于這種勞動過度, 對智力和身體都有損害。”[1]其實這樣的“負面效應”也類似地出現在人工智能時代的今天, 當人們整天使用電腦或上網時, 由于久坐對身體的傷害、由于長期看屏幕對眼睛的傷害、由于各種垃圾信息對精神的傷害……再就是, 機器勞動對人的身體動作的固化, 在今天則表現為智能軟件的信息推送對人腦思維取向的固化, 人們只能被“配送”從而接觸到“感興趣的信息”, 從而陷入“群體極化”或“信息繭房”之中, 成為知識和視界上“片面的人”。

    第二, 它們在初級階段對人造成的心理效應具有相似性。

    作為人工體能技術的機器在最初被使用時, 曾造成了工人的極度恐懼和自卑, 因為工人被置于機器一旁, 形同“蒸汽同人的肌肉的競爭”。[1]“通過傳動機由一個中央自動機推動的工作機的有組織的體系, 是機器生產的最發達的形態。在這里, 代替單個機器的是一個龐大的機械怪物, 它的軀體充滿了整座整座的廠房, 它的魔力先是由它的龐大肢體莊重而有節奏的運動掩蓋著, 然后在它的無數真正工作器官的瘋狂的旋轉中迸發出來”, [1]而工人則成為“勢單力薄”的一方;不僅如此, 在加工一些規則性或精度極高的零部件時, 機器之“輕易、精確和迅速的程度是任何最熟練工人的富有經驗的手都無法做到的”。[1]機器被引入生產系統后, 還使得“使用勞動工具的技巧, 也同勞動工具一起, 從工人身上轉到了機器上面”, [1]由此造成了“隨著實物世界的漲價, 人類世界也正比例地落價”。[12]凡此種種, 都使得最初使用機器的勞動者產生了對機器的恐懼、敵對心理, 甚至產生了搗毀機器的行動, 這就是“19世紀最初15, 英國工場手工業區發生的對機器的大規模破壞 (特別是由于蒸汽織機的應用) , 即所謂魯德運動”。[1]我們看到AI的初級階段也面臨了同樣的情形。目前的人工智能還只能說處于初級階段, 但各種關于人工智能將全面超過人的擔憂早已不絕于耳, 其中影響最大的是奇點主義的倡導者庫茲威爾。他認為, 50年內, 世界將達到一個科技飛速發展的奇點, 超級智能將在奇點到來時出現, 機器將能通過人工智能進行自我完善, 超越人類, 從而開啟一個新的時代。這一擔憂的派生形式包括, 人工智能由于超過人的智能, 人將無法駕馭和控制它, 反過來人會變為受人工智能所控制。這無疑十分類似于先前人們對人工體能的感受和恐懼, 也是基于人將自己的“自然能力”與人造技術系統的“人工能力”進行簡單對比所形成的“樸素認識”。

    今天人類對作為人工體能的機器和各種機器的衍生物不再有初級階段時的那種樸素恐懼感了, 甚至即使機器設備不時會因為“事故”而給人造成十分重大的傷亡時, 也不會出現搗毀機器或提出棄絕機器、回到手工時代的主張了, 而是會在改進機器的性能、加強使用的安全管理上做文章, 因為人作為機器的主人、作為人工體能的主宰這一本體論關系得到了確立, 而且作為人工體能技術的機器融入我們的生活如此之緊密, 人類已經將其作為自己的一部分來看待了。這種關系及其認知也必定在人工智能技術發展的過程中展現出來, 所以借鑒人類對人工體能技術走過的心路歷程來看, 人類從總體上是會邁過對人工智能的初級階段恐懼, 而懷抱樂觀的態度去推進這一技術發展的。

    當然, 即使這樣, 也不排除人文思想家們的“反思”態度。例如, 1918, 當人類已經度過了機器使用的初級階段后, 德國哲學家施本格勒仍對機器這種人工體能技術進行全面的批判, 并將機器與工人的對抗推廣到與人類的整體性對抗, 認為世界的機械化已經進入非常危險的緊張階段, 一切有機物變為了機器組織擴張的犧牲品, 人工領域排斥和破壞著自然領域, 文明成為與機器相適應的正在操作或總是努力操作的機器;創造物起來反對創造者, 目前正是機器這種創造物起來反對歐洲人, 使得世界的主宰成了機器的奴仆;機器不顧我們的意識和意志, 硬把世界的主宰、我們和所有一切, 毫無例外地拉入賽場, 在這個瘋狂的賽馬群中, 世界的勝利者將筋疲力盡。[14]海德格爾和馬爾庫塞等也是對以機器為代表的現代技術進行人文批判的代表人物。這也意味著, 對人工智能的人文批判也絕不會隨著這一技術以后的發展而終止, 這種批判可以適當地轉化為更好地建構A I技術的參考, 但顯然不會成為終止AI研發的理由。

    第三, 兩者在高級階段的融合及人的自我實現。

    可以預見, 人工智能和人工體能兩種技術的發展必將走向越來越高度的融合, 智能制造、智能機器人等都是這種融合的已經出現或正在涌現的形式。在這些集合體中, 人工體能受人工智能支配, 人工智能通過人工體能實現對現實世界的物理作業, 也體現出一種人工的認知活動與人工的實踐活動的整合, 即知和行的人工合一。這種整合還將在“賽博人”那里表現出更新穎的形式, 即人工智能和人工體能與人的自然能力融為一體, 此時人工體能就相當于甚至就等同于人的體能, 人工智能就相當于甚至等同于人的智能, 這種“無縫對接”更將消除所謂人工智能支配人的恐懼和擔憂, 因為人工智能此時已經內化為人自身的存在, 除非人自己想毀滅自己, 否則就不存在人被人工智能毀滅的問題。而從更積極的視角來看, 與人融合為一體的人工體能和人工智能, 其能力和水平達到什么程度, 同時就是人的自我實現所能達到的水平和程度。在消除了“人的”和“人工的”二元區隔之后, 一切“具機”、“具技”的能力同時也都是人的“具身”的能力, 人與技術的協同進化就是人自身的進化, 人工體能和人工智能在這樣的高級階段就與人的自由而全面的發展實現了有機的融合。

    四、兩者的價值互鑒

    以上的比較表明, 人工體能可以充當人工智能的一面鏡子, 幫助我們打開人工智能的黑箱, 而人工智能又可以進一步幫助我們打開人類智能的黑箱;人工體能技術的進化史或社會效應史甚至可視為人工智能技術進化史及社會效應史的預演。于是, 我們可以借鑒人工體能來分析人工智能的哲學問題, 理解人工智能的人文價值和意義。

    對人工智能的一個負面評價是它可能會大量地替代人的工作而使人產生日益深重的無用感。對此的解決途徑主要還在于調整心態。我們制造的人工體能技術如汽車、飛機跑得比我們快, 我們并不因此而認為人的雙腿無用;我們造的起重機、挖掘機遠超我們的臂力, 但我們并未推論出我們的雙手無用。在人工體能超越人的體能時, 我們沒有驚慌, 現在面臨局部智能被人工智能超越時同樣也不必恐懼。當然對人工智能的驚恐可能是因為人認為自己在萬物中的優勢是智能而非體能。但如果對智能作廣義理解的話, 其實并非人的所有智能都是最強的, 如在短時記憶上, 人就不如猩猩;在感覺能力上, 人的嗅覺不如狗、視覺不如鷹……對此我們不曾自卑過。當我們為AlphaGo打敗圍棋世界冠軍而感慨人的智力不如人工智能時, 想一想我們今天還為跑不過汽車、火車和飛機而為自己的體能自卑嗎?換句話說, 人的有用無用, 不是人和機器去比較, 而是人和人比較, 所以不用從體能、記憶、識別、計算甚至決策等方面的能力去看人和機器比較時的有用無用, 而要在人和人之間比較鑒賞能力、批判能力、人生體驗能力、形成幸福感成就感的能力等, 這些方面的有用性是機器所不能取代的。即使自然的奧秘可由人工智能替我們去揭示, 但人生的奧秘也只能靠人自己去體驗和展現。如果說人工智能使人類的工作都轉型為體驗性工作, 那么體驗中的差異是無窮無盡的, 此時差異就意味著有用, 意味著存在工作, 意味著在差異的鏈條中人總要形成向上競爭的趨向, 就要有發展和提升相關能力 (如鑒賞力、批判力等) 的活動, 從中就形成了長久的有用性甚至永恒的工作, 而這是比創造使用價值含義更廣、意義更大的“有用性”和“工作”。

    再如, 一些對人工智能的“要求”也可以借鑒我們關于人工體能的類似看法來加以校正。比如, 人工智能經常被“評價”為不像人腦的智能, 所以不能稱其為“智能”。其實, 如果真要使人工智能的工作機制完全像人腦一樣, 那么它的優勢也將蕩然無存了, 正是它僅僅模擬了人腦但并不完全復制人腦的構造和功能, 所以它才具有人腦所不具有的優勢, 正如作為人工體能技術的汽車車輪為什么一定要像人腿呢?如果車輪做得跟人腿一樣它還能跑那么快嗎?當我們對人工體能并沒提出形體上一定要與人相同的要求時, 為什么要對人工智能提出這樣的要求呢?人工智能裝置正是因其不像人腦但又能完成人腦的工作, 才具有開發它的意義, 因為這樣才能克服人腦的局限, 至少在運算速度上遠超于人。

    此外, 我們還需要對兩種異化和兩種尊嚴進行對稱性分析:人工智能和人工體能對于人都存在技術異化問題, 都是由于工具發達到一定程度后形成巨大的人工能力所造成的, 某種意義上這是人為擺脫在自然界面前過于弱小的代價。而異化中關于人工智能沉溺和替代的問題也可以借鑒人工體能來認識, 如當下不少人擔憂人工智能的使用會使人產生依賴性, 甚至不再使用自己的智力而導致智力退化。其實, 從人工體能的使用歷史可以看到, 人們并未因為人工體能的替代而不再動用自己的體能。這一做法無疑也需要移植到人類的智能活動領域, 相信人也必定會以更高的智商和情商來尋求如何在人工智能全盛的時代為自己的智能活動留下地盤, 而不至于一切都交由機器人去代理我們;或者說, 人工智能即使再發達, 人也不會因此不再使用自己的智能, 而是將智能轉向更有意義的領域。

    【參考文獻】

    [1] [4][6][7][8][9][10][11][13]馬克思恩格斯文集, 5[M].北京:人民出版社, 2009:487, 418, 486-487, 486, 545, 438, 442, 483, 493.

    [2][]沙克爾福德.計算與算法導論[M].譯者:章小莉等.北京:電子工業出版社, 2003:24.

    [3] [5]馬克思恩格斯文集, 8[M].北京:人民出版社, 2009:279, 348.

    [12]馬克思.1844年經濟學哲學手稿[M].北京:人民出版社, 1979:44.

    [14][蘇聯]達夫里揚.技術·文化·人[M].譯者:薛啟亮等.石家莊:河北人民出版社, 1987:36.

    (原載《思想理論教育》201904)

     

    金福彩票 www.qml5.com | www.988824.com | www.ky1007.com | 8905f.com | judingbo0.com | WWW.398616.COM | 365vip07.win | judingbo1.com | www.775377.com | www.21czj.com | www.98698l.com | tt888k.com | www.177478.com | WWW.564163.COM | 55oo8331.com | 6403c.com | WWW.212802.COM | www.15355j.com | www.ck9191.com | xhy000.com | www.146656.com | WWW.140019.COM | www.58vs88.com | 32126m.net | 32126i.net | www.779635.com | www.ay7799.com | www.685029.com | 3957b.com | 9030w.com | WWW.860680.COM | www.tx65.com | www.55676j.com | 2544b9.com | 7308999.com | www.320160.com | WWW.665984.COM | www.4368.com | www.bwinyz05.com | gg3888.com | 4270hh.com | www.192722.com | WWW.202117.COM | www.js1046.com | www.56655i.com | 4465y.com | 0234ff.com | WWW.141403.COM | WWW.572362.COM | www.bj799.com | www.5099ww.com | 8988s.com | 892979.com | www.178311.com | WWW.225540.COM | www.sxyl3.com | www.e63568.com | bb5443.com | 78666g.com | 7737.com | www.117809.com | WWW.527255.COM | WWW.742877.COM | www.7249z.com | www.68058888.com | 61323311.com | 3453.com | 44tt8331.com | www.452817.com | WWW.535423.COM | WWW.458455.COM | www.954321w.com | www.89677w.com | 168b3.com | m0006.com | 3656pp.com | 077980.com | www.951077.com | WWW.521449.COM | www.6611e.cc | www.35898d.com | www.16181a.com | 2677vvv.com | dzc111.com | 3121gg.com | www.90848a.com | WWW.295735.COM | WWW.197072.COM | www.600hc.com | www.37377q.com | www.bwinyz26.com | www.dzcp8888.com | 5589j.com | 0099227.com | 6839822.com | xpj86.com | 48123.com | www.554363.com | WWW.714277.COM | WWW.719646.COM | www.cz5658.com | www.51515c.com | www.7240t.com | www.30350k.com | www.hao500.com | 444p1.cc | 2247mm.com | 760hd.vip | 2566h7.com | 11885003.com | amjsw.net | bowang55.com | 29918bb.com | www.41518i.com | www.595477.com | WWW.42750.COM | WWW.663954.COM | WWW.234115.COM | WWW.511507.COM | www.lqc0.com | www.66ffx.com | www.25688l.com | www.954321q.com | www.68365m.com | www.j32031.com | www.85xpj.com | www.77007.com | 3434nnn.com | dzj.cc | xinhao88.com | 256777n.com | 6118e.com | 5005c.com | 795939.com | 0860h.com | xpjxianlu.com | 78666j.com | 1443d.com | 55331m.com | 27878gg.com | gh7105.com | 66671n.com | 30019ee.com | hgw777.vip | 1166589.com | 8757056.com | bet577t.com | 55984l.com | 35000.com | 45888b.com | 5309w.com | 4461t.com | 992222e.com | 18438v.com | 87965hh.com | 6118v.com | 667766l.com | 5002yyy.com | www.feng01.com | www.99393.com | www.klcp009.com | www.185145.com | www.63606g.com | www.3398711.com | www.0194008.com | www.71399d.com | www.6364a.com | www.ya717.com | WWW.566284.COM | WWW.21102.COM | WWW.885767.COM | WWW.531217.COM | www.819847.com | www.191060.com | www.08kj.cc | bet009900.com | 5589555.com | 3559yy.com | 3405zz.com | 66002007.com | www.526688.com | www.5189666.com | www.48330l.com | www.07163n.com | www.cf9909.com | WWW.680071.COM | WWW.794099.COM | WWW.508026.COM | www.657505.com | www.50732o.com | 0015ll.com | 8178522.com | 54147711.com | 2848aaa.com | www.22666.com | www.jjssss.com | www.7239q.com | www.hm7288.com | WWW.563496.COM | WWW.444772.COM | www.310477.com | 22dd8332.com | 582466.com | 0015zz.com | www.527576.com | www.62979e.com | www.97655m.com | WWW.840662.COM | WWW.606668.COM | www.401278.com | 5001q.com | 18438h.com | yyh917.com | fuhao123.com | www.0099psb.com | www.6364i.com | WWW.53348.COM | www.963063.com | www.479966.com | www.81678v.com | zz8159.cc | 23456.cc | www.5446ii.com | www.088014.com | WWW.24266.COM | WWW.26525.COM | www.31443.com | 89777i.com | 00048s.com | www.55545d.com | www.261610.com | WWW.393799.COM | WWW.313889.COM | www.498888.com | 1654zz.com | 8988r.com | www.sha2222.com | www.52303l.com | WWW.34994.COM | www.544242.com | 3644j.com | 5080.cc | www.99113z.com | www.hg09.com | WWW.675007.COM | www.376519.com | 69y69.vip | 25288f.com | www.pjgw22.com | www.hy9311.com | WWW.509616.COM | 6868137.com | 64640029.com | www.bet91481.com | www.6dwj.com | WWW.802209.COM | 188qq44.com | 68228p.com | www.n32031.com | WWW.27308.COM | www.907883.com | 8957c.com | 85698u.com | www.86339c.com | WWW.175011.COM | www.610659.com | hg57570.com | 51200oo.com | www.172323.com | WWW.780380.COM | 94557d.com | 67890i.com | www.bet63g.com | www.cp718.net | www.855765.com | 08820099com | 2643x.com | www.c17848.com | WWW.316391.COM | 83138b.com | 4858xianlu.com | www.ejylc17.com | WWW.442313.COM | www.884222.com | 5856q.com | www.88325z.com | WWW.27872.COM | www.178225.com | 341pt.com | www.89677j.com | WWW.349321.COM | www.271051.com | 889.net | www.bwin930.co | WWW.332417.COM | www.191061.com | 713jc.com | www.33678dd.com | WWW.110947.COM | www.948282.com | pj9937.com | www.6678568.com | WWW.876345.COM | 3616y.com | www.808888y.com | www.ck9191.com | www.371951.com | bb3405.com | www.7737dd.com | WWW.249789.COM | 1389rr.com | www.xycp099.com | WWW.544033.COM | 11434.com | long397.com | www.aa355.com | www.981090.com | dz3388.com | www.598012.com | WWW.663949.COM | 2019p.cc | www.9bet005.com | WWW.665481.COM | 98kbc.com | www.1168t.com | WWW.879611.COM | b2490.com | 6692.am | WWW.823615.COM | www.kkk118.com | 2306.cm | WWW.192224.COM | www.885116.com | 30006q.com | www.hx6666.com | 880118.com | 500000831.com | WWW.888595.COM | 2247h.com | www.cp505c.com | WWW.909466.COM | 88899.com | www.222244.vip | WWW.299630.COM | 1259c.com | www.dingxin598.com | WWW.659766.COM | js74120.com | www.1434k.com | www.996546.com | 4288s.com | www.43818m.com | www.235607.com | 985599.com | www.hjin2.com | 660709.com | www.759027.com | WWW.563641.COM | 6446xx.com | www.xyh6002.com | WWW.261027.COM | 3405y.com | www.3207.com | 3991100.com | www.bet91485.com | WWW.22575.COM | 2172288.com | www.81678d.com | www.50989e.com | 6567.com | WWW.277444.COM | dzj17.com | www.60108c.com | 409777.com | www.zzyl61.com | WWW.523736.COM | 5m412.com | www.33588l.com | h7742.com | www.5099xx.com | WWW.361148.COM | 9993450.com | www.cp8014.cc | xf122.com | www.103575.com | www.550214.com | 3049j.com | WWW.309046.COM | 1294v.cc | www.gen08.com | 243d3.com | www.638713.com | www.476669.com | 7775144.com | WWW.83900.COM | 4995z.com | WWW.702599.COM | 08778m.com | www.yh76o.com | www.8000tk.com | www.pjgw66.com | www.693119.com | 7003822.com | WWW.102928.COM | vv3405.com | WWW.49284.COM | qq444000.com | www.c4530.com | 1479i.com | www.52303r.com | 6641cc.com | www.598282c.com | 991000.com | www.88325w.com | www.380068.com | www.50999h.com | www.914909.com | ag1515a.com | WWW.491456.COM | 5443l.com | WWW.929830.COM | 2127ww.com | WWW.51028.COM | 7788332.com | WWW.788688.COM | 346770.com | WWW.86808.COM | 6099333.com | WWW.92191.COM | 57157m.com | WWW.562357.COM | h4042.com | WWW.385077.COM | 4995r.com | WWW.802969.COM | 4288d.com | WWW.30350.COM | wuxixhh.com | WWW.683518.COM | 2018885188.com | WWW.388438.COM | 6868dd.cc | WWW.338096.COM | www.c44mm.com | www.626212.com | www.00772h.com | www.126019.com | www.ba307.com | 99567j.com | www.743902.com | hg999333n.com | www.2408d.com | 22772007.com | WWW.720079.COM | pjhebei.com | WWW.807949.COM | 1434f.com | www.609814.com | www.3066pp.com | www.233188.com | www.5958818.com | js88830.com | www.flff7.com | 51133ttt.com | WWW.368012.COM | 44488x.com | www.574277.com | www.33678ii.com | 69440011.com | www.49956j.com | 55899o.com | WWW.67226.COM | 97q.com | www.810513.com | www.b12189.com | 70118k.com | www.8816r.com | 45637o.com | WWW.157349.COM | www.7793o.com | www.hcw332.com | www.13434a.com | 8661588.com | WWW.838383.COM | 2019l.cc | www.lcw997.com | www.131095.com | 7736n.com | WWW.62098.COM | 7979xpj.com | www.275780.com | www.js520988.cn | 00774oo.com | WWW.544229.COM | 5517.com | 635305.com | www.29400.com | 7003xx.com | WWW.377111.COM | www.47506y.com | 3482n.com | WWW.165062.COM | feicai0411.com | www.195237.com | www.81233hh.com | 574747.com | WWW.888789.COM | www.79095v.com | bcylc88.com | WWW.31030.COM | www.77731t.com | hnzresearch.com | www.ovfd2.com | 3338449.com | www.308550.com | www.50732d.com | pj228877.com | www.593477.com | www.6664588.com | p67890.com | www.811597.com | www.0967xx.com | 3304u.com | www.976527.com | www.1466s.com | 7r3777.com | WWW.760539.COM | www.v667788.com | yuhe.ooo | www.751898.com | www.105607.com | 47749p.com | www.371680.com | www.90767.com | xhtd.com | www.922333.com | WWW.368809.COM | www.369072.com | www.820032.com | 381818.com | www.hm3377.com | 272nn.net | 62105.com | WWW.739898.COM | www.88166y.com | 1114116.com | WWW.441558.COM | www.3522 | 11018o.com | www.101220.com | WWW.20660.COM | www.l7793.com | 20176699.com | WWW.258880.COM | www.06400.com | vns00dd.com | www.544093.com | www.585hc.com | 3659.com | 11018c.com | WWW.793459.COM | www.1466u.com | 7720t.net | 88867.com | WWW.914770.COM | www.b30666.com | 242844.com | www.701498.com | www.5095g.com | 5005m.com | 1591007.com | WWW.19038.COM | www.4323g.com | 61828.biz | 3betbet365.com | WWW.522252.COM | www.959595.me | 76886t.com | gc002.cc | WWW.479444.COM | www.4923e.com | 2820s.com | zhcp17.com | WWW.304749.COM | www.16878u.com | jjjj004.com | 8003xl.com | WWW.357056.COM | www.006hy.cc | www.5099cc.com | 69445599.com | www.043552.com | WWW.151201.COM | www.12136e.com | h08199.com | 3258c.com | WWW.111563.COM | www.5441p.com | www.5596877.com | so88888cc | 090033.com | WWW.399994.COM | www.pujing65.com | 29918pp.com | 5647p.com | www.318075.com | WWW.364468.COM | www.m98478.com | 3156qqq.com | 2595g.com | www.455518.com | WWW.782838.COM | www.5856866.com | 7779y.cc | 57bet.cc | www.240228.com | WWW.462657.COM | www.9478u.com | www.4694i.com | swtyjjj.com | ylzz633.com | WWW.826613.COM | WWW.605866.COM | www.8905r.com | 7893w18.com | WWW.100017.COM | WWW.64083.COM | www.168a56.com | 32689a.net | 496.se | 6594kk.com | WWW.706079.COM | WWW.586731.COM | www.1205.com | www.a456x.com | 6487iii.com | 5002z.com | www.528112.com | WWW.799780.COM | www.26163y.com | www.3066jj.com | am6868.cc | pj1007.com | 5551616.com | WWW.387321.COM | WWW.115777.COM | www.hga99900.com | www.huayi660.com | 67877.com | 2709j.com | 8988i.com | www.651514.com | WWW.588076.COM | www.676zf.com | www.js89m.vip | 496.ma | p8159.cc | 4508ww.com | www.4901.com | www.755834.com | WWW.170582.COM | www.fyyy5.com | www.h6650.com | www.98888js.com | bdg1100.com | spj01.net | 34w35.com | www.78976.com | www.992599.com | WWW.890430.COM | www.hw4444.com | www.7158.cc | www.xpjok.com | 69990e.com | 96678.com | qjdc555.com | haoxialai.com | 374567.com | www.668742.com | WWW.362073.COM | WWW.318667.COM | www.3552g.com | www.585167.com | www.4996gg.com | ms38648kk.cc | 33318n.com | y14666.com | bet051.com | 80368n.com | www.98705.com | www.389233.com | WWW.29108.COM | WWW.113430.COM | WWW.38887.COM | www.qbwc2.com | www.60108x.com | www.99094l.com | www.291693.com | www.rd789.com | 500599.com | 00cc8331.com | 67890ee.com | 3936k.com | hgw168n.com | 00773n.com | 8036a.com | 118222.com | www.187513.com | www.671206.com | WWW.703733.COM | WWW.763056.COM | WWW.176893.COM | WWW.764866.COM | WWW.134701.COM | www.lfu8.com | www.3890z.com | www.68568w.com | www.954321h.com | www.55676g.com | www.73990n.com | www.q69096.com | www.4972g.com | www.5504d.com | 9997383.com | sxpj62622.com | 168cp-w.com | hb8331.com | 8547a.com | chengxinbo.net | youfa55.vip | 73055l.com | 2146q.com | 40033tt.com | 1005.vip | 官网捕鱼4.com | ss00558.com | 666789.com | 112r.net | 2757h.com | vip1524.com | 83086t.com | 2934.com | 131fff.net | 6hg5588.com | www.138cpn.com | www.27363l.com | www.20166.com | www.gt111777.com | www.6880ss.com | www.7225d.com | www.30350d.com | www.835993.com | www.97828c.vip | www.j98478.com | www.b98478.com | www.582010.com | www.61233t.com | www.25688p.com | www.22ttz.com | WWW.173851.COM | WWW.318483.COM | WWW.266626.COM | WWW.780780.COM | WWW.673756.COM | WWW.153601.COM | WWW.707141.COM | www.876297.com | www.364511.com | www.554kj.com | hhhh19927.com | 88021.com | 2222k20.com | 4773355.com | 67890mmm.com | hwcp33.com | 054007.com | www.pj88t.com | www.659618.com | www.3775d.com | www.61655r.com | www.c277.com | WWW.662508.COM | WWW.480872.COM | WWW.338079.COM | www.652561.com | www.43131a.com | 1468ddd.com | 1238.com | j444000.com | 8977uu.com | www.370175.com | www.15595.com | www.5856857.com | www.8667w.com | WWW.87538.COM | WWW.588767.COM | WWW.749260.COM | www.178982.com | 3473l.com | xxxx0122.com | qq3405.com | 2019h.cc | www.r80288.com | www.6678566.com | www.2109r.com | WWW.501720.COM | WWW.565696.COM | www.732779.com | 076665.com | js235.com | 3559iiii.com | 77c51.com | www.js6829.com | www.ytrich.com | www.fyyy4.com | WWW.614133.COM | www.916720.com | www.70149.com | 8522kkkk.com | dh41866.com | xh12222.com | www.44118o.com | www.33112j.com | WWW.271729.COM | WWW.893327.COM | 131hm.com | 55331h.com | iii3405.com | www.rycp156.com | www.8003.com | WWW.171321.COM | WWW.861890.COM | www.290252.com | d47479.com | 3807p.com | www.608568.com | www.4833045.com | WWW.642683.COM | WWW.50535.COM | www.178135.com | 8881240.com | h82365.com | www.hg8993.com | www.93777.com | WWW.266035.COM | www.820155.com | WWW.444080.COM | www.150961.com | 5281999.c0m | 2127e.com | www.4521j.com | www.3333y.cc | WWW.260195.COM | www.119229.com | 11773885.com | 2013.com | www.087c.com | WWW.556980.COM | WWW.133143.COM | 33778016.com | 4167e.com | www.28000f.com | www.43818q.com | WWW.22060.COM | www.186759.com | 3189.com | 50027711.com | www.93gj07.com | WWW.267099.COM | www.729198.com | 8988w.com | youle296.com | www.l3410.com | WWW.688290.COM | WWW.180419.COM | 7605y.com | 34s35.com | www.9961331.com | www.5095v.com | WWW.710091.COM | 8080102.com | blmdc7.com | www.c30666.com | www.qilc7.com | www.799666a.com | bwin910.co | o62365.com | www.490806.com | WWW.715079.COM | www.599546.com | 15856v.com | www.zte555.com | www.49956f.com | WWW.440799.COM | 7737.com | xl224.com | www.89777e.com | WWW.51022.COM | sbc89.cn | 22117q.com | www.362bbb.com | WWW.816772.COM | www.77945.com | 78808h.com | www.9464002.com | WWW.789581.COM | www.2018999.com | rb431.com | www.46630.org | WWW.584261.COM | www.115669.com | 01234uu.com | www.9895r.com | WWW.4032.COM | 88803.com | 3559tt.com | www.578888.vip | WWW.319223.COM | emv3626.com | 88112007.com | www.ej158.com | WWW.641729.COM | 567zcp.com | 9420s.com | www.979zf.com | www.627069.com | shenqibc.com | www.bwinyz34.com | WWW.38658.COM | www.444192.com | 26668c.com | www.bet365yazhou.com | WWW.130723.COM | 3614o.com | 1408m.com | www.hr7888.com | www.205880.com | 4255.com | www.587815.com | WWW.472578.COM | 131uu.net | www.16181l.com | WWW.593550.COM | 0004661.com | 28487000.com | www.2632u.com | www.348116.com | 01234ss.com | www.4833011.com | WWW.93518.COM | 66559193.com | www.38775vv.com | WWW.800868.COM | evtimes.com | www.hg8jj.com | WWW.667487.COM | 4405596.com | www.rycp163.com | WWW.823746.COM | 15222.com | www.hjcp444.com | WWW.435999.COM | 484848aa.com | bwin38.com | www.66ffj.com | www.52072a.com | 05071111.com | www.022jx.cc | 99557.com | feicai0556.com | www.csgc2.com | www.553kj.com | 2355o.com | WWW.501260.COM | 99988807.com | 7168813.com | WWW.399749.COM | yhbeijing.vip | www.5446ii.com | WWW.170582.COM | feicai0311.com | www.40598.com | WWW.14011.COM | c388q.com | www.7240x.com | www.917699.com | yh55444.com | www.27776.cc | www.276666.com | 6363d.com | WWW.179333.COM | 13222a.com | www.vnsr928.com | WWW.761269.COM | 2214hh.com | www.55885m.com | www.126309.com | 3434ppp.com | WWW.182567.COM | 0906vip8.com | www.40288i.com | WWW.261027.COM | 22098s.com | www.2373b.com | m.37118.com | www.pp55826.com | WWW.764898.COM | 98345i.com | www.83033w.com | www.32123d.com | www.998855m.com | WWW.68190.COM | ll1331.com | www.55785.com | www.77801v.com | www.jjjj007.com | WWW.363964.COM | bm1105.com | www.33997w.com | tyc1318.com | www.16181z.com | WWW.919447.COM | 2091.com | WWW.670969.COM | 518cp-9.com | www.14168.com | www.508869.com | hg86855.com | WWW.385511.COM | 879.com | www.7793x.com | 8290a.com | www.7036f.com | www.582909.com | le888n.com | WWW.614660.COM | 4775511.com | www.091wy.com | 2127s.com | www.hg194.com | www.175131.com | www.497875.com | WWW.50355.COM | aa4118.com | WWW.334156.COM | yinhe100.cc | www.50064f.com | 58802n.com | www.6687x.com | www.544010.com | j15hh.com | WWW.105346.COM | 8449ff.com | WWW.838709.COM | 4379s.com | www.hx1177.com | a3665.com | www.61233n.com | 8790z.com | www.35898j.com | fhcw.pw | www.7036bb.com | www.022190.com | www.hyi9.com | www.589021.com | www.193195.com | WWW.555876.COM | 734.cm | WWW.334976.COM | 3080.com | WWW.130875.COM | g2824.com | WWW.640087.COM | 8722xxxx.com | WWW.894057.COM | 5555c9.com | WWW.567704.COM | 04666t.com | WWW.724322.COM | 4167c.com |