• <menu id="ykygk"><strong id="ykygk"></strong></menu>
  • 社科網首頁|客戶端|官方微博|報刊投稿|郵箱 中國社會科學網
    新興領域

    【閆坤如】人工智能機器具有道德主體地位嗎?

    人工智能先驅圖靈( Alan Turing) 在論文《計算機器與智能》中提出“機器是否能夠思維?”的疑問,同時提出機器可能具有智能的特征。“一臺沒有肢體的機器所能執行的命令,必須像上述例子( 做家庭作業) 那樣,具有一定的智能特征”〔1〕。強人工智能就是讓機器實現人類智能,并且機器不僅僅是實現人類智能的工具,機器具有人類智能,那么計算機或者機器是否能夠成為像人類一樣的道德主體呢? 這引發學者思考。我們通過學者對道德主體研究的嬗變以及對于道德主體標準的界定來分析。

    一、道德主體的研究嬗變

    1.道德主體從人到生命體的拓展

    人工智能是否具有道德主體地位涉及到對道德主體研究的溯源。道德主體( Moral agent) 法律術語譯為“道德代理人”,指的是能夠具有主觀判斷且能夠承擔法律責任的人。道德主體指的是具有自我意識,能夠進行道德認知、能夠進行推理并形成自我判斷、能夠進行道德選擇與實施道德行為且承擔道德責任的道德行為體。從這個意義來講,只有具有理性思維能力的人類才具有道德主體地位。嬰幼兒、精神病患者等理性有限的人群雖然具有某些基本的道德能力,但不能完全對自己的行為負責,不能稱其為道德主體。康德( Kant) 把道德看作是理性當事人之間的關系,因此,嬰幼兒、精神病患者以及其它動物應排除在道德主體的范疇之外。動物倫理學家彼得·辛格( Peter Singer)反對這樣的觀點,辛格提倡動物解放,認為動物具有與人同樣的主體地位; 在費因伯格( Joel Feinburg) 看來,動物與人都是生物進化的結果,動物具有人類的意識與欲望,應該享有人類主體一樣的生存權與自主權,應該賦予動物與人類一樣的道德主體地位。植物因為不具備動機、意識、沖動等,所以植物不可能具有人類權益與道德身份。環境倫理學之父羅爾斯頓( Holmes Rolston)主張自然內在價值的合理性,環境包括動物、植物在內都具有道德主體地位。自然界的自然屬性中包含的一切生命體都具有道德主體地位。

    2.道德主體從生命體到技術人工物的轉變

    1992年,拉圖爾( Bruno Latour) 提出技術人工物可以執行人類道德,且執行道德規則的方式與人類相似,技術人工物可以看作道德主體。比如,人工設計的道路減速帶作為一種道德媒介執行道德規則,對汽車駕駛員的道德行為產生影響,從而避免車輛超速駕駛,這樣,調節主體行為的技術人工物具有潛在的道德主體地位。2004年,維貝克( Pe-ter - paul Verbeek)提出“道德物化( materialization of morality)”的觀點,所謂“道德物化”指的是把抽象的道德理念通過恰當的設計,在人工物的結構和功能中得以體現,從而對人的行為產生道德意義上的引導和規范作用。維貝克承認了技術人工物具有道德主體地位,人工物與人一樣成為道德主體。技術不能簡單地被看成是人與世界中介的工具,人工物在人與世界的關系中發揮著主動性作用。技術的調節具有道德維度,技術物是道德承載者。技術人工物等技術裝置也顯示出道德意蘊,應該把客體的道德維度以及客體對主體道德的調節都納入道德范疇。阿特胡斯( Hans Achterhuis)主張“將裝置道德化”,比如,驗票閘門規范逃票行為,人工物的行為影響人類行為主體的道德自主性,可以看作是道德主體。人工物不是道德中立的,它們可以引導人類的道德行為以及影響人類的道德結果,技術人工物可以通過使人類行為合乎道德來促進或加強道德。例如,如果一輛汽車在駕駛員不系安全帶的情況下發出警告,它就會觸發駕駛員的“系安全帶”這一個道德行為。在這個意義上來講,技術人工物具有道德主體地位。

    3.道德主體從人工物到智能人工物的轉變

    機器是否具有道德主體地位涉及到機器與人的區別問題,2006年約翰遜( Deborah G.Johnson)在《計算機系統:道德實體非道德主體》〔2〕一文中圍繞意向性展開對于道德主體的討論。意向性是人區別于機器的根本特征之一,即使機器與人具有同樣的行為,但機器不具有意向性,人具有意向性。如果智能機器不具有意向性,那么人工系統能否成為道德主體呢? 1978 年,斯洛曼( Aaron Sloman)在《哲學中的計算機革命———哲學、科學與心靈模式》〔3〕一書中論述了“未來機器人能夠思考和具有感知力”的可能性場景,因此,應該把機器納入道德主體的范疇,關注機器的倫理地位。丹尼爾森( Pe-ter Denielson) 在其著作《人工道德:虛擬游戲的道德機器人》〔4〕和霍爾(Josh Storrs hall) 在其著作《超越AI:讓機器產生良知》〔5〕都承認智能機器具有道德主體地位,關注設計道德機器。科林·艾倫( ColinAllen)、瓦納( Gary Varner)與澤欣爾( Jason Zinser)在文章《未來的人工道德主體原型》〔6〕引入“人工道德主體( Artificial Moral agents,簡稱 AMAs)”這個術語,直接承認了技術人工物的道德主體地位。機器與人對比是獨立的道德主體,機器能夠自我推理與自我決策,能夠觸犯人類的利益,就如同一個人可以觸犯到另外一個人利益一樣。因此,可以把機器作為道德主體來看待。人工智能專家福斯特( Heinz von Foerster)認為現有的機器人不僅僅是倫理規則的被動中轉者,還在現有道德生態中與其他施事者互動,應該把智能機器作為道德主體來規范。智能機器這種高度進化的技術人工物具有自主行為和智能信息處理能力的,可以稱為之道德智能主體。按照這種觀點,道德主體的類別除了人類之外,還包括自主機器人和軟件主體。

    縱觀學者對于道德主體的研究,經歷了從具有自由意志的人類到生命體、然后到不具有生命體征的人工物最后到智能人工物的研究范疇的轉變過程。

    二、智能機器的道德主體標準分析

    按照博施特羅姆( Nick Bostrom) 和尤德科夫斯基( Eliezer Yudkowsky) 的觀點:“制造會思考的機器的可能性可能引發一系列的倫理問題,這些問題既與確保機器不傷害人類有關,也與其他道德上關聯的存在者有關,也與機器本身的道德地位有關。〔7〕”機器是不是具有道德主體地位,這涉及到對于道德主體標準的界定。

    瓦拉赫( Wendell Wallach)與科林·艾倫在《道德機器:如何讓機器人明辨是非》〔8〕一書中專門花一章的筆墨討論機器的道德主體地位問題,他們認為應該對道德主體進行不同層次的劃分,他們提出三種不同類型的道德主體:操作性道德( operational morality)、功能性道德( functional morality)與完全道德主體( full moral agency)。所謂操作性道德指的是工程師意識到自身的價值觀對于設計的影響以及他們對他人價值的敏感度。就像裝有防止兒童使用的安全設置的槍支,這種機器雖然缺乏自主性與敏感性,但在設計中包含了美國國家專業工程師學會( National Society of Professional Engineers,簡稱NSPE) 道德準則以及其他的行業規范所包含的價值理念。功能性道德指的是能夠評估自身行為的道德意義的智能系統,這種機器是具有倫理敏感性的機器。完全道德主體指的是具有自主決策系統及其情感交互能力的機器系統。

    在笛卡爾看來,機器智能的想法在形而上學上是荒謬的,因為心靈與身體是不同的物質,機器是實物,是人類身體的延伸,在空間與時間上有廣延性,心靈則是有意識的精神原子。具有實物的機器不能具有心靈的智能特征。按照人工智能先驅鈕厄爾( Allen Newell)與西蒙( Herbert Simon)的觀點,計算機程序是一系列的形式化符號,人工智能的符號進路趨向于把機器學習當成是對一套預先確定的概念重新組合的過程,除非工程師有意去設計系統,否則,計算機智能就是建立在一個沒有欲望、動機與目標的邏輯平臺上,不可能具有操作性道德和功能性道德,更不可能具有完全的道德主體地位,這種觀點遭到機器倫理學家的反對。例如,阿薩羅( Peter Asaro) 在智能機器倫理中提到三點:“首先,如何設計機器人的行為倫理;其次,人類如何在人工智能倫理中承擔責任;再次,從理論上講,機器人能成為完全的道德主體嗎?”〔9〕阿薩羅的第三點涉及到對于機器的道德主體地位的思考。如果技術人工物想成為道德主體,需要滿足以下兩個條件:首先,技術人工物必須具有道德身份;第二,技術人工物具有道德判斷,具有道德選擇、行為以及承擔責任的能力。按照阿薩羅的觀點,理性人具有道德主體地位,人工物只是具有道德調節作用,還不具有完全的道德主體地位。泰勒( Paul Tailor)認為道德主體的必備條件要滿足以下五點:“第一,判斷道德上正確或錯誤的能力;第二,權衡贊成和反對某些選擇的道德理據的能力;第三,依據這種權衡的結果做出決定的能力;第四,擁有實現這些決定所需的意志和能力;第五,為自己那些未能履行義務的行為做出解釋的能力等等。”〔10〕按照泰勒對于道德主體的界定,機器不具有道德主體地位。塞爾( John Searle)設計著名的“中文屋( Chinese Room)”思想實驗,顯示計算機可以在沒有理解與智能的情況下通過“圖靈測試”。荷蘭特溫特理工大學的布瑞( Philip Brey)提出“準道德主體( quasi - moral a-gents)”概念,他認為智能機器是準道德主體,作為道德主體應該符合以下三個特征:“有能力根據對與錯進行推理、判斷和行動的生物;對自己的行為應當遵守道德規范;對自己的行為負責,對自己的后果負責。”〔11〕這三個特征共同構成了道德主體的界定標準。只有理性的人才有能力進行道德推理,只有理性的人才有道德行為,只有理性的人才有道德責任感。不能分辨是非的成年人通常不被認為具有道德主體能力,智能機器可能具有道德決策能力,但大多數智能主體不具備道德思考的能力,因此,智能機器只能算“準道德主體”,不具有完全道德主體地位。塞拉斯( John Sullins)提出人工道德主體的必要條件是機器具有自主性、意向性與責任。如果機器具有人類一樣的自主性、意向性,并且能夠像人類一樣承擔責任,就具有道德主體地位。

    從上述道德主體的界定標準來看,只有具有理性思維決策能力、能夠獨立的承擔責任的理性主體才具有道德主體地位,而現在人工智能的發展只處于弱人工智能階段,人類還不能設計出具有人類情感、具有獨立意識、選擇自由以及能夠獨立承擔責任的機器。所以,機器不具有道德主體地位。這種思路是以人是唯一道德主體的思路來分析的,但目前學者對于道德主體的研究已經從人類拓展到動物甚至是技術人工物,對于道德主體應該具有新的界定與發展。

    弗洛里迪( Luciano Floridi)與桑德斯( Sanders)直接承認智能機器的道德主體地位,進一步給出了人工道德主體的標準。按照弗洛里迪與桑德斯的觀點人工道德主體應該具有交互性( interactivity)、自主性( autonomy)與適應性( adaptability)的特征。弗洛里迪與桑德斯提出對于所有X,X是一個道德主體,當且僅當X具有以下內容屬性:“第一,X及其環境能夠相互作用(交互性)屬性;第二,X能夠在沒有與外部世界交互的刺激的情況下改變其狀態(自主性);第三X能夠改變其轉換規則(屬性)‘適應性’;第四,X能夠起作用,例如道德上對世界的重大影響。”〔12〕機器如果在沒有刺激的情況下具有改變狀態的能力、具有改變“轉換規則”的能力,就可能具有道德主體地位。按照這種說法,強人工智能機器符合這些條件,因此可以稱之為人工道德主體。弗洛里迪與桑德斯認為道德主體的概念并不一定表現出人類主體的自由意志、精神狀態或責任,機器可能具有道德主體地位。

    通過以上分析,關于道德主體的標準是不一致的,關于機器是否具有道德主體地位也有不同意見,考慮到機器具有自主學習能力、可能具有自我意識、自由意志、人類情感與人類智能,因此,必須在智能機器的設計之初嵌入道德,設計者不能袖手旁觀,應該關注機器的道德模型的構建,“賦予機器人倫理原則或者促進機器人解決可能預見的倫理困境,在機器人自主做決定的時候,提高他們的道德考量比重。”〔13〕

    三、人工道德主體模型的構建

    瓦拉赫與艾倫提出“道德圖靈測試”,關注機器設計中的道德嵌入,他們提出“道德圖靈測試”的兩種進路,即“自上而下進路( top - down approach) ”與“自下而上進路( bottom - up approach) ”,所謂自上而下進路就是把德性論( virtue theory)、義務論(deontological theory)、功利主義( utilitarian theory)、正義論( justice as fairness theory)等倫理學理論的倫理標準、規范與原則嵌入到人工智能體的設計中,在此基礎上,構建人工道德主體模型。阿西莫夫三定律是“自上而下”道德主體模型的模板,“任何討論‘自上而下’式的機器人道德設計不能不談阿西莫夫三定律。”〔14〕“自下而上進路”立足于創造一種環境能夠讓智能機器摸索自我判斷的行為模式,比如,像“電車難題”思想實驗就是根據不同的情境做出不同的道德選擇。“自下而上進路”與“自上而下進路”的道德主體模型構建都堅持道德上“善”的行為標準,不同之處在于“自上而下進路”關注普遍性倫理學理論基礎上的道德構建,而“自下而上進路”獲得道德的方法是把規范化的價值當作機器隱含的內容。

    弗洛里迪與桑德斯在承認機器的道德主體地位的基礎上,提出人工道德主體構建的前提是區分道德問題與責任問題。人類能夠避免“責任+道德行為=規定行為”和“沒有責任就沒有道德行為,所以就沒有規定行為”的二分法。沒有責任,只有道德行動的能力也是道德主體,環境與動物也可以具有道德主體地位,智能機器聰明、自主、能夠獨立于人類之外執行與道德相關的行為,因此存在“善的人工智能”與“惡的人工智能”的區別。所以道德主體構建要區分人類、智能機器、動物以及環境,這種道德主體的構建方式稱之為人工智能的“分布式道德( distributed morality)”。

    美國計算機學家邁克爾·安德森( Michael An-derson)、哲學家蘇珊·安德森(Susan Anderson)夫婦與克里斯·阿爾曼(Chris Arman)從經典倫理學理論提出道德主體構建模型,他們認為機器倫理不同于計算機倫理,機器倫理關注的是機器對人類用戶及其他機器的行為,因此,必須為機器添加道德維度,為了給機器增加道德維度,需要可操作的道德理論與道德原則,在此基礎上,他們給出兩個道德主體模型:基于邊沁(Bentham)的功利主義的倫理主體模型和基于羅斯(Ross)義務論直覺主義倫理學的倫理主體模型。行為功利主義道德主體模型基于邊沁的道德算術構建比人類規范的模型,把倫理原則編程為算術,讓機器像人一樣遵循行為功利主義理論。直覺主義者羅斯滿足于將決策權交給決策者的直覺,但羅斯的理論強調表面責任,他認為沒有義務是絕對的,也沒有給出義務的明確等級,因此,在羅斯的理論下,如何做出道德決策是不清楚的。安德森夫婦與阿爾曼立足于為機器倫理奠定理論基礎,他們基于行動的道德理論開發計算機系統,他們結合行為功利主義與義務論直覺主義的理論構建機器學習決策程序,他們的計算機模型克服了羅斯模型的不確定性,使用一種學習算法來調整對責任的判斷,既考慮了表面責任,也考慮了過去對涉及這些責任的類似或不相似案例的直覺。

    為了構建人工智能的道德主體模型,哲學家與倫理學家積極嘗試,致力于在機器中嵌入人類“善”的道德。不同于悲觀主義者認為人工智能將不可避免地制造出擁有巨大力量、行為不道德的機器人的觀點。樂觀主義者堅持用倫理學方法來排除惡意機器人的產生以及發揮作用。例如,鮑爾斯( Thomas Powers)在《康德機器的前景》〔15〕中意欲制造出康德式機器( Kantian machine)確保機器人行為符合道德規范;阿寇達斯( Konstantine Arkoudas)和布林斯喬德( Selmer Bringsjord)在《機械化道義邏輯向倫理機器人邁進〔16〕中論證了道義邏輯應用于制造道德機器的可能性;格勞( Christopher Grau)在論文《“機器人”中沒有“我”:機器人功利主義者和功利主義機器人》〔17〕中討論了功利主義模式下的機器人,格勞運用邏輯學理論或者倫理學理論在人工智能的設計之初嵌入人類道德。“理性機器嵌入了道德元素,如程序規則的行為,可能構成人工道德主體所需的理性。”〔18〕智能機器設計者應該在設計之初保持設計理性,對所設計的智能機器可能存在的倫理問題提前預判與評估,雖然有的學者反對智能機器具有意向性或者具有道德主體地位但均未否認技術物具有道德調節作用,也不否認技術可以通過設計改變人類的道德行為。

    總之,智能機器具有不確定性,不管智能機器是否具有人類的道德主體地位,都應該對人工智能可能帶來的危害做出防范,人類在智能機器設計之初把“善”的理念嵌入到人工智能中,使得人工智能操作系統不僅要遵守法律,還要遵守社會的道德規范,減少智能機器危害人類的可能性,發揮其對人類進步以及社會發展的作用。

    參考文獻

    1〕Turing A M. Computing Machinery and Intelligence[J]. Mind,1950,59( 236) : 433 - 460.

    2〕Johnson D G. Computer system: Moral entities but not moral agents[J]. Ethics and Information Technology,2006: 195 - 204.

    3〕Sloman A. The Computer Revolution in Philosophy: Philosophy,Science and Models of Mind[J]. The British Journal for the Philos-ophy of Science,1978: 1 - 14.

    4〕Danielson P. Artificial Morality: Virtuous Robots for Virtual Games[M]. Routledge,1992.

    5〕Hall J S. Beyond AI: Creating the Conscience of the Machine[J]. I-sis,2008,99( 4) : 872.

    6〕Allen C,Varner G,Zinser J. Prolegomena to any future artificial mor-al agent[J]. Journal of Experimental & Theoretical Artificial Intelli-gence. 2000,12( 3) : 251 – 261.

    7〕Bostrom N,Yudkowsky E. The Ethics of Artificial Intelligence[C]/ / Frankish K,Ramsey W. Cambridge Handbook of Artificial Intelli-gence. New York: Cambridge University Press,2014: 316 - 334.

    8〕Wallach W,Allen C. Moral Machines: Teaching Robots Right from Wrong[M]. Oxford: Oxford University Press,Inc. 2008: 91.

    9〕Asaro P M. What Should We Want From a Robot Ethics? [J]. IRIEInt Rev Inf Ethics,2006,6( 12) : 9 - 16.

    10〕Taylor P. Respect of Nature: A Theory of Environmental Ethics[M].Princeton: Princeton University Press,1986: 14.

    11〕Brey P. From Moral Agents to Moral Factors: The Structural Ethics Approach[J]. Moral Status of Technical Artifacts,2014( 17) : 125- 142.

    12〕Floridi L,Sanders J W. On the Morality of Artificial Agents[J].Minds & Machines,2004,14( 3) : 349 - 379.

    13〕Anderson M,Anderson S. Machine Ethics[M]. Cambridge: Cam-bridge University Press,2011: 1.

    14〕Wallach W,Allen C. Moral Machines: Teaching Robots Right from Wrong[M]. Oxford: Oxford University Press,2008: 91.

    15〕Powers T M . Prospects for a Kantian Machine[J]. IEEE Intelli-gent Systems,2006,21( 4) : 46 - 51.

    16〕Arkoudas K,Bringsjord S,Bello P. Toward ethical robots via mech-anized deontic logic[EB /OL]/ / M. Anderson,S. L. Anderson &C. Armen ( Eds. ) . Association for the Advancement of Artificial In-telligence Fall Symposium ( Vol. FS - 05 - 06) . Menlo Park,Cali-fornia: The AAAI Press. Retrieved from http: / /www. aaai. org /Li-brary /Symposia /Fall /fs05 - 06. 2005.

    17〕Grau C . There is no 'I' in 'Robot': Robotic Utilitarians and Utilitar-ian Robots[C]/ / Machine Ethics: Papers from the Aaai Fall Sympo-sium Menlo Park,2006: 52 - 55.

    18〕Anderson M,Anderson S L. Machine Ethics: Creating an Ethical Intelligent Agent[J]. AI Magazine,2007,28( 4) : 15 - 26.

    (原載《自然辯證法研究》2019年05期)

    金福彩票 www.77114p.com | WWW.226020.COM | www.hg173h.com | u4212.com | www.660686.com | www.sxyl6.com | www.5049z.com | feicai0598.com | www.595707.com | WWW.588092.COM | www.7893.net | 7240g.com | www.791589.com | WWW.567124.COM | www.4331v.com | 26431818.com | hjcp66.com | www.520935.com | WWW.649768.COM | www.33678ee.com | wns28b.com | 2019aa.cc | WWW.531217.COM | www.66ffk.com | www.71071s.com | mc1888.com | hj77.net | WWW.629948.COM | www.hm7288.com | www.47506z.com | 4018ff.com | qg0707.com | www.912484.com | WWW.17150.COM | www.77784yh.com | iiii19927.com | 33382ww.com | www.374677.com | WWW.496404.COM | www.99638d.com | 22661381.com | 52599u.com | 1429t.com | www.011888a.com | WWW.614878.COM | www.flb477.com | 5647l.com | 9922477.com | 98266.com | WWW.759672.COM | WWW.592989.COM | www.0600z.cc | 1434x.com | 23599f.com | 4379.com | www.209882.com | WWW.910814.COM | www.zcwf3.com | www.99552ll.com | 3258q.com | 8159k.cc | 2306d.com | 123ii.net | WWW.80533.COM | WWW.789581.COM | www.12136l.com | 6175b.com | 7599ff.com | 3132121.com | www.91233v.com | WWW.523509.COM | WWW.527106.COM | www.0134.com | www.35700cc.com | c51fal8.com | rrr5701.com | 9103dd.com | www.166125.com | WWW.641444.COM | WWW.138516.COM | www.yh7773.com | www.b35yy.com | 2569005.com | 08778n.com | 5856rrr.com | 61005tuku.com | www.dacp123.com | WWW.794234.COM | WWW.379986.COM | www.32123k.com | www.3775r.com | www.07bet8.com | jlshckj.com | 3388777.com | 461653.com | 3405n.com | 131hm.com | www.810355.com | WWW.523128.COM | WWW.84296.COM | WWW.366028.COM | www.52072s.com | www.11599068.com | hbs104.com | WWW.614708.COM | www.fyyy1.com | www.683909.com | 118888h.com | 5651r.com | 111187.com | www.355274.com | WWW.31798.COM | WWW.899513.COM | WWW.370116.COM | www.fc78.com | WWW.615468.COM | www.29277s.com | www.hg513.com | www.r999993.com | www.6880mm.com | www.77007.com | 3544i.com | 97799o.com | youfa55.vip | 3482s.com | 7599f.com | 1669s.com | dd4255.com | wh1020.com | 4632299.com | nn500i.com | www.78788.pw | 318088.com | 778771.com | www.155091.com | www.275780.com | www.542770.com | www.533265.com | www.715033.com | www.840979.com | www.976561.com | www.880686.com | WWW.149023.COM | WWW.165060.COM | WWW.5004.COM | WWW.530730.COM | WWW.265957.COM | WWW.180932.COM | WWW.349938.COM | WWW.436682.COM | www.861803.com | www.914983.com | www.603614.com | www.701540.com | www.684335.com | www.501354.com | www.444083.com | www.375939.com | www.179223.com | www.297757.com | www.41518e.com | www.viptk.com/  | www.tm139.com | 2127u.com | 90856v.com | 6220s.com | 67890y.com | 47727.net | 5295.com | 7196bb.com | www.1705.com | www.18955.bet | www.5599nsb.com | www.789977.cc | www.66652b.com | www.2cpb.com | www.53900n.com | www.a81g.cc | www.255783.com | www.qx.cc | www.660188.com | www.91233hh.com | www.662by.com | WWW.588247.COM | WWW.192001.COM | WWW.916634.COM | WWW.497670.COM | WWW.111426.COM | WWW.267163.COM | WWW.888789.COM | www.178261.com | 7935a.com | 33678.com | s7726.com | 1506766.com | www.pj56h.com | 11955.com | www.932442.com | www.3032bb.com | www.60wb.top | WWW.369404.COM | WWW.573206.COM | www.783309.com | 102166.com | www.866505.com | 44009.com | 8449vv.com | 77606.com | 6175m.com | www.w84r.com | www.2350y.com | WWW.775306.COM | WWW.345044.COM | www.191061.com | 51oid.com | 6112ii.com | y00351.com | www.06386611.com | www.055e.cc | WWW.727130.COM | www.936150.com | 222333444.com | 78666u.com | mm99977.com | www.8806488.com | www.8998755.com | www.c5128.com | WWW.706136.COM | www.196509.com | 52688g.com | emb8578.com | www.1168b.com | www.89777i.com | WWW.879979.COM | WWW.60820.COM | www.220716.com | 33773885.com | 98955j.com | www.102665.com | www.39500x.com | WWW.113890.COM | www.451117.com | 2004871.com | 99567b.com | www.pj88u.com | www.26163m.com | WWW.111134.COM | www.50024u.com | 3644q.com | 131ff.net | www.b83377.com | www.2109t.com | WWW.84296.COM | www.8828c.com | swin.com | www.5099yy.com | www.87467.com | WWW.403322.COM | llhhcc.com | gf808.com | www.19019e.com | www.21202i.com | WWW.545990.COM | www.555582.com | 77605d.com | www.55c63.com | www.50064w.com | WWW.658489.COM | 332650.com | 509.com | www.j3065.com | www.3478.cc | WWW.708387.COM | 2934com.com | dh145.com | www.hd8673.com | WWW.279966.COM | www.178723.com | 78886508.com | www.4058ww.com | WWW.770146.COM | www.770640.com | 3890z.com | www.gd35155.com | www.89798.com | WWW.235066.COM | ppjj02.com | 7736w.com | www.9149q.com | WWW.521441.COM | 15a40.net | 2019tt.cc | www.8816e.com | www.985175.com | 444000ooo.com | www.998855v.com | www.f093.com | www.331215.com | 84498811.com | www.ba505.com | WWW.137989.COM | 29918bb.com | vic.am | www.77802g.com | WWW.126950.COM | 99909f.com | 3662c.com | www.79095g.com | WWW.90346.COM | www.498849.com | bet28q.com | www.888888yl.com | www.911209.com | 6396x.com | www.y32031.com | WWW.286433.COM | 3178k.com | vip201538.com | www.al5678.com | www.160326.com | 9679z.com | www.66136000.com | www.817474.com | b45638.com | www.33668.com | WWW.884404.COM | 3559.com | www.bjl913.com | WWW.385066.COM | 61324499.com | www.55676b.com | WWW.388617.COM | 3822n.com | www.60886m.com | WWW.256083.COM | 380000222.com | www.6880yy.com | WWW.170582.COM | 4123oo.com | www.3116f.com | WWW.874102.COM | p666.com | www.30350p.com | WWW.751390.COM | 33599rr.com | www.3775o.com | WWW.110309.COM | 32555h.com | www.7714u.com | www.533786.com | 55331ff.com | www.0014f.com | www.662466.com | 3136xx.com | WWW.610448.COM | 1077ff.com | www.848777r.com | WWW.557450.COM | 123456yy.cc | www.La166518.com | www.155792.com | 7779y.cc | WWW.192001.COM | c91234567.com | www.7240f.com | www.560692.com | 5504g.com | WWW.440109.COM | j15666.com | www.d2894.com | www.976931.com | 88x88.com | WWW.256947.COM | xpj6666.vip | www.l063801.com | WWW.604134.COM | 71707u.com | www.c609.vip | 1294y.com | www.20365vip.com | www.303481.com | ylzz366.com | WWW.669648.COM | 496ii.com | www.68568w.com | www.4026.com | www.v98.me | www.785779.com | 3049x.com | WWW.335065.COM | 500000394.com | www.71233c.com | 67799.com | www.gf518.com | www.743552.com | hgyz11.com | WWW.388645.COM | 08159k.com | www.ya160.com | mgm3242z.com | www.hg6012.com | www.456233.com | www.tyc8138.com | WWW.624568.COM | jjjj009.com | WWW.757067.COM | eee5657.com | www.c9221.com | 2709h.com | www.96386r.com | 301111.com | www.3522 | www.090880.com | www.62979.com | www.306503.com | www.80969z.com | www.936150.com | 155.net | WWW.160889.COM | 30007h.com | WWW.715822.COM | 159666z.com | WWW.653593.COM | 9506x.com | WWW.637530.COM | 563703.com | WWW.36939.COM | 28824a.com | www.c4520.com | 85698g.com | www.df94.com | 33885003.com | WWW.701294.COM | 39199z.com | WWW.110549.COM | 316k.cc | WWW.853320.COM | 8159pp.cc | WWW.136741.COM | f86811.com | WWW.135560.COM | g2383.com | WWW.701066.COM | www.97655c.com | www.959553.com | www.846239.com | www.980221.com | www.79500a.com | www.671075.com | www.71071l.com | www.330865.com | www.265875.com | 090077.com | www.99094d.com | gcw82.com | www.66653z.com | bo667766.com | WWW.257523.COM | 32555t.com | WWW.362850.COM | 33115f.com | WWW.132346.COM | www.138cpi.com | www.346377.com | www.3032cc.com | 1592n.com | www.87668w.com | 3730.com | WWW.250096.COM | hjdc43.com | WWW.176825.COM | www.bd2019j.com | www.142525.cc | www.55676c.com | 11qq8332.com | www.hy6936.com | 38848.com | WWW.306197.COM | www.5504x.com | www.128760.com | www.0967005.com | 1389w.com | WWW.22716.COM | 999649.com | WWW.173896.COM | 9995z.cc | www.9299.com | www.74414.com | www.772222.biz | 11989z.com | WWW.134757.COM | 518cp5.com | www.498266.com | www.999999qipai.com | 9949t.com | WWW.111015.COM | 2267k.com | www.235117.com | www.16065m.com | giscrocodile.com | WWW.313672.COM | www.85857z.com | 494466a.com | www.7793q.com | zzz1915.com | www.903029.com | www.490804.com | 06385353.com | WWW.317011.COM | www.u456x.com | 009649.com | www.4dwj.com | csc998.com | www.550419.com | www.5958116.com | 8294y.com | WWW.46549.COM | www.64566.bet | 6699vn77.com | WWW.165012.COM | www.c300.cc | 33115k.com | WWW.625533.COM | 3844ww.com | www.09986.com | www.w695.com | 3189h.com | www.18tk.com | WWW.94942.COM | 20188z.com | www5858.com | WWW.213108.COM | qq5144.com | 7686p.com | WWW.456181.COM | www.qmc0022.com | 47749q.com | WWW.175963.COM | www.5446yy.com | 1654e.com | WWW.341541.COM | www.5981h.com | cc3189.com | WWW.646918.COM | www.287722.com | jixiang7.com | WWW.516129.COM | www.58118b.com | 55ff940.com | WWW.716215.COM | 1077iii.com | www.001476.com | www.1035v.com | 06dd.cc | 38648nn.cc | WWW.495090.COM | www.rycp159.com | 390955.com | WWW.873466.COM | www.5719.com | 32666c.com | www.390675.com | www.2632f.com | 33v333.com | 2381lll.com | WWW.203563.COM | www.pj55715.com | 4556xl.com | www.364242.com | www.600hc.com | www.hf9018.com | 8766549.com | WWW.618489.COM | www.2418000.com | 365vip300.cc | ygm6688.com | WWW.929530.COM | www.1754t.com | 9539vip.com | WWW.420850.COM | bwinxxx.com | 36402288.com | WWW.79543.COM | www.8499i.com | 5hg7788.com | hg321.org | www.917787.com | www.77wcw.com | www.808888k.com | WWW.893859.COM | 3379f.com | 908080p.com | WWW.442027.COM | www.54400m.com | 97297i.com | blr878.com | www.708330.com | WWW.256947.COM | www.80188y.com | 3552p.com | www.475674.com | WWW.193195.COM | www.hg366.com | 6830bb.com | 5360e.com | www.599424.com | WWW.708003.COM | www.33678kk.com | t444c.com | bet36333.com | WWW.542977.COM | www.sxyl2.com | www.38138p.com | 51335.co | 2247hh.com | www.767884.com | WWW.625533.COM | www.12345602.cc | 56988s.vip | 8898444.com | www.330687.com | WWW.201085.COM | www.8582ww.com | x48u.com | 3522r.cc | 00774qq.com | WWW.529195.COM | WWW.65299.COM | www.52062g.com | 1077fff.com | 1484vipc.com | www.039079.com | WWW.890991.COM | www.76636.com | www.5981n.com | 2334vip7.com | 27365.com | www.322918.com | WWW.496401.COM | www.52303r.com | www.316088.com | 11oo8331.com | 4812a.com | www.34788i.com | WWW.480022.COM | www.fcyl1.com | www.32031t.com | 3096.com | 068089.com | 8988m.com | www.769117.com | WWW.184344.COM | WWW.88052.COM | www.3978s.com | 34n35.com | www.89656a.com | WWW.496055.COM | WWW.445444.COM | www.0343h.com | www.dggcp100.com | zz7742.com | 8898444.com | www.39l.com | www.932779.com | WWW.363079.COM | www.3479i.com | www.106a56.com | www.8967v.com | 2127jj.com | 0621.com | 01234ggg.com | 188bet.com | www.919226.com | WWW.915044.COM | www.88kcw.com | www.5647d.com | www.7366l.com | 9780055.com | 3552g.com | cq9.com | 8988w.com | www.0199957.com | www.833314.com | WWW.682727.COM | WWW.509182.COM | www.49956c.com | www.1434j.com | www.xpj2090.com | 47749k.com | pjfujian.com | lll4255.com | x9186.com | b3144.com | 076665.com | www.533091.com | WWW.761269.COM | WWW.675007.COM | WWW.782214.COM | www.99yfa.com | www.8bd.com | www.c94600.com | www.ag0345.com | www.808888i.com | 0080i.com | 52599c.com | 8538m.com | 8294n.com | 4688jt.com | 8633001.com | mgm3242y.com | liuhe.la | www.568000.com--www.569000.com | www.672866.com | WWW.27237.COM | WWW.110476.COM | WWW.440790.COM | WWW.269716.COM | WWW.872042.COM | www.hy5508.com | www.16878f.com | www.ya2019l.com | www.amjs3456.com | www.32031s.com | www.35252e.com | www.00772o.com | www.86999c.com | www.138cpj.com | ms38648kk.cc | hkmh11.com | lh66h.com | tt6830.com | 2234.cc | 400089v.com | 5555c9.com | bb8159.cc | 3457.com | 3404f.cc | ra6662.com | lc99u.com | 00009193.com | m3410.com | 365102d.com | 55331mm.com | 99332007.com | z88XX.com | 28485000.com | mgm3242p.com | ly88888824.com | pj626910.com | 6002o.com | www.35252u.com | www.27363m.com | www.608568.com | www.138136b.com | www.klcp88.com | www.8473r.com | www.6667ylg.com | www.06617b.com | www.38138u.com | www.k32031.com | www.7036dd.com | www.7920l.com | www.y98c.com | www.bet73d.com | www.29178b.com | www.fo62.com | WWW.58018.COM | WWW.664484.COM | WWW.876014.COM | WWW.364556.COM | WWW.611435.COM | www.869619.com | www.361944.com | www.456233.com | bcbm777.com | 1168d.com | 5589c.com | 2214x.com | 22dd8331.com | 3009x.com | www.28281app.com | www.4196l.com | www.4809q.com | www.bet73e.com | www.535hc.com | WWW.151987.COM | WWW.335460.COM | WWW.478805.COM | www.669202.com | grd666.com | ffff0000.com | 1591kkk.com | 8538l.com | 3434mmm.com | www.85857t.com | www.8080999f.com | www.37377t.com | www.22630.cc | WWW.693345.COM | WWW.662622.COM | WWW.548492.COM | www.257512.com | 6861.com | ee00558.com | emb8578.com | lswjs4399.com | www.80188v.com | www.818779.com | www.qucp5.com | WWW.661616.COM | WWW.640062.COM | www.78700e.com | mm67890.com | 6118p.com | vns55.vip | www.848777n.com | www.1466y.com | www.ya390.com | WWW.590091.COM | www.977389.com | 44289.com | o08199.com | 4556xl.com | 5001f.com | www.32031m.com | www.08408.com | WWW.644392.COM | WWW.90238.COM | www.84499v.com | 1213www.com | eee4255.com | 005495.com | www.3846aa.com | www.444hy.cc | WWW.507530.COM | www.605733.com | 9339999e.com | 436.com | 97297b.com | www.68365c.com | www.ya099.com | WWW.529433.COM | www.371951.com | 3421r.com | 0638.net | www.7415.com | www.83993r.com | WWW.658439.COM | www.969317.com | l62365.com | 0860dh.com | 5855qq.com | www.4828.com | WWW.293020.COM | www.919509.com | 3178rr.com | 4167p.com | www.321123.com | www.5502.app | WWW.241177.COM | www.388945.com | 88948666.com | 57877.com | www.4521z.com | www.88ckb.com | WWW.80533.COM | kj555.com | 6118m.com | www.170676.com | www.66332x.com | WWW.47690.COM | www.266266.cc | 999hg.com | 79889g.com | www.666825.com | WWW.313277.COM | www.108065.com | bbb67890.com | 3938.com | www.7714v.com | WWW.687361.COM | 445466.com | 6654888.com | www.04567r.com | www.qm71.com | WWW.187525.COM | mgm.pe | 0747l.com | www.s94600.com | WWW.341564.COM | www.196029.com | 2490k.com | www.o4042.com | www.36788w.com | WWW.903075.COM | 8901z.com | 2jsqqq.com | www.hh4625.com | WWW.445909.COM | www.83033v.com | 2147002.com | www.472709.com | WWW.214150.COM | www.683505.com | hggjtg2.com | www.1139356.com | www.9928aa.com | www.983699.com | 86811g.com | www.hjcp5.com | www.29039.cc | www.972283.com | 3mgmiii.com | www.799666c.com | www.75345.cc | www.897957.com | js559.net | www.534359.com | WWW.632212.COM | www.641638.com | 55545g.com | www.89599w.com | WWW.790498.COM | www.091181.com | u40033.com | www.js38678.com | WWW.14841.COM | baifucp11.com | 365w.net | www.0270a.com | WWW.48664.COM | 6033e.com | www.551c93.com | www.cp8007.cc | www.375967.com | vv01234.com | www.xpj815.com | WWW.166369.COM | 609906.com | www.77731w.com | www.178012.com | www.231844.com | 55991381.com | www.yun0123.com | WWW.113046.COM | 55984b.com | www.969306.com | WWW.308801.COM | 79889q.com | 35252p.com | www.ya218.com | www.167686.com | 3664yh.com | www.83993n.com | www.926013.com | vns8049.com | www.hg735.com | WWW.778998.COM | mi789.vip | www.xpj6.net | WWW.201421.COM | 866666g.com | www.4996gs.com | WWW.326569.COM | 1331yy.com | www.8850w8.com | WWW.761750.COM | bwinccc.com | www.jz6999.com | WWW.201085.COM | 50067r.com | www.6667ylg.com | WWW.640933.COM | 15856r.com | www.q80288.com | WWW.440184.COM | 31n.net | www.33678gg.com | WWW.268122.COM | bg222333.com | www.hr1777.com | www.939763.com | 3550m.com | www.43818z.com | www.126059.com | 332229.com | WWW.907166.COM | 67877b.com | www.38345o.com | WWW.137144.COM | 86155.com | www.885608.com | WWW.374533.COM | 566777u.com | www.80767q.com | www.139733.com | 7792b.com | WWW.740062.COM | 80060101.com | www.j36.cc | WWW.902102.COM | 67888u.cc | www.56588.com | 59400.com | www.1234cp.me | WWW.881909.COM | 4060uu.com | www.410067.com | 500000838.com | WWW.522012.COM | 5856rrr.com | www.4521p.com | WWW.155178.COM | iii3405.com | www.qlc3.com | 3089c.com | www.t3410.com | WWW.631073.COM | k62365.com | WWW.709025.COM | v32365.com | www.v2662.com | www.606647.com | 9995v.cc | WWW.31608.COM | 34545.com | www.fg9908.com | www.127179.com | www.56655a.com | WWW.212803.COM | 32666p.com | www.3416p.com | 22225003.com | www.a3846.com | www.371956.com | wns88.com | WWW.476333.COM | 8037bb.com | www.c143.vip | 5004oo.com | www.81608t.com | www.097067.com | www.zzyl62.com | WWW.912058.COM | 8547x.com | WWW.590535.COM | 1669s.com | www.2632x.com | 0080g.com | www.8998887.com | 820111.com | www.9570119.com | www.653436.com | 9964q.com | WWW.569297.COM | 2jslll.com | WWW.443224.COM | rrr5701.com | WWW.927881.COM | 59599o.com | www.07163y.com | 131ee.net | www.0601w.com | 112j.net | www.4809v.com | www.667288.com | www.yh234d.com | www.399046.com | www.90305d.com | www.950606.com | 2455y.com | WWW.823005.COM | 6269pp.com | WWW.433838.COM | 00ii8332.com | WWW.216674.COM | s61788.com | WWW.404318.COM | 88021u.com | WWW.553719.COM |