致AI:你是我今生最大的機會嗎?

AIBigbull2050發表於2019-10-09

http://www.woshipm.com/ai/2948070.html


在這個世界上,一部分人選擇看到醜惡與混亂, 但我選擇看到美好的一面。

01

讓我們來做一個思想實驗:

儘管人類經常幹蠢事,但其實大腦非常強大,而且能耗只有20瓦。假如我們要造一個類似大腦功能的計算機,能耗將高達一萬億倍。

請問:假如人類發明了一種技術,每週可以讓上面這個計算機的能耗降低一半,請問多久這個計算機可以和人腦一樣高效而省電?

答案:只用40個星期。

2的四十次方是一個驚人的數字。

這背後的祕密是什麼?

技術的指數級增長。

在過去的半個世紀裡,摩爾定律一直“神奇”地令積體電路單位成本效能每18-24個月就增強一倍,結果就是,我們手上的手機,計算能力是當年登月的阿波羅飛船的1.2億倍。

雷·庫茲韋爾的核心論點是: 加速回報定律

他認為這是資訊科技中的基本理論,它遵循可預見的指數級增長規律,反對傳統的認為“你無法預知未來”的觀念。

雖然仍有許多事情都是未知數(例如哪個專案、公司或者技術指標會在市場流行,中東何時能迎來和平),但事實證明,基礎價效比及資訊承載量卻確確實實可以預見。

更讓人吃驚的是,這些變化並不受戰爭或和平、繁榮或蕭條等因素的干擾。


致AI:你是我今生最大的機會嗎?

圖片來自《人工智慧的未來》


以此為“ 祕密武器”,雷·庫茲韋爾保持了驚人的預測紀錄,包括非常準確地預言AI將先後在國際象棋和圍棋上戰勝人類。

比爾蓋茲評價雷·庫茲韋爾是“在預測人工智慧方面,我所知道的最厲害的人”。

對於未來,雷·庫茲韋爾還有如下預測:

  • 2045年左右,強人工智慧將出現, 奇點來臨;
  • 人類在本世紀內就可能借助機器實現“ 長生不死”的夢想;
  • 未來人工智慧將可能擁有 自主意識,擺脫人類的控制;
  • 22世紀中葉, 純粹的人類可能將不復存在

他的如上預測,會實現嗎?

02

關於人工智慧的預測,整體而言,人類並沒有很好的記錄。

在上個世紀60年代,人類發出了兩個雄心勃勃的10年“壯志”:

  • 一個是約翰·肯尼迪總統宣佈:在10年內,人類將 登上月球
  • 一個是怪才赫伯特·西蒙宣稱:“我們離 複製人類大腦解決問題的能力和資訊處理的能力已經不遠了。”

西蒙給的時間也是10年。

眾所周知,看起來工程浩大的登月計劃成功實現了;而破解那個不到1.4公斤的大腦,直到今天都毫無頭緒。

赫伯特·西蒙絕非信口開河。他是一位罕見的跨界天才,拿過九個博士學位,在頂尖大學裡擔任計算機和心理學教授。他開創性地提出了決策理論,從事過計量學研究,是企業界和政府的聰明大腦。

赫伯特·西蒙看到了一個機會: 用計算機作為對於符號(因而是對於思維)的通用處理機而非僅僅是用作算術運算的快速引擎。

1955年底,他與合作者發明了為計算機程式設計使用的列表處理語言,並利用該語言創造了首個通過選擇性搜尋解決非數字問題的計算機程式。

從此,計算機不僅會計算,還會“算計”。


赫伯特·西蒙 自己用大白話解釋道:

我們發明了能夠思考非數值問題的計算機程式,從而解決了歷史悠久的心/身問題,解釋了由物質構成的系統如何能具備心理的特徵。

藉此,我們開闢了將大量以前只能由人類智慧完成的任務進行自動化操作的道路,對研究思維提供了新的方法—計算機“模擬。

從此,一個曠日持久的爭執開始了: 機器能思考嗎?

赫伯特·西蒙認為能。

1975年,赫伯特·西蒙榮獲電腦科學最高獎——圖靈獎。

1978年,他又拿下諾貝爾經濟學獎。

然而,即使是地球上最聰明的人,也低估了人類大腦的複雜程度。直到今天,智慧機器距離人類的大腦依然很遠。

03

追溯“智慧機器”的思想萌芽,會讓我們去到300多年前,遇見一個叫帕斯卡的人。

總有些人,神奇地出現在人類歷史程式中的某個重要交叉路口,並且如先知般,將那些毫無頭緒的要素匯在一處。

帕斯卡為人類點燃了三盞與智慧機器有關的明燈:

(1)人對自我的認知

帕斯卡說人不過是一棵蘆葦,是自然界最脆弱的東西。然而,這是一棵會思考的蘆葦。

縱使宇宙毀滅了他,人卻仍然要比致他於死命的東西高貴得多。

(2)會計算的機器

帕斯卡的父親是位稅務監督官,帕斯卡為了幫父親減輕繁重的計算任務而設計出了這部機器,是17世紀唯一的機械計算器。

(3)概率思維與計算

帕斯卡和費馬,在書信來往中,開始了對概率論這個數學分支的第一次實質性研究。

仔細想想看,感嘆人不過是一棵蘆葦的帕斯卡,和造出一部計算機器的帕斯卡,是矛盾的,用確定的數學知識,去思考看起來不確定的概率問題,似乎也是矛盾的。

這似乎暗示著,對於智慧的思考,從來都不是單一命題,而是需要多學科的思維。

300多年後,我們知道帕斯卡的這三盞明燈分別對應著認知科學、計算機和演算法。

04

計算機的本質是用程式碼“模仿”人類的思想。要做到這一點,我們首先必須將思想“解碼”。

亞里士多德認為邏輯是一切科學的基礎,開創了 形式邏輯學

然而在他之後,邏輯學和數學都是各行其路,可計算和不可計算似乎是涇渭分明的。直到萊布尼茲開始嘗試將二者聯絡起來。他結合邏輯學和數學,形成第三種創新思想,這就是所謂“ 異類聯想”。

萊布尼茲發明了能夠進行加、減、乘、除及開方運算的二進位制,創立了符號邏輯學的基本概念,後來發展出“ 數理邏輯”這門學科。

萊布尼茲對於“一切皆可計算”滿懷熱情,據說他的口頭禪是: 來,讓我們算一下。

1651年,托馬斯·霍布斯在其名著《利維坦》中提出了一個開創性的思想:

從這個層面來說,“推理”只不過是“計算”,也就是對我們大腦中的一些符號與表達的結果進行加加減減。當我們獨立計算時,稱其為“符號”;當我們向他人展示與證明我們的計算時,則稱其為“表達”。


隨後,交織著偉大的思想和偉大的公式,不同的學科先後發生著融合:

  • 1847年,午治·布林成功地把形式邏輯歸結為一種代數,創立了邏輯代數學;
  • 1936年,圖靈嚴格地描述了計算機的邏輯結構,首次提出了計算機的通用模型——“圖靈機”;
  • 1938年,夏農用二進位制系統表達布林代數中的邏輯關係,把二進位制運算與電子器件相結合,實現了邏輯功能,將邏輯對映到現實物理世界;
  • 1945年6月,馮·諾依曼提出了在數字計算機內部的儲存器中存放程式的概念,這是所有現代電子計算機的模板,被稱為“馮· 諾依曼結構”。

如果我們跳出現代計算機的定義,還可以向前追溯至“通用計算機之父”巴貝奇,以及為他的機器編寫了最早計算機軟體的Ada。

也許是因為流淌著父親——著名詩人拜倫的血液,Ada做出了遠超那個時代的浪漫主義預測: 機器不僅可以計算,還能夠做譜曲,寫詩,編織,以及別的更復雜的事情。

當我們從亞里士多德開始,回顧人類在發明計算機過程中的大膽探索,會有這樣一個發現: 思考“會思考的機器”,需要兼顧科學與人文的大腦,需要在智慧的不同疆界之間搭起橋樑,需要最大膽的想象力。

05

今天,我們審視人類在“計算”和“智慧”上所處的歷史階段,會不由得發出感慨:

我們的運氣真好。

原因有三:

  1. 從蒸汽時代,到電氣時代,再到資訊時代,“計算”已經成為社會的基礎設施。
  2. 人工智慧在經歷了過於樂觀和過於悲觀的起起伏伏之後,來到了一個新的轉折點。
  3. 在軟體時代有些薄弱的中國,有機會在雲端計算和智慧時代彎道超車。

一切正在發生。

也許你覺得人工智慧離你還有點遠,AI似乎還是實驗室裡的概念,還在做些挑戰世界圍棋冠軍這種很厲害但又“沒啥用”的事情。

其實,透過網際網路和智慧手機,人工智慧已經開始滲入我們每天的日常生活。

當你登入上淘寶,裡面每一件商品、每一項活動,甚至每一張圖片,它們的展示順序、方式,都是智慧後臺根據你過往行為進行的定製化推薦。在你開啟淘寶首頁的一剎那,它們被一一擺放到了你想看到的位置。

當你通過登陸手機淘寶和手機天貓“召喚”新版阿里小蜜,就可以獲得屬於自己專屬的智慧服務助理,享受量身打造的服務體驗。

“猜你想問”基於促銷活動、使用者偏好和購物場景等,主動判斷你的需求和提問方向。

“服務管家”自動推送服務流程中的處理資訊。不僅可以直接檢視正在進行中的售後程式,處理完畢後還將自動推送結果資訊給到使用者,並打通熱線、線上資料,實現使用者“只來一次,只說一次”的極致服務體驗。

我們似乎早習慣了中國電商和手機支付的便利。像那些平常住在海外的華人,例如我,回到國內,才會強烈地感受到一種似乎跨時代的科技先進性。

06

科幻小說大師阿瑟·克拉克說:

“如果一個德高望重的老科學家說:‘這件事情是可能的’,那他可能是正確的。但如果他說:‘某件事情是不可能的’,那他也許是非常錯誤的。”

數字化和人工智慧的指數級進步,重新定義了“遠見”這個詞。

我想問一個問題: 馬雲聰明嗎?

  1. 從數學和圍棋的角度看,馬雲一點兒也不聰明,眾所周知他的數學成績很差。從馬雲自己講過的往事可以知道,他在圍棋上也沒有什麼天賦。
  2. 為什麼一個看起來不太懂計算的創始人,可以率領一家演算法時代的超級科技公司?
  3. 一個簡化的答案是,馬雲自己不懂技術,恰恰讓他避免陷入“過度擬合”的陷阱。我曾經說過, 願景是一種粗線條的演算法
  4. 在圍棋上,不存在只靠大局觀好就能夠贏棋的。然而企業可以,因為你可以僱用比自己更聰明的人。在2019年的雲棲大會上,我看見阿里雲的那些良將們,不禁感慨:“不靠譜”的馬雲挑了一堆靠譜的人。
  5. 一個真相是: 我們對現實世界所不知道的東西,要遠遠多於自己所知道的東西。但是,絕大多數人把“熟悉”當作“知道”,所以,人們總覺得至少知道自己世界的大多數東西。這只是一個幻覺。
  6. 在一個新興的、快速發展的領域,一個專家可能比普通人懂10倍,但也只是1%和千分之一的區別。大家懂的絕對值都很低,二者蠢的程度是非常接近的。換而言之,一個承認自己蠢的普通人,可能比一個“總覺得自己對的聰明人”正確的時間還要多。尤其是在一個指數級增長的領域,老專家們的預測反而可能是錯的。
  7. 馬雲聰明嗎?按照我們傳統的對智商的定義,他並不聰明,這讓我們意識到,對“智慧”的定義應該是多樣化的。同樣,在一個演算法時代,我們對演算法的定義也應該有更廣闊的視野。但是他技術上的“外行”,以及受益於圍棋的“大局觀”,反而令他有一種與眾不同的“遠見”。

阿里是怎樣成為一家技術領先的公司的?

說起阿里巴巴,我們腦中會湧現出“價值觀”、“雙11”等關鍵詞。

但似乎是不知不覺間,作為商業高手的阿里,突然變成了一名技術高手:

  • 在2019年“阿里雲主論壇·飛天智慧”上,阿里亮出了技術成果:
  • 平頭哥釋出全球最強AI晶片含光800,打破業界紀錄,效能及能效比全球第一;
  • 全球前三、亞太第一的阿里雲已構建起亞洲種類最全、規模最大的人工智慧集;
  • 阿里巴巴AI每天呼叫超1萬億次,服務全球10億人;
  • 日處理影象10億張、日處理視訊120萬小時、日處理語音55萬小時、日處理自然語言5千億句;
  • 阿里巴巴視覺智慧日呼叫量超過1600億次;
  • 達摩院在國際頂級學術會議上累計發表450多篇論文,在自然語言處理、智慧語音、視覺計算等領域演算法奪得40多項世界第一;
  • 全球23個城市引入了城市大腦。

“商業阿里”如何成為“技術阿里”,其實包含著 兩個懸念

  1. 阿里的價值觀優勢,是如何延伸至阿里雲和達摩院的?
  2. 為什麼從全球範圍內來看,商業公司成為人工智慧研發的主戰場?

07

讓我們再次回到 AI元年:1956年。

正是在那一年,科學家麥卡錫、明斯基、羅切阿斯特和夏農等在美國達特茅斯學院召開“人工智慧”研討會,標誌著“人工智慧”這門新興學科的正式誕生,1956年也被稱為AI元年。

隨後,人工智慧經歷了數次高潮和低谷。

第一次高潮(1956~1973年):第一個聊天程式ELIZA誕生。在西洋跳棋專案上,計算機開始取得“人機大戰”的勝利。

第一次低谷(1974~1980年):1973年,英國著名數學家萊特希爾對當時的機器人技術、語言處理技術和影象識別技術進行了嚴厲的批評,並表達了對先前的AI投資未能產生預期收益的失望。

隨後,各國政府和機構也停止或減少了資金投入,人工智慧在70年代陷入了第一次寒冬。

第二次高潮(1981~1987年):由卡耐基梅隆大學開發的一款幫助顧客自動選配計算機配件的軟體程式XCON投入實際使用,標誌著“專家系統”從理論到實際工業應用邁出了第一步。深度學習”三巨頭”發表反向傳播演算法論文,開啟深度學習潮流。

第二次低谷(1987年~2005年):“專家系統”應用領域狹窄、推理方法單一、資料獲取困難等問題逐漸暴露出來,同時無法自我學習並更新知識庫和演算法,導致維護越來越麻煩,成本激增。

1997年,IBM的深藍戰勝了世界國際象棋冠軍卡斯帕羅夫。然而,勝利背後,是IBM的高速計算機資源、定製的國際象棋晶片、強大的國際象棋特級大師顧問團。

人們多多少少認為,這場計算機的勝利夠“暴力計算”,而不夠“人工智慧”。

因為國際象棋的變化,相對而言不像圍棋複雜得那樣驚人–比宇宙間所有原子加起來還要多。

深藍的研發者許峰雄,在2002年時這樣判斷計算機下圍棋的前景: “它實在太難了,以至於在未來20年中可能得不到解決。”

第三次高潮(2006年至今,又稱人工智慧之春):計算機效能進一步提高,GPU加速技術出現,計算量不再是阻礙神經網路發展的問題。2012年的ImageNet年度挑戰把深度學習和大資料推到前臺,大量投資資金湧入。

2016年,AlphaGo打破了許峰雄的預言,戰勝了世界圍棋冠軍,震驚世界。

AlphaGo圍棋程式應用了近年來在人工智慧領域有重大突破的 深度學習(Deep Learning)和 強化學習(Reinforcement Learning)等技術,加上谷歌強大的平行計算實力,可以說其“智慧”水平已經遠遠超過當年的“深藍”。

致AI:你是我今生最大的機會嗎?

2018年AlphaGo之父哈薩比斯,創立了專注於人工智慧研發的DeepMind公司,其目標是建立強大的 通用學習演算法,將技術應用於解決現實世界的難題。

這一目標,比以往任何時候都更具野心,但又似乎值得冒險。

回顧人工智慧的發展歷程,我們會發現這樣一個祕密: 人工智慧其實是一個有點兒籠統的概念。

也許因此,人工智慧研究人員傾向於組成不同的陣營,甚至會互相批評。這已經成為並且將繼續成為進步的阻礙。

布萊·惠特比在《人人都該懂的人工智慧》一書中這樣寫道:

“人工智慧問題的領域如此廣泛,人工智慧技術應用的領域同樣廣泛……但是,人工智慧研究人員常常只在自己的工具包裡放置一種技術。”

為什麼人工智慧歷史如此短暫,卻會引發派系之爭?

原因之一是: 研究人員需要在激烈的競爭中爭取到資金

好訊息是,在商業世界裡,不同的技術路線的整合是可行的。

在這裡,我們可以回答上一節的懸念之一:

為什麼從全球範圍內來看,商業公司成為人工智慧研發的主戰場?

答案如下:

  1. 企業裡的研究人員更加務實,那些成功的商業人工智慧產品,包含了不同的技術組合;
  2. 企業有資料、演算法、算力方面的資源優勢;
  3. 科技公司自身的主營業務,本身就是一個巨大的人工智慧實驗室;
  4. 有價值的人工智慧研究,需要有具體的應用場景。在現實中“有用”,要比在實驗室裡“有效”,更能激勵技術的進步。

那麼另外一個懸念呢?

阿里的價值觀優勢,是如何延伸至阿里雲和達摩院的?

一個原因是前面提及的“願景”,馬雲因為是技術外行,所以沒有受到技術細節的限制,反而擁有了“粗線條演算法”的優勢。

另外一個原因是,“商業阿里”與“技術阿里”的基因是一致的,那就是: 敢於試錯。

商業的阿里,是一家敢於失敗的公司。例如從“來往”到“釘釘”,血戰到底,捲土重來。

技術的阿里,信仰科學的方法。

科學的本質在於不斷承認你是錯誤的,並接受新的、概括性更強的模型。

如路易斯•達特內爾所言: 科學作為一個理解世界運作的體系如此有用,科學方法本身才是最偉大的發明。

08

阿里的達摩院,也許有機會成為人工智慧時代的貝爾實驗室。

作為公司內部的獨立實體,貝爾實驗室是電晶體、鐳射器、太陽能電池、發光二極體、數字交換機、通訊衛星、電子數字計算機、蜂窩行動通訊裝置、長途電視傳送、模擬語言、有聲電影、立體聲錄音,以及通訊網等許多 重大-發明的誕生地。


貝爾實驗室的科學家們一共獲得過8項諾貝爾獎,其中7項物理學獎,1項化學獎。

真是神一般的存在。

前面提到的資訊理論之父夏農,就是在貝爾實驗室提出了夏農定理。夏農也體現了貝爾實驗室科學天才們的特點:研究那些可能做出來產品的科學。

阿里的達摩院,是一個被阿里巴巴定義為“探索未來科技,為人類願景而努力的科研機構”。

“達摩院”由馬雲親自取名,從這個名字就可以看出他寄予的厚望。

在金庸的武俠世界裡,達摩院是少林寺的最高武學機構,研究天下武學恩惠天下的天下觀,是達摩院的精髓。

這種觀世界、濟天下的胸懷和情懷也融入了達摩院的初心。

短短兩年,達摩院交出了漂亮的成績單。

致AI:你是我今生最大的機會嗎?

截至 2019 年 9 月,達摩院在國際頂級學術會議上累計發表 450 多篇論文, 在自然語言處理、智慧語音、視覺計算等領域演算法奪得 40 多項世界第一,已成為阿里聚集科技人才和基礎技術研發的 “技術基石”。

達摩院機器智慧實驗室過去兩年構建了完整的演算法體系,涵蓋語音智慧、語言技術、機器視覺、決策智慧等方向,並取得多個世界領先水平的成果,包括自研的語音識別演算法(DFSMN)、在機器翻譯的國際頂級大賽 WMT 獲 5 項第一, 在被譽為人工智慧世界盃的 WebVision 競賽斬獲冠軍……

其中特別令人矚目的是,在量子計算領域, 達摩院量子實驗室完成了第一個可控的量子位元研發工作,該位元的設計、製備和測量全部由達摩院量子實驗室自主完成。此外,量子實驗室也在著手量子晶片研發。

在指數式增長的數字化和智慧化時代,達摩院還將創造什麼奇蹟?

09

從2016年AlphaGo掀起的熱潮迄今,人們開始對人工智慧有更多不同角度的審視。

圖靈獎得主朱迪亞·珀爾認為 : 當下的AI只是曲線擬合,而不是真正的智慧

珀爾說,除非演算法和由它們控制的機器能夠推理因果關係,或者至少概念化差異,否則它們的效用和通用性永遠不會接近人類。

致AI:你是我今生最大的機會嗎?

朱迪亞·珀爾以人工智慧概率方法的傑出成績和貝葉斯網路的研發而知名。2011年,他因通過概率和因果推理的演算法研發在人工智慧取得的傑出貢獻而獲得圖靈獎,被稱為貝葉斯網路之父。

諾貝爾經濟學獎獲得者托馬斯·薩金特說,人工智慧其實就是統計學,只不過用了一個很華麗的辭藻。好多的公式都非常老,但是所有的人工智慧都是利用統計學來解決問題。

南加州大學資訊科學家巴特·卡斯科認為: 人工智慧=高速計算機上執行的老演算法

所以機器不會思考。它們更類似於函式,即將輸入變為輸出。

他說,大資料和機器學習中最流行的兩種演算法:無監督演算法,監督演算法,都是現代統計學中同一標準演算法——期望最大化演算法的特例。大多數所謂的人工智慧只不過是“機器爬山演算法”而已。

麻省理工學院的一篇論文指出:

  • 建立類人的學習和思考的機器需要他們能夠構建出世界的因果模型,能夠理解和解釋他們的環境,而不僅僅是使用模式識別來解決問題。
  • 這樣的系統必須建立在物理(物理學)和社會(心理學)科學的基礎上,才能具備對世界進行直觀推理的能力,從而使機器能夠“迅速獲取知識,並將其推廣到新的任務和情況中”。

然而,這些科學家們可能忽略了一個重要的現實: 不管現在的人工智慧技術是否算真的“智慧”,它們真的很有用。

尤其對中國而言,因為沒有經歷過完備的資訊化洗禮,大資料+人工智慧,其實是順手把“資訊化”缺的課也全都補上了。

這就像在中國,移動支付被廣泛應用的原因之一是信用卡不像國外那樣普及,沒有存量顧慮。

結果,支付寶把信用卡該辦的事兒也辦好了。

達摩院的技術研究有兩個特點

  1. 阿里自己要用。正所謂“己之所欲,方施於人”。
  2. 致力於成為全社會的資訊化基礎設施,技術的目的是造福社會。

“整個阿里巴巴的AI的呼叫次數已經達到了1萬億次,服務的人數已經達到了10億人!我們在不知不覺當中,已經成為最大的一家AI公司。”

10

你如何看待人工智慧的未來?

我自己的態度是: 樂觀嚮往,參與其中。

我認同哈薩比斯的觀點: “如果未來的世界沒有AI,我會對這個世界非常悲觀。”

技術上的指數級改進,有可能讓人工智慧實現巨大飛躍。

我對AGI(人工通用智慧)充滿期待。

  • 人工通用智慧(artificial general intelligence,AGI)技術將能夠解決人工智慧目前能夠解決的更復雜的問題。
  • 人們相信,創造有益的AGI將是人類歷史上最重要的技術發展,有可能塑造人類的發展軌跡。

除了樂觀嚮往,我還希望參與其中。

我創立的教育科技公司未來春藤,這一年來經歷了超出我預期的快速增長。

未來春藤致力於成為億萬中國家庭的教育智慧助理。

作為一家初創的小公司,我們能如何參與到人工智慧的浪潮中呢?

我在2019年的雲棲大會上發現了機會: 達摩院所打造的雲智慧,作為底層基礎設施,將成為大家的AI。

AI是雲的核心,雲是AI的形態。

人工智慧是引擎,資料是石油。

達摩院提出“ 零時差上雲”,步驟是: 上阿里雲官網,選擇適用的AI能力,比如“語音合成TTS”,點選“申請開通”。

整個過程如此簡單,30分鐘就能夠使用達摩院研發幾年的語音、語言能力。

我期待未來春藤的App,能夠藉助最好的雲智慧技術,把最好的教育資源帶給中國孩子。

結語

馬雲曾說,“動物講究本能、機器講究智慧、人類必須堅持自己的智慧。”

人類,不僅是能思想的蘆葦,也是會行動的實踐者。

由人類創造出來的人工智慧,是天使還是魔鬼?是開啟新世界的鑰匙還是終結人類的武器?

它的未來,由人類的集體意識和行動來決定。這個世界未來的演算法,終將掌握在我們的手中。

在HBO的“西部世界”裡,人工智慧和人類展開了殘酷的鬥爭,但是仍有一句話,閃爍著溫暖的人性之光: “在這個世界上,一部分人選擇看到醜惡與混亂, 但我選擇看到美好的一面。”


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69946223/viewspace-2659171/,如需轉載,請註明出處,否則將追究法律責任。

相關文章