Source : 天下雜誌
作者李開復是卡內基美隆大學電腦博士, 曾任職美國蘋果, 微軟與 Google 等頂尖公司高層職務, 任職微軟時派赴中國建立微軟中國研究院, 為中國 IT 界培育眾多人才. 其後因跳槽 Google 時遭到前東家微軟控訴違反競業條款而名噪一時. 離開 Google 後於北京創立創新工場, 為中國知名新創公司風險投資者. 以下是我的讀後筆記 (第一章來不及記).
CH2 : AI 復興 : 深度學習+大數據=人工智慧
- 圖靈的模仿遊戲 :
圖靈提出了一個問題 : 在機器試圖模仿人類與評判者對話的模仿遊戲中, 有思考能力的電腦能做得和人一樣好嗎?
這個模仿遊戲後來被稱為圖靈測試. 一年一度的羅布納獎 (Loebner Prize) 設立的宗旨就是用來鼓勵那些在圖靈測試中表現最優異的電腦程式開發者. - 圖靈測試只關注電腦行為與人類行為間, 從觀察者角度所提出的不可區分性, 但並未提及電腦到底需要具備哪些具體的特質或能力才能實現這種不可區分性.
- 語音辨識能夠取得實質性的進展, 主要是擯棄了傳統符號主義進路的專家系統, 改採統計模型為基礎的方法之故. 符號語言學在語音辨識上派不上用場, 而基於數據的統計建模比模仿人類思維方式總結的知識規則更容易解決電腦領域的問題. 但開啟這個進路的 IBM 華生研究中心並非當時有遠見, 而是因為一時請不到語言學家, 只好改從機率統計著手. 這個改變卻讓語言學家在之後的語音辨識發展中被徹底解僱了. 語音辨識系統近年來的突飛猛進, 技術上的原因只有一個 : 深度學習! 但深度學習絕非人工智慧領域唯一的解決方案.
- 深度學習起源於 1965 年由前蘇聯科學家伊瓦赫年科 (Alexey Grigorevich Ivakhnenko) 所提出的多層人工神經網路, 這種機器學習模型被視為深度學習的濫觴, 伊瓦赫年科也因此被稱為深度學習之父. 深度學習這個術語是在 1986 年才流行起來. 2006 年是深度學習發展的分水嶺, Jeffrey Hinton 在這年發表了 "一種深度置信網路的快速學習演算法", 深度學習進入高速發展的全盛期. 2012~2015 年代表人工智慧圖像識別先進技術的 ImageNet (ILSVRC) 競賽中, 人工智慧演算法的識別準確率突飛猛進.
- 深度學習能大展身手的兩大利器 : 大運算與大數據, 三者結合締造了 2010 年前後 AI 的大復活, 最具代表性的是 2011 年由谷歌資深科學家 Jeff Dean, Greg Corrado 與 Andrew Ng (吳恩達) 創立的谷歌大腦, 以龐大的深度學習框架, 透過數萬台高性能電腦與頂級圖形處理器完成多維度, 高層次的深度學習模型訓練與演算.
- 深度學習與傳統機器學習並無本質不同, 都是希望在高維空間中依據特徵將不同類別之物件區別出來, 但深度學習的表達能力與傳統比起來卻有天壤之別, 不僅較能符合真實世界之特徵表達, 且靈活度極佳.
- 深度學習是一種用數學模型對真實世界的特定問題進行建模, 以解決該領域內相似問題的過程. 簡單地說, 深度學習是將學習的大數據丟給多層級的深度神經網路, 檢查其輸出是否符合要求, 若不符合就調整網路參數直到符合為止. 深度學習就是用人類的數學知識和電腦演算法建構出來的整體架構, 結合盡可能多的訓練數據, 以電腦的大規模運算能力去調節內部參數, 盡可能逼近目標的半理論, 辦經驗的建模方式. 指導深度學習的, 基本上是一種實用主義思想. 人們只知道深度模型是否運作良好, 卻說不清楚模型中某個參數之值與最終模型的感知能之間到底存在怎樣的因果關係. 因此這個模型似乎是一個只可意會不可言傳的黑盒子. 不過現在已經有工具可讓我們看到其運算時的樣子, 例如 Google 的深度學習框架 TensorFlow 就提供了網頁版工具可描繪深度學習運算進行時的即時特徵, 參考 :
# http://playground.tensorflow.org - 深度學習主要是建立在大數據的基礎上, 但數據量大並不表示一定擁有可被深度學習演算法利用的價值, 必須能從中透過學習找出規律. 電腦用來學習的數據稱為 "訓練數據集", 一類數據與另一類數據不同的屬性或特質稱為 "特徵", 電腦利用運算總結規律的過程稱為 "建模", 其總結出來的規律稱為 "模型".
- 深度學習三巨頭 : Geoffrey Hinton, Yoshua Bengio, 以及 Yann LeCun. 其中來自英國的 Hinton, 目前是加拿大多倫多大學教授, 所創立的 DNN Research 公司被 Google 收購, 目前部分時間以 "實習生" 身分為谷歌大腦進行研究. 他為深度學習帶來開創性的貢獻, 所發明的 Boltzmann machine 使深度學習達到實用化程度. Yoshua Bengio 是法國人, 曾在 MIT 與貝爾實驗室從事博士後研究, 其深度學習研究在自然語言處理方面立下許多標竿, 目前任職加拿大蒙特婁大學. Yann LeCun 也是法國人, 曾在多倫多大學跟隨 Hinton 做博士後研究, 之後加入貝爾實驗室, 在那裏發明了卷積神經網路, 對圖像識別貢獻卓著, 被稱為卷積網路之父, 目前是臉書 AI 實驗室主任. 三巨頭曾在 2015 年 5 月的自然月刊發表 "Deep Learning" 一文, 參考 :
# https://www.nature.com/nature/journal/v521/n7553/full/nature14539.html
- AlphaGo 是 2010 年創立於英國倫敦的 DeepMind 公司傑作, 創辦人為哈薩比斯 (Demis Hassabis), 後來被 Google 收購. AlphaGo 主要是使用兩個深度學習網路加上蒙地卡羅樹搜尋法, 利用抽樣統計提高搜尋效率. 它帶給人類的警示是 : 如果電腦可以在兩年內實現此前預測要花 20 年或更久時間才能完成的進步, 還有哪些突破會以超乎人類預期的速度來臨?
- 圍棋是一種限定規則的遊戲, 在每一步決策之前選手都能獲得棋盤上的資訊, 因此圍棋是一種 "完整資訊的博奕遊戲". 而德州撲克則大為不同, 選手無法在下決定前獲得全部資訊, 例如不知道對手的底牌是甚麼, 也不知道發牌員下一個牌會發甚麼牌, 因此是一種 "完整資訊的博奕遊戲", 在技術難度上比圍棋大得多, 沒有所謂的唯一最佳打法.
- 2017 年卡內基美隆大學 Tuomas Sandholm 教授開發的人工智慧德州撲克軟體 Libratus (冷撲大師) 在與 4 名人類高手的對弈中完勝, 贏得 176.6 萬美元籌碼. 它利用 AI 增強學習技術, 從自我對局中學習最優的撲克打法, 避免從人類既定的經驗中學習經驗, 而且採取了遵從奈許均衡的策略, 因為遵從規律的玩家將獲得合理收益, 也不會被對手利用. 但目前其演算法還只限於無限制投注的一對一比賽, 尚未擴展至多人制比賽.
- 強人工智慧 (Strong AI) 須具備的能力 :
(1). 對不確定因素擁有推理, 使用策略解決問題能力.
(2). 擁有知識表達能力 (含常識性知識).
(3). 具有規劃與學習能力.
(4). 能使用自然語言進行溝通.
(5). 可整合上述能力實現既定目標.
強人工智慧還有一個爭議性問題 : AI 是否要具備意識能力, 這本質上牽涉到 "人類的意識是甚麼" 的難題 (情感, 認知, 態度, 記憶等概念), 使得強人工智慧的定義與評估標準變得非常複雜, 也將因其具有人格, 使得人機關係變得模糊難解. - 牛津大學哲學家 Nick Bostrom 在其超智慧 (Superintelligence) 一書中提出超人工智慧 (Super AI) 的定義 : 在科學創造力, 智慧與社交能力等每一方面, 都比最強的人類大腦聰明很多的智慧. 這種定義非常空泛模糊, 因為沒有人知道, 超越人類最高水準的智慧會表現為何種能力. 不過 Tim Urban 在 "AI 革命 : 通向超人工智慧之路" 一文中描述, 人類科技的發展有加速度趨勢, AI 的發展在初期可能像蝸牛漫步, 一旦突破某種臨界值, 其演化速度會突然變得異常之快. 強人工智慧一旦到來, 人類可能必須開始認真考慮自己的命運問題, 因為從強人工智慧進化到超人工智慧, 其速度可能超乎想像.
- 霍金 (Stephen Hawking) 對 AI 的發展極為憂慮, 認為人工智慧的興起可能會讓失業潮波及中產階級, 最後只為人類留下護理, 創造和監督的工作. 特斯拉創辦人 Elon Mask 為此創立了非營利的科研公司 OpenAI, 希望組織關心 AI 安全的人以對人類有益的方式來開發 AI, 希望將人工智慧關在道德與制度的牢籠裡.
- 對於 AI 的威脅, Jerry Kaplan 提出不同看法 : 之所以會有人工智慧威脅論, 是因為大眾習慣把人工智慧人格化, 這是問題的根源. 人類智慧從猿猴時代起歷經相當漫長的時間演進, 而且沒有一種簡單方法可以度量智慧, 因為智慧的定義非常主觀, 美或聰明是相對的, 但要把美語聰明量化的想法是錯誤的. 即使要測量智慧, 其度量也不是線性的, 而是多維度的.
- 強化學習教父 Richard Sutton 曾預測人類在 2030 年將擁有足以支持強人工智慧的運算力, 但從審美, 抽象思考, 跨領域推理, 常識與感性, 情感與自我意識, 以及知其所以然能力這些標準來看, 不要說強人工智慧, 連弱人工智慧都還有很長一段路要走. 目前基於深度學習的 AI 技術事實上是基於經驗的統計模型, 機器透過大數據調整神經網路參數達到模式辨認的功能, 但參數為何是如此設置卻無法解釋, 亦即深度學習的 AI "不知其所以然". AI 要成為數學家或物理學家還不可能.
- 科幻影集 "真實的人類 (Humans)" 中機器人分成兩大類 : 沒有自我意識的, 與有自我意識的. 沒有自我意識的機器人在安裝一種程式後會被喚醒, 意識到自己是世界上的一個存在, 立刻面臨心理與社會雙方壓力, 痛苦與煩惱隨之而來.
- 特斯拉創辦人馬斯克說, 虛擬實境與擴增實境已為人類展示一種全新的生活方式, 但也讓人不禁懷疑, 我們生活的這宇宙是否本身也是一個虛擬實境. 而浩瀚宇宙中目前只發現人類一種具有自我意識的生物, 這不合理現象被稱為費米悖論 (Fermi paradox). 一個符合邏輯的解釋是, 人類只不過是更高級智慧生物養在 VR 實驗室的試驗品而已, 所謂的自我意識也只是為了滿足我們的虛榮心而專門設計的程式.
- 審美能力是人類獨有的特徵, 審美不是與生俱來的能力, 而是閱讀與欣賞過程中塑造出來的跨領域能力. 美的概念非常個性化, 沒有一定標準, 因此很難定義量化指標. 不過, 深度神經網路可以利用某種方式將其理解圖像時看到的東西與原圖疊加生成特點藝術作品, 稱為深度神經網路之夢, 參考 :
# www.deepdreamgenerator.com - 未來五到十年, 自然語言理解方面最可能取得突破的大概是機器翻譯.
- 人類技術演進的里程碑 :
(1). 第一次工業革命 : 紡織機, 蒸汽機
(2). 第二次工業革命 : 電氣技術, 內燃機
(3). 第三次工業革命 : 原子能, 航太技術, 資訊技術, 人工智慧技術
人工智慧技術的進步正徹底人類對機器行為的認知, 重塑人機之間的相互協作關係. AI 不僅僅是技術層面的的革命, 還會為社會 (教育, 就業, 倫理等), 政治, 文化, 思想各方面帶來巨大衝擊. 有些人會失業, 但工作不是消失了, 而是轉變成新的形式. - 深度學習大師辛頓教授曾在演講中半開玩笑提醒醫學院學生, 千萬不要選放射科, 因為此科工作在未來五年內就會被深度學習支援的人工智慧取代. 在 AI 時代, 我們需要教育父母, 不要再期望孩子尋找安穩的工作, 因為傳統意義上安穩意味著簡單, 重複, 這種工作早晚會被機器取代.
- 李開復的五秒鐘準則 :
一個原本人類做的工作, 如果人可以在五秒鐘內對完成工作進行思考並做出決定, 則此工作就非常可能全部或部分被 AI 取代. 例如翻譯, 新聞報導, 助理, 保全, 銷售, 客服, 交易, 會計, 司機, 家政等工作. 反之, 若工作需涉及縝密思考, 周全的推理或複雜的決策過程, 每個具體判斷不是人腦可在五秒內完成, 以目前技術看, 這工作很難被機器取代, 例如深度的新聞評論作家, 交響樂作曲家, 健身或體育教練等等. - "人工智能時代" 作者卡普蘭認為, 不是所有工作都會被人工智慧取代, 相反地, 很多工作都會被轉變成新的工作機會. 人工智慧可以取代的工作大多具有清晰的評估標準, 工作業績可以客觀衡量. 人工智慧無法取代的工作通常都需要人類做決策. 懂得發掘美, 展現美的服裝設計師, 因為需要人的想像力與創造力, 所以不會消失. 另外, 需要人際接觸的工作都很難被取代, 例如櫃台接待員, 調酒師等.
- AI 時代最有可能變成現實的情形是, 全人類步入一個嶄新的人機協作時代, 人工智慧驅動的機器將大幅提高人類工作效率, 機器只是人類的工具. 技術本身不是問題, 問題在於制度是否能保證每個人都獲益.
- 卡普蘭認為, 關於機器學習更好的思維是, 有了這個新的科技手段, 可以將其應用在新的問題領域. 由於機季學習技術的躍進, 我們現在正處於最好的時期, 當你擁有了一把錘子, 所有的東西看起來就像釘子. 驅動這種進步的力量並不是智慧本身, 而是大數據, 以及使用更快更便宜更簡單的方式取得並利用大數據的能力.
- 自動駕駛的普及將對社會, 經濟與產業結構帶來巨大影響. 單是所需的精密可靠感測器如雷射雷達 (LIDAR), 就可能形成千億美元規模的大產業. 而大塞車與停車位難覓問題也會因自動駕駛共享汽車的出現而解決. 感測器產業是自動駕駛時代的亮點行業.
- 判斷 AI 技術能在哪個行業最先引起革命性的改變, 除了要看這行業對自動化智慧化的內在需求外, 主要還要看此行業內的數據積累, 流轉, 儲存與更新是不是達到深度學習演算法對大數據的要求. 其中金融業可說是全球大數據積累最好的行業, 其數據動輒數千數萬維度, 人類分析師再多再聰明也無法將問題的所有影響因子都分析清楚. 而基於深度學習的人工智慧演算法可以在數據分析與預測的準確度上超出人類分析師好幾個數量級. 基於深度學習的量化交易程式可以輕鬆應對幾萬幾十萬變化因素, 全面觀察交易場內外的各種影響因素, 緊盯全球交易價格的變動. 機器學習可以分析包含大量強特徵與弱特徵的數據, 自動判斷交易風險.
- 文藝復興科技 (Renaissance Technology) 就是一家利用人工智慧技術計量模型進行投資的對沖基金管理公司, 旗下的大獎章基金獲利表現長期以來屹立不倒. 該公司只招聘頂尖數學家與電腦科學家, 而非金融財商專家, 公司上下基本上就是個極客樂園. 其 CEO 之一的 Robert Mercer (Bob) 2014 年獲得計算語言學會頒發終身成就獎.
- 哈拉瑞在 "人類大命運" 一書中說 : 研究歷史就是為了掙脫過去的桎梏, 能讓我們看到不同的方向, 並且開始注意到前人無法想像, 或過去不希望想像到的可能性 .... 研究歷史並不能告訴我們該如何選擇, 但至少能為我們提供更多選項.
- 史丹佛大學 AI 與視覺實驗室主任李飛飛提出一個疑問 : AI 的未來掌握在那些創造開發和使用者手中, 無疑地, AI 會改變世界, 但真正的問題是, 改變 AI 的又會是誰呢? 她認為人類未來的一個重要目標是增強 AI 研究者的多樣性, 當擁有多樣化背景, 多種價值觀, 對未來有不同訴求的人一起參與人工智慧的研發與普及時, 最容易得到趨近於完美的平衡點, 找到 AI 與人類協同工作, 生活, 與生存的多樣化解決方案, 避免被偏見所左右.
- 雨果獎得主郝景芳說 : AI 時代機器人會迅速占領所有標準化領域, 工廠流水線會留給機器人, 而人會以更加富有創造性的方式與流水線競爭. 人的獨特性會體現出來 : 思考, 創造, 溝通, 情感交流, 依戀, 歸屬感, 協作精神, 好奇, 熱情, 志同道合的驅動力等等. 人的綜合感悟與對世界的想像力, 才是人與機器人最大的差別和競爭力, 創造者的個性化才是產品的價值所在.
- 與機器視覺, 語音辨識取得的突破相比, 機器對人類語言的理解還處於相對滯後階段. 不管是微軟小冰還是蘋果的 Siri, 這些對話機器人還遠遠達不到聰明程度, 它們還無法深入理解人類語言的含意. 而亞馬遜的智慧音箱 Echo 則是設定只與用戶聊特定具體話題如天氣或音樂, 從而提高了語音的識別率. 事實上 Echo 只是亞馬遜智慧會話系統與使用者交流的終端, 使用者的對話經識別後都上傳到亞馬遜的雲端 Alexa 服務解析語意. 中文的類似系統有百度與小魚在家合作的 DuerOS 自然語言對話系統.
- 著名的機器學習演算法競賽平台 Kaggle 在 2017 年設立一百萬美元將金給在肺癌檢測中能大幅提高準確率的團隊. Kaggle 已被 Google 公司收購, 成為其雲端服務平台一部份.
- 2016 年史丹福大學人工智慧百年研究專案小組發布了首份人工智慧報告 "2030 年的人工智慧生活". 高盛公司也發布長達百頁的 "人工智慧, 機器學習與數據是未來生產力的泉源" 報告. 從中可看出, 人工智慧的大部分價值都掌握在擁有資源, 數據與投資能力的大公司手中.
- 2015 年谷歌創辦人 Larry Page 與 Sergy Brian 宣布成立 Alphabet 控股, Google 成為其旗下子公司, 主要目的是想要以 Google Brain 為基礎, 建立一個面向人工智慧時代的新技術平台. 而 IBM 的華生已不再是單一的智慧系統, 而是被分解成不同領域的人工智慧元件, 隸屬於 40 多種不同產品, 解決不同行業不同場景的 AI 問題. 如今華生的營收已超過 IBM 總營收的 22%.
- 深度學習運算仰賴顯示卡 GPU 的強大平行運算能力, 使得輝達 NVIDIA 在 AI 時代一躍成為比 INTEL CPU 還搶眼的核心驅動力. 雖然深度學習底層的運算還未到 GPU 一統天下的地步, GPU 外還有 ASIC 與 FPGA, 但在深度學習晶片上 GPU 已搶得先機, 使得輝達股價在過去兩年強勁攀升.
- 臉書在 AI 著力亦深, 不僅請到深度學習三巨頭之一的 Yann LeCun, 還挖角了 Google Brain 大將, 深度學習框架 Caffe 作者賈揚清. 其領導的團隊於 2016 年開發了一個基於移動設備的深度學習框架 Caffe2Go, 首次在運算能力受限的手機上實現即時的視覺圖像擷取與基於深度學習的分析處理. 拿在手上的 AI 設備未來將持續改變我們對智慧的定義.
- 微軟於 2017 年以 153 億美元高價收購以色列 MobileEye.
- Google 開源的 TensorFlow 框架已經成為業界深度學習的標準框架之一, 谷歌於過去幾年連續開源了旗下 YouTube 8M, OpenImages, AudioSet 等包含數百萬影片, 圖片, 聲音當的標註數據集, 為 AI 領域的科研提供龐大的原材料. 有志創業的年輕人今日若要尋找創業的風口, 最好的答案就是 AI, 有興趣者可從 CBInsights 發布的前 100 家 AI 創新企業中尋找美國當前 AI 創業的趨勢和脈絡.
- AI 興起的最大契機還不是深度學習的發明, 而是過去二十年互聯網, 移動互聯網的高速發展對自動化的強烈需求. AI 商業化的核心目標, 是創建全面自動化的生活方式. 我們要關心的是 AI 接下來將以何種趨勢何種方式在其他領域落地.
- AI 創業的五大基石 :
(1). 清晰的領域界線
(2). 閉環的自動數據收集標註語訓練系統
(3). 頂尖的 AI 科學家
(4). 千萬級的數據量
(5). 大規模的計算能力 - 要用 AI 解決某領域內的問題, 必須此領域內有閉環, 自動標註的數據. 先從應用本身收集數據, 再用數據訓練模型, 用模型提高應用效能的閉環模式更加高效. 谷歌搜尋引擎之所以擁有強大的人工智慧潛力, 就是因為其業務如搜尋與廣告本身就是一個閉環系統, 在系統內部就可以自動完成數據收集, 標註, 訓練, 反饋的全過程.
- 據領英 (LinkedIn) 統計, 全球目前擁有約 25 萬 AI 專業人才, 其中美國占了三分之一. 但這個數量級的人才庫, 遠遠無法滿足未來幾年人工智慧在垂直領域與消費市場快速穩健成長的大量需求.
- 雖然 TensorFlow, Caffe, MXNet 等深度學習框架已被數以萬計的團隊採納, 相關開源專案也飛快增加, 但一個完整人工智慧生態所必備的晶片, 匯流排, 平台, 架構, 框架, 應用模型, 評測工具, 視覺化工具, 雲端服務的模組化與標準化, 尚需三年以上時間才能真正成熟.
- SCI 論文統計顯示, 深度學習相關論文數量上, 美國已不是世界第一, 從 2014 年起在數量上中國已後來居上成為領跑者. 中國在人才, 資金, 市場, 技術, 創新商業模式方面都是 AI 最好的生長土壤. 但在突破性科研數量與品質上, 中國還無法與美國相比. 特別是里程碑式的革命性突破更是少之又少. 在 AI 領域中國還缺少頂級大師級人物.
- 在 AI 時代人類工程師只有去專注於電腦, 人工智慧, 程式設計的思想本質, 學習如何創造性地設計下一代人工智慧系統, 或是指導 AI 系統編寫更複雜更有創造力的軟體, 才能在未來人機協作模式中作為 "人類代表".
- 能夠體現人類獨特的藝術創造力, 決斷力, 系統分析能力, 是未來最不容易過時的能力.
- 文學作品的翻譯因為涉及大量人類的情感, 審美, 創造力, 歷史文化素養等, 幾乎一定是機器翻譯無法解決的難題.
參考 :
# https://www.facebook.com/kaifulee/posts/1670663686294276
# 李開復認為台灣發展AI沒機會，林之晨：最缺的是人才
# 李開復台大畢業演說全文，AI 的時代
# AI領域，中國人/華人有多牛？
# Caffe2正式發布！新框架有何不同？賈揚清親自解答
# Torch (machine learning) (以 Lua 為基礎的 AI 框架)
# DL4J与Torch、Theano、TensorFlow、Caffe、Paddle、MxNet、Keras 和 CNTK的比较
# 中國 AI 教父吳恩達開課啦！史上「最完整」人工智慧課程，帶你一步步成為頂尖人才
# 程式語言那麼多，為什麼 Google 偏愛 JS？
# 最適合人工智慧開發的5種程式語言
# AI開發十大語言，要做程序猿的進去看
# GPU為什麼能驅動人工智慧，以及它是否會被仿腦晶片取代？
# 推翻摩爾定律、引領深度學習， NVIDIA 怎成世界最大「AI 軍火商」？
# Python Machine Learning By Example
# 機器學習：使用Python
2017-08-23 補充 :
李開復曾在臉書發表 "台灣發展 AI 沒有機會", 所持觀點雖多有所本, 但卻容易給人一個錯誤的印象, 認為好像台灣在 AI 軟硬體技術產業上不論是人才, 資金, 市場與創新土壤都落後美中甚多, 最好放棄追趕, 轉而投注心力在 AI 無法取代的 "有愛的服務業" 上.
我認為剛自美回台拚 AI 的杜奕瑾說得好, 他認為台灣最該擔心的是野心太小, 而不是市場太小, 參考 :
# 杜奕瑾：台灣拚 AI 不需跟隨別人腳步，應勇敢追夢創造體驗
以色列的市場有很大嗎? 他們的市場是全世界, 以色列在各個關鍵領域都執世界牛耳, 為歷史豎立里程碑的革命性人物很多是猶太裔, 猶太人的野心可不小啊.
沒有留言 :
張貼留言