科幻小說家艾薩克· 阿西莫夫在他與機器人相關的作品中，為機器人設定行為準則，提出了“機器人三定律”：第一法則，機器人不得傷害人類，或坐視人類受到傷害；第二法則，除非違背第一法則，否則機器人必須服從人類命令；第三法則，除非違背第一法則或第二法則，否則機器人必須保護自己。

機器人三定律不僅在科幻小說中大放異彩，更重要的是其具有一定的現實意義。在三定律基礎上，發展建立新興學科“機械倫理學”，旨在研究人類和機械之間的關係。

雖然以人類目前人工智慧水平來說，現存的機器人並未有足夠的智慧去分辨人類和危險等概念，但是，人類與機器未來發展如何？其背後所蘊藏的倫理問題，隨科技進步逐漸呈現。

第三期《筱靜觀察》，筱靜對話資訊化與數字化經濟研究智庫創始人劉志毅、BAIC物聯網價值公鏈創始人談毅、HCR慧辰資訊CEO趙龍三位業界大咖，深度剖析—人工智慧的邊界，究竟在哪？

（左起：葉筱靜、劉志毅、談毅、趙龍）

01

人工智慧是什麼

關鍵詞:智慧增強、智慧架構、自動演算法

人工智慧這個名詞對於人們並不陌生，似乎人們每天把這幾個字掛在嘴邊，成了衡量“未來人”的一個重要標準，那麼人工智慧究竟是什麼？三位專家從不同角度給出答案。

劉志毅從“智慧增強、智慧架構、自動演算法”三個角度定義人工智慧，

他認為這三個概念加一起就是人工智慧。

智慧增強，就是基於人類本身某種特定能力進行增強，市面多數人工智慧應用都處在這一範疇內；智慧架構，是指在人類原本的生態中，加入智慧要素。例如，智慧城市、智慧家居的概念；自動演算法，則是機器不再依靠人工程式設計，而是透過深度學習，自己找到合適的演算法實現功能。

談毅從實踐角度給出自己的理解：“從消費者角度來看，人工智慧的理解多為強人工智慧，也稱作‘超級人工智慧’。在這一定義下，機器具備了人的智商以及和人很接近的情商。

而目前，人類正在處於弱人工智慧時代。

人工智慧的應用主要集中在一些專業的行業和特殊領域。”

趙龍總結：“人工智慧，很簡單，就是（機器）像人一樣工作，像人一樣思考，最後要比人要更厲害。”

當我們定義了人工智慧之後，才能真正開始討論人工智慧特點。人類對於未知的探索，既充滿好奇，又充滿恐懼。電影裡AI機器人顛覆人類的故事頻頻發生，背後隱含著人類的擔心。本期節目，葉筱靜與三位嘉賓，開啟了一場頭腦風暴之旅，共同討論了以下幾方面的議題：

圖靈測試是否有意義？

未來的人機關係將會以何種方式呈現？

人工智慧對人類社會可能產生哪些問題？

02

圖靈測試是否有意義

關鍵詞:30%

5月9日，谷歌的IO人工智慧開發者大會上，“谷歌助手”一定程度上算作第一個透過圖靈測試的人工智慧。谷歌助手打破了圖靈提出的30%分辨標準，達到50%的人無法辨別是和機器對話。

1950年，圖靈發表了一篇論文，文中預言了創造出具有真正智慧的機器的可能性。由於注意到“智慧”這一概念難以確切定義，他提出了著名的圖靈測試：圖靈測試的內容，簡而言之，透過盲測的方式，讓人類分辨對方身份，有超過30%的人認為分不清誰是機器人的時候，證明機器透過圖靈測試。

由於目前人類的人工智慧，還處在弱人工智慧階段——機器是完全是由人類來定義的。圖靈測試的的意義在於檢驗。

當發展到強人工智慧階段，圖靈測試就成為了一個明顯的悖論：當機器真的可以自主地去思考、進行判斷的時候，它可以決定是否透過這個測試，那時，人類就沒有辦法去鑑別它是否具備人工智慧了。

03

未來的人機關係

關鍵詞:

賽博格化、應用場景、新興人類

“機器人三定律討論的人機關係，放在實踐中去討論是很困難的。”劉志毅給出自己的看法，“首先，討論人機關係，需要建立一個共同的道德倫理原則，但社會倫理是不一樣的，因此並不存在一個通用性。其次，道德倫理究竟能不能轉化為邏輯和數學問題放在計算機當中，並不能確定。”

那麼人與機器可能平等嗎？

談毅認為，如果有一天人工智慧和人類建立平等契約關係、交易關係，這是人類和人工智慧共存的一個條件。

未來的人機關係，可能是機器人、人機結合、非人形的智慧機器、或人機互聯的。各種形態也許都存在，但在不同領域進行不同的應用。

在弱人工智慧階段，機器完全由人定義，是需要人來制定契約。當發展到更高階的階段時，機器不受人的控制，這個時候也許需要協商來制定規則。

關於人類與人工智慧的未來形態，從理性主義來看，人工智慧可以單獨成為一個智慧生命體，有自由意志，矽基生命即將產生。從人文主義思想來看，人和機器不同程度的結合，有個專業詞——賽博格化，即：有機體和電子不同程度的結合，將人進行增強。

在這個問題上，不同領域專家有不同看法。

劉志毅認為：“我個人是一個人文主義者，所以我更相信是透過增強人類，實現人機結合，賽博格化可能是更強大的趨勢。因為理性主義思想有個前提，就是需要讓機器有獨立意識和自由意志，那首先必須要研究好人類本身的自由意志。但實際上，這個問題到目前為止，無論從哲學還是科學角度來講，都沒有得到解決。”

談毅則稱：“我比較偏向自由主義。從這麼多年來技術進步的角度來講，我不認為技術是一個線性發展的結果，它是一種積累到突破，你不知道什麼時候會有新的突破。在這個邏輯裡，我希望參與其中，把資料來源做好，人工智慧的應用去使用這些資料。再去看到底什麼樣的人工智慧應用誕生。”

趙龍認為：人工智慧的形態並不重要，關鍵在於應用場景。

趙龍分析，“在一些傳統的行業，人工智慧應用的基礎很淺，甚至更傳統的像勞保行業，我在參與過勞保行業的人工智慧探索後發現，它連基礎都沒有，這個時候，是需要建立資料的階段。從發展的角度講，我覺得一定不能忽略人工智慧的進化作用。跟人類一樣，這是一個維度，這一代機器現在是透過人來做，這個事情還可控。一旦機器和機器可以繁衍的時候，迭代就會非常之快。一旦到了這個階段，機器掌握了話語權，它一定會讓自己越來越美的，就跟我們人類社會一樣。”

主持人筱靜認為，“在現在弱人工智慧階段，人工智慧可能是機器人的形態會多一些。將來我希望是人和機器的結合。我覺得最完美的，是人和機器的結合體，成為一種新興的人類。我很期待人工智慧的發展，能夠讓人類能夠超越肉身的極限，讓人類有一個巨大的飛躍。”

04

人工智慧可能產生的問題

關鍵詞:

社會歧視、所有權

當智慧增強，使得整個社會的效率提升，效率提升了以後，實際上會帶來兩個方面問題：一方面，很多人、很多工作被自動化了，人們沒辦法繼續從事低端的、可自動化的工作。另一方面，人工智慧在無形當中，會使社會歧視增大。

“整個社會靠著智慧聯絡起來以後，人類必然會制定一些規則，這個規則必然是少部分人制定的。在這個情況下，這些規則原來可能只是人與人之間的一些共識，一些想法。它變成一些社會當中的固定規則以後，智慧給它加強，歧視可能就會被擴大。”劉志毅分析。

人工智慧毫無疑問是生產力提升的一次重大突破。生產力的突破，還能帶來什麼樣的變化？——生產力關係的適應。

例如，工業革命帶來了資本主義和共產主義的發展，它是圍繞著一個生產關係的改變。當有一天人工智慧已經可以替代人類去進行勞動，替代工廠進行生產，替代生產裝置工作的時候，

人工智慧裝置生產出來的產品到底歸誰所有?

歸這個人工智慧的裝置的擁有者？還是歸AI機器人自己所有？這個是個很嚴重的問題。

談毅認為，生產力關係的改變，從現在開始要做一次重新定義。

“我們現在研究區塊鏈之後，發現區塊鏈和人工智慧的結合，恰巧帶來生產力關係的改變。也就是說，人工智慧在做生產力的提升，區塊鏈在做生產力關係的改變，改變成共享經濟的模式。我們有一個觀念叫消費投資論，這個是由計劃鏈能實現的。透過這個所謂的token代表的價值，消費者消費了人工智慧的產品，那就擁有了這個人工智慧產品背後所代表的利益，從而重新分配了社會財富。

我對於未來的判斷，就是在人工智慧時代，生產力關係會伴隨著區塊鏈有一次重大的突破。”

05

人工智慧的邊界

當AI在諸多方面代替人類變成一種可預測的未來時，AI取代論讓人們恐慌。人們對生命的定義，影響了我們對人工智慧本身的判斷。而人工智慧未來的發展，很可能是人類進入更高維度的一個探索。

主持人筱靜認為，如果現在對人類的定義，是有血有肉。有一天可能生物列印技術，也可以造出符合這個標準的機器。但是人類的思想、情感、意志，才是人工智慧的邊界。

我們不應該恐懼人工智慧時代的到來。