The Coming Wave - Mustafa Suleyman

 

《閱讀記錄》

一直想找一本討論人工智能對現代社會影響的書。最後買了這本由其中一名DeepMind創始人所寫，關於新科技如何影響世界的書。如果大家沒有聽過這家發展人工智能技術的公司DeepMind，它就是編寫AlphaGo的公司，這款程式在2016年成功在圍棋世界中徹底擊敗了人類。在成功完成AlphaGo之後，這家公司在2020年又編寫了AlphaFold，基本上完全解決了蛋白三維結構重組這個難題。

全書分為四部分。第一部分講解歷史以來科技是如何爆發式發展，第二部分討論我們現今面對在人工智能和合成生物學兩方面海嘯般的發展，第三部分討論這些未受控制的浪潮如何在政治上產生影響，最後一部分討論我們如何面對這些不受控制的科技爆發。

剛開始讀第一部分時，我不明白題目到底是什麼。Cont nment？這兩個是什麼字。原來這一章是說遏制（containment）是不可能的。而到底遏制什麼是不可能呢？就是這個英文字裡的AI。AI這個字已經飛到了這一頁的頂部。這是書裡面其中一個很重要的字，在書中經常出現。

作為DeepMind的創始人，作者在書中當然不會不提公司的歷史。在第二部分，有兩個篇章講述AlphaGo和AlphaFold的故事。由一個局內人來回顧這些歷史特別有份量。

接著作者用了大量篇幅解釋為什麼我們沒有能力遏制這波科技的發展。其中一個原因是浪與浪之間互相牽連，根本不可能一次把所有浪停下來。而且不同政權都知道科技發展的重要，互相投放大量資源。此外，普通人也渴求這些技術，進一步促使公司加快發展。

由於這波科技發展得如此迅速，它所帶來的影響也會非常大。在書的第三部分，作者根據自己的經驗，指出在不同領域這些人工智能發展可能會帶來的問題。中心思想就是「科技就是政治」、「科技就是權力」。第一個帶來危險的例子是使用AI作為武器。從暗殺本·拉登到伊朗上一任首席科學家，美國和以色列都使用新科技遠距離追擊想要殺死的敵人。Deepfake技術也使假訊息傳播得更快，影響更強烈。會不會有實驗室運用AI創造更易治病、更易致命、更易傳播的新疾病？新科技會否大幅減少現在的工作，使人類沒有生存空間？對於這些問題，作者的回應頗為悲觀。

對於未來社會的變化，作者有以下的猜想。首先，權力會更加集中，因為大科技公司擁有大量數據，科技發展會使這些大企業的影響力越來越大。個人也會越來越受到監控，有電話、智能手錶、閉路電視數據等等，每個人的任何資訊都可能會被仔細掌握。如果這些數據沒有小心保存，後果不堪設想。同時，由於不同的科技很容易被掌握，個體越來越容易從大企業手中掌握權力。如果不小心使用，也會為社會帶來影響。

作者用了書的前三部分來講解這個問題的重要性，在最後一部分終於回到書的主題——遏制。作者所講的並不只是立法規管這麼簡單。由於問題非常複雜，在短時間內完成所有法例是不可能的。為了讓過程順利，作者認為首先需要讓公眾了解問題的重要性，我們不可以只依賴一小部分人來推動改變。在最後一章，作者提出了10個步驟，讓人類更有可能控制科技發展，使其不會整體對人類帶來禍害。

作者作為AI界權威之一，談論科技發展對未來人類的影響當然很有參考價值。作者提到的一些危害，很可能在短時間內就會出現。儘管作者盡量從歷史中找出相似的事件來支持自己的討論，但總覺得書中的很多論點討論不夠充分，往往只是作者自己的感受。

在閱讀這本書時，我剛好看到新聞說OpenAI公司裡面掌管安全的部門員工好像全數離職。如果如作者所說，這些人工智能非常危險，那麼OpenAI是否會為人類帶來不可逆轉的危機呢？