或是史上最具破壞性技術

馬斯克：AI給人類帶來風險

【本報訊】據觀察者網十八日消息：在六月十六日法國科技盛會“Vivatech”一場活動中，美國特斯拉公司首席執行官馬斯克再度就人工智能(AI)技術發出警告。

呼籲監管防止災難

馬斯克認為，先進的人工智能技術或將是“有史以來最具破壞性的技術”，將給公眾帶來風險，他呼籲對人工智能行業發展進行相應監管，以最大限度地降低“潛在的災難性後果”。

“我們可能會面臨潛在的災難性後果。（人工智能）最有可能的結果是積極的，但我們需要將數字超級智能出現問題的可能性降至最低。我贊成監管，因為……先進的人工智能對公眾來說是一種風險。”

馬斯克形容，“人工智能可能是有史以來最具破壞性的技術”，他打趣說，想活着見證“一些人工智能啟示錄……但希望這不會發生”。

今年三月，馬斯克曾簽署了一封聯名公開信，呼籲在建立安全措施的同時暫停先進的人工智能開發。

“我認為沒有人會同意暫停。”但馬斯克認為，暫停人工智能發展是一種態度，仍應該留下記錄（指上文的聯署公開信）。

難阻人工智能發展

與此同時，馬斯克還指出，目前的技術標準不足以限制人工智能系統的影響力。他指出，具體而言，旨在阻止機器人訪問網頁的驗證程式在人工智能時代是無用的。

“很明顯，有了今天的人工智能，計算機可以通過每一項‘你是否為真人’的測試，就像識別紅綠燈一樣。”“開源人工智能可以通過所有的人類測試，所以你需要比這更好的認證（方式）。”

科技界籲加強監管

實際上，對人工智能發出警告的不止馬斯克一人。就在五月，OpenAI首席執行官阿爾特曼出席國會聽證會時，同樣呼籲對人工智能進行監管。他支持創建一個專門機構，向創建人工智能模型的組織頒發許可證，並在新模型正式發佈之前對其開展測試。

微軟總裁史密斯也支持類似的想法。上月，微軟發佈了一份關於控制人工智能的報告，呼籲美國和其他國家建立自己的政府機構，專門監管人工智能。

六月十四日，歐洲議會議員投票表決通過了更加嚴格的人工智能法規草案。路透社稱，這意味着歐盟成為世界上全面推進人工智能立法的主要政府機構之一。