【人工智能】憂AI取代人類、破壞文明，馬斯克等千人呼籲暫停開發強大AI

AI不斷進步，為人類帶來機遇還是風險？近日馬斯克（Elon Musk）與逾千科技界名人、AI專家發佈《暫停大型人工智能實驗》公開信，呼籲所有人工智能實驗室立即暫停較GPT-4更強大的人工智能系統的訓練至少6個月，稱「當我們確信它們的影響是正面的，並且風險可控的時候，才應該開發強大的人工智能系統」。 

聯署人士包括馬斯克、Apple聯合創辦人Steve Wozniak、Stability AI CEO Emad Mostaque、AI科學家和圖靈獎得主Yoshua Bengio、《人類三部曲》作者與歷史學家Yuval Noah Harari等，共有逾千人聯署。 

公開信內容指，當代AI系統在一般任務上變得與人類具有競爭力，並提出數個問題：「我們是否應該讓機器用宣傳和謊言充斥我們的信息渠道？ 我們應該自動化所有的工作，包括令人滿意的工作嗎？ 我們是否應該發展最終可能超越我們、取代我們的非人類思維？ 我們應該冒險失去對我們文明的控制嗎？」 

因此，公開信提出「當我們確信它們的影響是正面的，並且風險可控的時候，才應該開發強大的人工智能系統」，並呼籲所有AI實驗室立即暫停較GPT-4更強大的人工智能系統的訓練至少6個月。如果不能他們並未盡快暫停，政府應作出介入。