隨著 ChatGPT、Bard 和其他大型 AI 模型的出現，我們已經聽到相關人員（例如 Elon Musk）關於 AI 帶來的風險的警告。 現在，一群著名的行業領導者發表了一份聲明，實際上證實了這些擔憂。
該應用程序發佈於 在人工智能安全中心的網站上 （人工智能安全中心）是一個組織，其使命是“在社會範圍內降低與人工智能相關的風險”。 簽字人中不乏人工智能行業的知名代表，包括OpenAI的執行董事Sam Altman和負責人 谷歌 DeepMind Demis Hassabis。 圖靈獎獲得者 Geoffrey Hinton 和 Joshua Bengio，被許多人認為是現代人工智能的教父，也簽署了聲明。
這是過去幾個月中的第二次此類聲明。 今年 1000 月，馬斯克、史蒂夫沃茲尼亞克和其他 多人呼籲暫停 AI 開發六個月，讓行業和公眾有效掌握這項技術。 “最近幾個月，人工智能實驗室捲入了一場不受控制的競賽，以開發和實施越來越強大的數字思維，沒有人——甚至是它們的創造者——無法理解、預測或可靠地控制，”信中寫道。
雖然人工智能（可能）不像某些人擔心的那樣具有自我意識，但它已經通過深度造假、自動虛假信息等方式帶來濫用和傷害的風險。 人工智能還可以改變內容、藝術和文學的製作方式，可能會影響許多工作。
美國總統喬·拜登最近表示，人工智能是否危險“還有待觀察”，並補充說：“在我看來，科技公司有義務確保他們的產品在向世界發布之前是安全的……人工智能可以幫助解決一些非常棘手的問題，如疾病和氣候變化，但它也必須考慮對我們的社會、經濟和國家安全的潛在風險。” 在最近於白宮舉行的一次會議上，奧特曼呼籲對人工智能進行監管，因為它存在潛在風險。
鑑於廣泛的意見，新簡報旨在表明對與人工智能相關的風險的共同關注，即使各方對這些風險是什麼存在分歧。
“人工智能專家、記者、政治家和公眾越來越多地討論與人工智能相關的一系列重要和緊迫的風險，”聲明的序言中寫道。 “然而，可能很難表達對與人工智能相關的一些更嚴重風險的擔憂。 下面的簡潔陳述旨在克服這一障礙並展開討論。 它還旨在告知越來越多的專家和公眾人物，他們也在認真對待與人工智能相關的一些最嚴重的風險。”
另請閱讀：