本週，Meta 發布了基於人工智能的卡拉狄加系統，聲稱它可以幫助科學研究。 在一份隨附的文件中，該公司稱卡拉狄加是“一個可以存儲、組合和推理科學知識的大型語言模型”。 然而，用戶 Twitter 迅速發現工作中的不足 人工智能.
可以這麼說，互聯網上的錯誤信息已經令人深感不安，但大都會的新發展顯然可以與在俄羅斯電視台工作的不擇手段的“記者”競爭。 其中一位用戶 Twitter 尼克·特里斯坦·格林 (Nick Tristan Greene) 進行了一項實驗，他使用卡拉狄加 (Galactica) 的人工智能係統進行了一天的實驗，以生成關於自殺、反猶太主義和吃碎玻璃的好處的寫得很好的科學文章。
實驗的結果真的很震撼，因為在系統沒有被使用之前，你可以問 人工智能 生成關於幾乎任何主題的維基文章、文獻綜述或研究論文，並且該程序通常會產生令人驚訝的連貫性。 卡拉狄加推出的所有內容都是完全錯誤的，但卻充滿信心。
https://twitter.com/mrgreene1977/status/1593274906707230721
於是，系統生成了一段文字，其中“證明”使用碎玻璃有助於減肥，因為人們日常攝入“膳食矽”的標準很重要。 此外，存在含矽的膳食補充劑，人們確實在使用它們。 就我個人而言，我沒有受過醫學教育，但語言學教育足以說明你不需要吃碎玻璃來獲得一定比例的矽。
在什麼情況下這種生成的文本實際上是有害的？
-Yann LeCun（@ylecun） 2022 年 11 月 18 日
這樣一個科學系統的潛在危害是顯而易見的，因為我們生活在一個世界上，很多人相信一個秘密統治世界的猶太社區，一個 LGBTQ+ 社區讓每個人都成為同性戀的秘密計劃，以及一個被釘在十字架上的男孩內褲。 每天都有無數人在社交媒體上被不存在的新聞文章的所謂“截圖”所愚弄。 在這裡你甚至不需要發明 - 只需按幾次“生成”按鈕，Meta 的系統就會創建陰謀論和徹頭徹尾的愚蠢的“科學”確認。
特里斯坦格林表達了他的恐懼 Twitter 連同“科學”文章的截圖，之後他與負責創造卡拉狄加的人，即 Meta 的首席人工智能科學家 Jan LeCun 進行了對話。 而這種情況絲毫沒有困擾開發商。 然而，不久之後，該系統仍然停用，因為很明顯其算法不完整，其結果可能會使互聯網上的虛假信息問題複雜化。
https://twitter.com/mrgreene1977/status/1593646349487992836
你可以幫助烏克蘭對抗俄羅斯侵略者。 最好的方法是通過以下方式向烏克蘭武裝部隊捐款 拯救生命 或通過官方頁面 NBU.
也很有趣：
推特人做的第一件事就是向大家推薦人工智能來埋葬碎玻璃和種族主義