根據張貼 Alexa 活動歷史截圖的家長的說法，當孩子要求亞馬遜語音助手提出挑戰時，亞馬遜語音助手舉了一個致命的電力實驗的例子，將其描述脫離了隨機文章的上下文。 Echo 專欄談到了一項在 TikTok 粉絲中很受歡迎的實驗，該實驗使用硬幣和智能手機充電器進行 - 各種媒體不止一次報導了實施後發生的許多事件、傷害和火災。 顯然，該設備從一篇將其描述為危險的文章中獲得了這一挑戰的想法，並引用了一份關於據稱存在的 TikTok 挑戰的報導。
根據 Christine Livdahl 截取的截圖，當被要求“給我看一個任務”時，Echo 回答說，“這是我在網上找到的東西。” 根據 ourcommunitynow.com 的說法，任務很簡單：“將手機充電器插入插座的一半左右，然後用一分錢觸摸裸腳。”
在給 BBC 的一份聲明中，亞馬遜證實了 Alexa 的行為，並表示：“我們一發現這個錯誤，就立即採取行動修復它。” Livdahl 昨天在推特上表示，挑戰請求不再有效。 網絡上的用戶也使用 Alexa 測試了該請求，並得到了類似的結果。
OMFG 我 10 歲的孩子剛剛在我們的 Echo 上向 Alexa 提出挑戰，她就是這麼說的。 PIC。twitter.com/HgGgrLbdS8
- 克里斯汀·利夫達爾 (@klivdahl) 2021 年 12 月 26 日
亞馬遜並不是唯一一家在分析 Web 內容時遇到問題的公司。 月，一位用戶報告說，如果你在谷歌中輸入“你正在癲癇發作，該怎麼辦”，谷歌就會在其片段中顯示潛在危險的建議——該信息取自網頁的一部分，描述了什麼不是如果有人癲癇發作。 然而，用戶報告了其他類似的問題，包括一位用戶報告說谷歌在搜索直立性高血壓時返回了直立性低血壓的結果，另一位用戶發布了谷歌的截圖，顯示了安慰悲傷的人的糟糕建議，如“很高興你“沒事”或“別難過！ 開心點！”。
Google 搜索摘要與實際頁面 PIC。twitter.com/OJxt1FrBqh
—soft.linden (｡•̀ᴗ-)✧ (@soft) 2021 年 10 月 16 日
我們還看到有關危險行為的警告越來越多，使問題變得更大——本月早些時候，一些美國學區在 TikTok 受到槍擊威脅的報導後被封鎖。 原來，社會風暴主要是因為人們談論威脅，而不是實際存在的威脅。 在 Alexa 的案例中，算法選擇了警告的描述性部分，並在沒有原始上下文的情況下對其進行了放大。 儘管父母在那裡立即進行了乾預，但很容易想像情況並非如此以及後果。
Livdahl 在推特上說，她利用這個機會“與她的孩子討論互聯網安全，不相信你在沒有研究和驗證的情況下閱讀的內容”，我們建議你也這樣做。
另請閱讀：