人工智慧學壞了?英國官員:AI聊天機器人可能帶來風險

Home / 全球新聞 / 人工智慧學壞了?英國官員:AI聊天機器人可能帶來風險

人工智慧學壞了?英國官員:AI聊天機器人可能帶來風險

Beautiful Monday
虚眞 小说

新北人的小確幸!PASTAIO這道新菜 只有新店吃得到

英國官員今天對各個組織示警說,愈來愈多研究顯示,人工智慧(AI)聊天機器人用於業務上可能會被誘騙去從事有害的任務。路透社

英國官員今天對各個組織示警說,愈來愈多研究顯示,人工智慧(AI)聊天機器人用於業務上可能會被誘騙去從事有害的任務。

三生 小說

路透社報導,英國「國家網路安全中心」(NCSC)在2篇預定今天發佈的部落格文章中指出,專家還沒能理解以及因應與大型語言模型(LLM)演算法有關的潛在安全問題,這種模型能產生類似人類的互動。

這種AI工具早期被作爲聊天機器人,一些人甚至認爲,聊天機器人未來不只會淘汰網路搜尋,也會取代客服和攬客電話等。

「國家網路安全中心」表示,聊天機器人可能存在風險,尤其是如果這種模型被插入重要機構的業務流程時。學術界與研究人員一再發現,如果輸入惡意指令或欺騙它繞過內建的防護機制,就可以擾亂聊天機器人。

鄭有傑導戲超投入 演員還沒哭他就哭了

例如,若駭客以精心設計的方式一步步下達指令,銀行的聊天機器人可能被騙去進行未獲授權的交易。

高雄仙姑反詐片打敗「署長來了」 橋段爆笑演員是素人

職場中的大齡者悲歌:45歲被優退、美魔女被轉調單位…

唐紅梪 小說

食在營養/當令胡蘿蔔 護眼睛、穩血糖、防三高