財(cái)聯(lián)社8月31日訊(編輯 卞純)英國(guó)官員日前警告公司不要將人工智能(AI)聊天機(jī)器人整合到他們的業(yè)務(wù)中,稱越來(lái)越多的研究表明,它們可能被誘騙執(zhí)行有害任務(wù)。
英國(guó)國(guó)家網(wǎng)絡(luò)安全中心(NCSC)在周三發(fā)表的兩篇博客文章中表示,專家們尚未掌握與可以生成類似人類互動(dòng)的算法(大型語(yǔ)言模型)相關(guān)的潛在安全問(wèn)題。
人工智能工具目前正以聊天機(jī)器人方式實(shí)現(xiàn)一些早期運(yùn)用,一些人設(shè)想,聊天機(jī)器人不僅可以取代互聯(lián)網(wǎng)搜索,還會(huì)取代客戶服務(wù)工作和電話銷售。
【資料圖】
NCSC表示,這樣做可能帶來(lái)風(fēng)險(xiǎn),尤其是如果此類模型被嵌入公司的重要業(yè)務(wù)流程時(shí)。學(xué)者和研究人員已經(jīng)多次發(fā)現(xiàn),如果輸入惡意指令或欺騙它繞過(guò)內(nèi)建的防護(hù)機(jī)制,就可以擾亂聊天機(jī)器人。
例如,如果黑客正確下達(dá)指令,那么銀行部署的AI聊天機(jī)器人可能會(huì)被誘騙執(zhí)行一筆未經(jīng)授權(quán)的交易。
“公司在利用大語(yǔ)言模型搭建服務(wù)時(shí)需要小心,就像它們?cè)谑褂锰幱跍y(cè)試階段的產(chǎn)品或代碼庫(kù)的時(shí)候一樣?!盢CSC表示?!八鼈儾粫?huì)讓那種產(chǎn)品參與代表客戶進(jìn)行交易的工作,而且也不會(huì)完全信任這樣的產(chǎn)品。同樣的審慎也適用于大語(yǔ)言模型。”
AI安全成全球關(guān)注焦點(diǎn)
眼下,世界各國(guó)政府都在努力應(yīng)對(duì)大語(yǔ)言模型的崛起,比如OpenAI的ChatGPT,企業(yè)正在將其納入廣泛的服務(wù)中,包括銷售和客戶服務(wù)。人工智能的安全影響也成為人們關(guān)注的焦點(diǎn),美國(guó)和加拿大當(dāng)局表示,他們已經(jīng)看到黑客采用了這項(xiàng)技術(shù)。
路透社/益普索最近的一項(xiàng)調(diào)查發(fā)現(xiàn),許多企業(yè)員工都在使用ChatGPT這樣的工具來(lái)幫助完成基本任務(wù),比如起草電子郵件、總結(jié)文件和進(jìn)行初步研究。
約10%的受訪者表示,他們的老板明確禁止使用外部人工智能工具,而四分之一的人不知道他們的公司是否允許使用這項(xiàng)技術(shù)。
網(wǎng)絡(luò)安全公司RiverSafe的首席技術(shù)官Oseloka Obiora表示,如果企業(yè)領(lǐng)導(dǎo)人未能引入必要的檢查,將人工智能融入商業(yè)實(shí)踐將產(chǎn)生“災(zāi)難性后果”。
“高管們應(yīng)該三思,而不是盲目追隨最新的人工智能趨勢(shì)。”他稱?!霸u(píng)估收益和風(fēng)險(xiǎn),并實(shí)施必要的網(wǎng)絡(luò)保護(hù),以確保公司免受傷害?!?/p>
關(guān)鍵詞:
新聞發(fā)布平臺(tái) |科極網(wǎng) |環(huán)球周刊網(wǎng) |tp錢包官網(wǎng)下載 |中國(guó)創(chuàng)投網(wǎng) |教體產(chǎn)業(yè)網(wǎng) |中國(guó)商界網(wǎng) |萬(wàn)能百科 |薄荷網(wǎng) |資訊_時(shí)尚網(wǎng) |連州財(cái)經(jīng)網(wǎng) |劇情啦 |5元服裝包郵 |中華網(wǎng)河南 |網(wǎng)購(gòu)省錢平臺(tái) |海淘返利 |太平洋裝修網(wǎng) |勵(lì)普網(wǎng)校 |九十三度白茶網(wǎng) |商標(biāo)注冊(cè) |專利申請(qǐng) |啟哈號(hào) |速挖投訴平臺(tái) |深度財(cái)經(jīng)網(wǎng) |深圳熱線 |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |咕嚕財(cái)經(jīng) |太原熱線 |電路維修 |防水補(bǔ)漏 |水管維修 |墻面翻修 |舊房維修 |參考經(jīng)濟(jì)網(wǎng) |中原網(wǎng)視臺(tái) |財(cái)經(jīng)產(chǎn)業(yè)網(wǎng) |全球經(jīng)濟(jì)網(wǎng) |消費(fèi)導(dǎo)報(bào)網(wǎng) |外貿(mào)網(wǎng) |重播網(wǎng) |國(guó)際財(cái)經(jīng)網(wǎng) |星島中文網(wǎng) |手機(jī)測(cè)評(píng) |品牌推廣 |名律網(wǎng) |項(xiàng)目大全 |整形資訊 |整形新聞 |美麗網(wǎng) |佳人網(wǎng) |稅法網(wǎng) |法務(wù)網(wǎng) |法律服務(wù) |法律咨詢 |成報(bào)網(wǎng) |媒體采購(gòu)網(wǎng) |聚焦網(wǎng) |參考網(wǎng)
亞洲資本網(wǎng) 版權(quán)所有
Copyright © 2011-2020 亞洲資本網(wǎng) All Rights Reserved. 聯(lián)系網(wǎng)站:55 16 53 8 @qq.com