你知道嗎,AI人工智慧也是會被愚弄的!但這公司有方法了?(上)


你知道嗎,AI人工智慧也是會被愚弄的!但這公司有方法了?(上)





AI人工智慧可還是會被駭客玩弄於股掌間的喔!好家在有間公司出手相救了!!

隨著科技浪潮來襲,金融產業也積極佈局,除了如區塊鏈、虛擬貨幣和 P2P 等新型交易模式愈發興盛外,傳統銀行的許多交易手續、分析工作也都交由人工智慧運籌帷幄。

但,導入 AI 不僅影響金融機構本身,虎視眈眈的駭客也馬上跟進,開發出特別針對人工智慧的攻擊手法。

而一家捷克新創公司 Resistant AI 找到了解決辦法──用 AI 反擊欺騙 AI 的網攻!


金融業 AI 應用夯 8 成以上交易由程式自動執行


▲ Fintech 金融科技市場中的 AI 人工智慧品牌(圖片來源:cbinsights,如有侵權請告知)

金融業是幾個快速導入 AI 的產業之一,且因長期的監理要求,金融業的數據資料保存完整有序,AI 導入較為容易;一方面也是為了因應快速成長的數位通路需求。

玉山銀行科技長陳昇瑋就表示,目前全球股市觀察,已經約有 8 至 9 成的交易都是以程式執行的,而全球十大對沖基金中,有 6 個已導入 AI 協助交易,代表現在,人工智慧 已在證券交易占有一定的份量。除了證券交易,AI 也被用在產業分析,拿來預測股價。
推薦閱讀:痛失英才!台灣人工智慧學校執行長陳昇瑋辭世
但與此同時,別忘了,駭客也在與時俱進中!他們正瞄準著 AI 和機器學習的弱點,展開新型態的網路攻擊,導致金融組織或企業面臨巨額損失、機密資料或客戶資料外洩的風險。

 

駭客故意餵錯誤資料 誤導 AI 原來這麼簡單!?

AI 固然好用,但當然也不是萬靈丹,並且還有可能變成攻擊目標!

駭客若部署對抗式機器學習(Adversarial Machine Learning)找出機器學習模型的弱點,在訓練資料中參雜惡意樣本與駭入後台干擾參數,就能有迅速破壞 AI 運作!
推薦閱讀:美國將 AI 納入軍用!到底人工智慧會成為人類救星還是殺人機器?
趨勢科技全球安全研究副總 William Malik 也曾談過:「其實演算法是很粹弱的,很容易因為訓練資料被動手腳,導致要辨識動物的影像 AI 將長頸鹿辨識為單車。」因為 AI 不像人類,不是看整體而是「盯著」細節的部分,這些重要的細節被更動,AI 就會出狀況。

假若不幸遭到入侵,訓練資料被惡意加料,辨識模式被蓄意誤導,然後最後演算法在市面上佈署,就算是資安公司也可能會中招,讓 AI 反而成為欺騙防毒軟體的利刃。


本篇為上篇,下篇請點此連結






延伸閱讀文章:

你知道嗎,AI人工智慧也是會被愚弄的!但這公司有方法了?(下)

痛失英才!人工智慧學校創辦人辭世!

這最新的人工智慧白皮書,能讓人類和AI的界線更清楚嗎?(下)


 AI 產業革命開始!為何 Python 成人工智慧必備語言?

連 IBM 都推!入行 AI 人工智慧必學 Python 的8大理由

AI 重機車手 MOTOBOT - 專為超越 MotoGP 冠軍 Rossi 而生

AI人工智慧將如何衝擊你的未來?還是學好Python吧!

這個網誌中的熱門文章

前端工程師設定CSS背景的五種方法(一)背景固定模式設定

RWD和AWD是啥?差別又是什麼?前端工程師課程大解密!

前端工程師入門HTML5就靠這些撇步!(8上)製作拖曳元素