你知道嗎,AI人工智慧也是會被愚弄的!但這公司有方法了?(下)
但AI人工智慧已不再被繼續玩弄!現在就跟你介紹這公司~
捷克 AI 新創成金融駭客剋星 助企業找出資安新解方
有鑑於此，捷克一家新創公司「Resistant AI」開發一套機器學習技術，專門抵擋對抗式機器學習、竄改樣本、目標性操弄等等攻擊。
Resistant AI 目前主要提供兩項產品：
1. 文檔防禦（Resistant Documents）
駭客會偽造或更換銀行對帳單、購買收據、薪資單或 KYC 文件（Know Your Customer）的名稱等等「良性文件」，欺騙人工智慧所驅動的認證系統、逃過檢測，藉此成功開啟銀行帳戶，或是讓自動處理系統批准借貸。而「文檔防禦」是讓機器學習系統拒絕自動處理過程中遭遇的可疑文檔，並標記出所有惡意或可疑的來源。
2. 交易防禦（Resistant Transactions）
深度學習系統的測試，經典方法是收集大量人工標註好的數據，來評估系統的準確性。然而很難輸入未來所有可能發生的數據，也就無法得知系統的每個反應是否符合邏輯。並且只要將輸入的數據添加微小干擾，就可以欺騙深度學習系統，讓系統「核准」惡意數據。「交易防禦」就是用 AI 偵測可疑的交易行為，例如當有付款、轉帳或是申請信貸等請求時，交易防禦系統就會進行統計性的檢查，若確實辨認出有問題的請求，就會阻止交易，保護系統模組內資訊不被偷取，也能防止系統受到誘導而做出錯誤的決定。
Resistant AI 的創辦人兼 CEO Martin Rehak 在資訊安全領域工作超過 12 年，他表示：駭客對於 AI 系統漏洞的破解技術已經越來成熟，這也讓啟發他跟他的團隊創立現在的 Resistant AI 來提供解決方案。公司當前的目標客戶是金融企業、金融科技新創，與在金融交易過程中採用AI的公司。
Resistant AI 於 4 月底進行種子輪融資，獲風險投資公司 Index Ventures 及 Credo Venture 領投，成功籌集 275 萬美元資金。
讓我們「以AI之矛，攻AI之盾」！
AI 人工智慧的發展固然大幅提高人們的生活品質，但同時也要清楚認識到科技的兩面性！要知道，科技僅僅是工具，水能載舟、亦能覆舟，若遭到有心人惡意利用也會產生負面影響。正如 AI 可以被用於詐騙，也可以被用於反詐騙，利用技術的方式不同，帶來的影響當然也不同。
因此，在面對一項科技時，除了理解、學習、使用之外，更要進一步超越它——努力成為卓越 AI 的創造者，才能不被 AI 所掌控。
推薦閱讀：AI 產業革命開始！為何 Python 成人工智慧必備語言？
本篇為下篇，上篇請點此連結
延伸閱讀文章：
你知道嗎,AI人工智慧也是會被愚弄的!但這公司有方法了?(上)
歐盟頒布的人工智慧白皮書,能解決人類和AI的紛爭嗎?(下)
關於這人工智慧機器狗aibo,你知道多少?(下)
AI人工智慧將如何衝擊你的未來?還是學好Python吧!
這家新創公司,揪出想欺騙AI人工智慧的嫌犯!(上)
連方程式冠軍選手都害怕的-人工智慧甩尾技術,有多厲害?(上)
如何保護地球?或許能從AI身上找答案!(上)
