小心!竟連AI人工智慧都會被玩弄?但這公司阻止一切!(下)

小心!竟連AI人工智慧都會被玩弄?但這公司阻止一切!(下)

小心!竟連AI人工智慧都會被玩弄?但這公司阻止一切!(下)

這篇讓我們來看看這間公司如何保護AI人工智慧不被愚弄!

 

捷克 AI 新創成金融駭客剋星 助企業找出資安新解方

有鑑於此,捷克一家新創公司「Resistant AI」開發一套機器學習技術,專門抵擋對抗式機器學習、竄改樣本、目標性操弄等等攻擊。

Resistant AI 目前主要提供兩項產品:

1. 文檔防禦(Resistant Documents)

駭客會偽造或更換銀行對帳單、購買收據、薪資單或 KYC 文件(Know Your Customer)的名稱等等「良性文件」,欺騙人工智慧所驅動的認證系統、逃過檢測,藉此成功開啟銀行帳戶,或是讓自動處理系統批准借貸。

而「文檔防禦」是讓機器學習系統拒絕自動處理過程中遭遇的可疑文檔,並標記出所有惡意或可疑的來源。

2. 交易防禦(Resistant Transactions)

深度學習系統的測試,經典方法是收集大量人工標註好的數據,來評估系統的準確性。然而很難輸入未來所有可能發生的數據,也就無法得知系統的每個反應是否符合邏輯。並且只要將輸入的數據添加微小干擾,就可以欺騙深度學習系統,讓系統「核准」惡意數據。

「交易防禦」就是用 AI 偵測可疑的交易行為,例如當有付款、轉帳或是申請信貸等請求時,交易防禦系統就會進行統計性的檢查,若確實辨認出有問題的請求,就會阻止交易,保護系統模組內資訊不被偷取,也能防止系統受到誘導而做出錯誤的決定。

Resistant AI 的創辦人兼 CEO Martin Rehak 在資訊安全領域工作超過 12 年,他表示:駭客對於 AI 系統漏洞的破解技術已經越來成熟,這也讓啟發他跟他的團隊創立現在的 Resistant AI 來提供解決方案。公司當前的目標客戶是金融企業、金融科技新創,與在金融交易過程中採用AI的公司。

Resistant AI 於 4 月底進行種子輪融資,獲風險投資公司 Index Ventures 及 Credo Venture 領投,成功籌集 275 萬美元資金。

讓我們「以AI之矛,攻AI之盾」!

AI 人工智慧的發展固然大幅提高人們的生活品質,但同時也要清楚認識到科技的兩面性!要知道,科技僅僅是工具,水能載舟、亦能覆舟,若遭到有心人惡意利用也會產生負面影響。正如 AI 可以被用於詐騙,也可以被用於反詐騙,利用技術的方式不同,帶來的影響當然也不同。

因此,在面對一項科技時,除了理解、學習、使用之外,更要進一步超越它——努力成為卓越 AI 的創造者,才能不被 AI 所掌控

推薦閱讀:AI 產業革命開始!為何 Python 成人工智慧必備語言?

本篇為下篇,上篇請點此連結

 

 

精選延伸閱讀:

小心!竟連AI人工智慧都會被玩弄?但這公司阻止一切!(上)

人工智慧學校執行長陳昇瑋辭世,台灣AI界痛失英才!

人工智慧機器狗,讓你享受跟養真狗一樣的感覺?(上)

AI 產業革命開始!為何 Python 成人工智慧必備語言?

連 IBM 都推!入行 AI 人工智慧必學 Python 的8大理由

AI 重機車手 MOTOBOT – 專為超越 MotoGP 冠軍 Rossi 而生

AI人工智慧將如何衝擊你的未來?還是學好Python吧!

本篇發表於 科技與人工智慧新知 並標籤為 , , , , , , , , 。將永久鏈結加入書籤。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料