經(jīng)濟學人智庫(EIU)的一份報告說，數(shù)據(jù)偏見導致對個人或群體的歧視是使用該技術(shù)的銀行面臨的最大風險之一。

據(jù)EIU稱，人工智能目前在銀行業(yè)議程中處于首位，而Covid-19造成的混亂已經(jīng)“加強”了該領域的采用。銀行正在使用AI為客戶創(chuàng)建更多個性化的銀行服務，實現(xiàn)后臺流程的自動化，并與該領域開創(chuàng)AI的數(shù)字挑戰(zhàn)者銀行的發(fā)展保持同步。

EIU的“監(jiān)督AI：銀行報告中的人工智能治理”表示，但是銀行將需要確?；诘赖?，公平和有據(jù)可查的AI決策。它說，計算機做出的決定必須保持道德，沒有偏見，并且這些決定必須是可解釋的。

為了實現(xiàn)這些目標，人工智能在設計上應符合道德規(guī)范，應監(jiān)控數(shù)據(jù)的準確性和完整性，開發(fā)過程需要有據(jù)可查，銀行需要確保其具有適當?shù)募寄芩健?/p>

歐洲，中東和非洲(EMEA)編輯總監(jiān)Pete Swabey – EIU的思想領導者說：“人工智能被視為該領域的關鍵競爭優(yōu)勢。我們的研究借鑒了全球監(jiān)管機構(gòu)的指導意見，強調(diào)了銀行要想安全，合乎道德地利用AI機會，必須應對的主要治理挑戰(zhàn)。”

EIU認為，可能缺乏人為監(jiān)督是一個主要問題。該公司表示，應優(yōu)先考慮招聘和培訓具有適當技能的人員：“銀行必須確保整個企業(yè)具有適當水平的AI專業(yè)知識，以建立和維護AI模型，并監(jiān)督這些模型。”但是，作為IT的先驅(qū)，并憑借其豐富的IT技能和研究資金，銀行可以為AI開發(fā)設定標準。

花旗創(chuàng)新實驗室高級副總裁Prag Sharma表示：“偏差可以滲透到任何行業(yè)的AI模型中，但是與大多數(shù)類型的組織相比，銀行的定位要好得多。最大限度地提高算法的可解釋性有助于減少偏差。”

人工智能生態(tài)系統(tǒng)構(gòu)建商Skymind Global Ventures的聯(lián)合創(chuàng)始人亞當·吉布森(Adam Gibson)表示，首先定義道德對產(chǎn)品的意義非常重要，因此在設計AI應用程序時應遵循一些準則。

他說：“此外，您需要思想和跨職能團隊的多樣性，以研究您在其整個生命周期中構(gòu)建的服務的各個方面。”

“與來自不同背景的不同人的合作對于最大程度地減少AI決策過程中的偏見和道德上可疑的活動至關重要。這不僅包括具有構(gòu)建技術(shù)技能的人員，還包括服務的用戶。他們將直接了解任何偏差，并能夠在啟動AI服務之前的設計過程中對其進行標記。”

Gibson補充說，AI是通過數(shù)據(jù)集構(gòu)建的，而種族主義AI模型通常來自種族主義數(shù)據(jù)集。他說：“這是我們需要意識到的，以幫助最小化和保護我們免受對社會無益的創(chuàng)新。”