想象一下，如果下次您申請貸款，計算機算法將決定您主要根據(jù)種族，性別或郵政編碼來支付較高的費用。

現(xiàn)在，想象一下有可能訓練一個AI深度學習模型以通過誘發(fā)失憶來分析基礎(chǔ)數(shù)據(jù)：它會忘記某些數(shù)據(jù)而只關(guān)注其他數(shù)據(jù)。

如果您認為這聽起來像是計算機科學家撰寫的“一塵不染的永恒陽光”，那么您將不勝枚舉。多虧了南加州大學信息科學研究所(ISI)的AI研究人員，這個稱為對抗性遺忘的概念現(xiàn)已成為一種真正的機制。

該論文的主要作者和博士Ayush Jaiswal指出，隨著AI在我們?nèi)粘Ｉ钪械娜找嫫占?，解決和消除AI中的偏見的重要性變得越來越重要。南加州大學維特比工程學院的候選人。

他解釋說：“人工智能，更具體地說，機器學習模型繼承了他們所訓練的數(shù)據(jù)中存在的偏差，并且甚至容易放大這些偏差。”“人工智能已被用來做出影響我們所有人的幾個現(xiàn)實生活中的決定，例如確定信貸額度，批準貸款，對工作申請進行評分等。例如，如果做出這些決定的模型在歷史上受到盲目訓練在不控制偏見的情況下獲得數(shù)據(jù)，他們將學會不公平地對待屬于歷史上處于不利地位的人口群體的個人，例如婦女和有色人種。”

該研究由ISI研究小組負責人Wael AbdAlmageed和南加州大學維特比分校的謝明電子與計算機工程系的研究副教授，研究副教授Greg Ver Steeg以及計算機科學與工程學教授Premkumar Natarajan領(lǐng)導。 ISI執(zhí)行董事(請假)。在他們的指導下，賈伊斯瓦爾(Jaiswal)和合著者丹尼爾·莫耶(Daniel Moyer)博士開發(fā)了對抗性遺忘方法，該方法教授深度學習模型來忽略特定的，不需要的數(shù)據(jù)因素，從而使它們產(chǎn)生的結(jié)果無偏且更準確。

該研究論文名為“通過對抗遺忘實現(xiàn)不變表示”，于2020年2月10日在紐約市人工智能促進協(xié)會會議上發(fā)表。