微新創(chuàng)想(idea2003.com) 8月14日消息:美國(guó)證券交易委員會(huì)主席 Gary Gensler 表示，人工智能將成為未來(lái)金融危機(jī)的核心，監(jiān)管機(jī)構(gòu)無(wú)法提前預(yù)知并應(yīng)對(duì)。這是目前美國(guó)最重要和最有權(quán)力的監(jiān)管者之一發(fā)出的信息。

Gensler 在麻省理工學(xué)院擔(dān)任教授時(shí)撰寫(xiě)的一篇論文是了解這些風(fēng)險(xiǎn)以及監(jiān)管機(jī)構(gòu)能做多少努力來(lái)解決這些問(wèn)題的寶貴資源。

總的來(lái)說(shuō)，人工智能在金融市場(chǎng)中最明顯的風(fēng)險(xiǎn)是由 AI 驅(qū)動(dòng)的「黑盒子」交易算法失控，并同時(shí)大量賣(mài)出同樣的東西，導(dǎo)致市場(chǎng)崩盤(pán)。

Gensler 寫(xiě)道：「實(shí)際上沒(méi)有那么多人受過(guò)培訓(xùn)可以構(gòu)建和管理這些模型，而且他們往往具有相似背景。」此外，在共同接受培訓(xùn)的人群中存在著強(qiáng)烈親和性，所謂「學(xué)徒效應(yīng)」。

模型同質(zhì)化風(fēng)險(xiǎn)也可能由監(jiān)管本身引起。如果監(jiān)管機(jī)構(gòu)對(duì) AI 可以做什么、不能做什么進(jìn)行控制，增加它們同時(shí)采取相同行動(dòng)的風(fēng)險(xiǎn)，并增加公司選擇使用少數(shù)幾個(gè)無(wú)可指責(zé)的大型供應(yīng)商提供的 AI 服務(wù)的可能性。

由于模型購(gòu)買(mǎi)和銷(xiāo)售的規(guī)則對(duì)人類(lèi)來(lái)說(shuō)是不透明且事先（甚至事后）無(wú)法知道的，監(jiān)管機(jī)構(gòu)很難阻止這種崩盤(pán)。

正如 Gensler 所寫(xiě)：「如果深度學(xué)習(xí)預(yù)測(cè)可以解釋?zhuān)敲此鼈円婚_(kāi)始就不會(huì)被使用。」言外之意是：人工智能帶來(lái)的風(fēng)險(xiǎn)比交易算法要深刻得多。

例如，許多人工智能致力于評(píng)估信用價(jià)值。由于其不透明性，很難確定它們是否以歧視方式評(píng)判人類(lèi)。而且由于 AI 在以不可預(yù)測(cè)的方式不斷演變，我們無(wú)法實(shí)時(shí)得知昨天沒(méi)有種族主義傾向的 AI 今天是否已經(jīng)產(chǎn)生了種族主義傾向。

「隨著深度學(xué)習(xí)在金融領(lǐng)域更廣泛采用，可能出現(xiàn)并將顯著增加監(jiān)管空白。」Gensler 寫(xiě)道。「我們得出結(jié)論認(rèn)為深度學(xué)習(xí)可能會(huì)增加系統(tǒng)性風(fēng)險(xiǎn)。」

最簡(jiǎn)單、可能也是最有效的監(jiān)管應(yīng)對(duì)措施很可能就是增加金融機(jī)構(gòu)（或其監(jiān)管機(jī)構(gòu)）使用人工智能工具時(shí)需要持有的資本量。

監(jiān)管機(jī)構(gòu)還可以要求所有由 AI 生成的結(jié)果經(jīng)過(guò)更傳統(tǒng)、可解釋性更強(qiáng)的線(xiàn)性模型進(jìn)行「嗅探測(cè)試」。公司可能會(huì)受到阻止或禁止采取無(wú)法從基本面廣泛解釋的行動(dòng)。

監(jiān)管機(jī)構(gòu)可能能夠減緩風(fēng)險(xiǎn)上升的速度，但很不可能能夠阻止系統(tǒng)性風(fēng)險(xiǎn)上升。

Gensler 自己列出了一長(zhǎng)串有助于應(yīng)對(duì)問(wèn)題的監(jiān)管方法，但他明確表示，即使綜合起來(lái)，「也不足以勝任當(dāng)前任務(wù)」。

Gensler 在他的論文中指出，人工智能「對(duì)數(shù)據(jù)有永不滿(mǎn)足的需求」。

風(fēng)險(xiǎn)在于人工智能模型最終會(huì)趨于具有相同的龐大訓(xùn)練數(shù)據(jù)集（例如 Common Crawl），共享該數(shù)據(jù)集可能存在的固有弱點(diǎn)。

「基于相同數(shù)據(jù)集構(gòu)建的模型很可能生成高度相關(guān)的預(yù)測(cè)，呈現(xiàn)出群集和集體行為」，Gensler 寫(xiě)道。

對(duì)大量數(shù)據(jù)來(lái)源的需求往往導(dǎo)致壟斷。Gensler 指出，洲際交易所通過(guò)收購(gòu) MERS、Ellie Mae 和 Simplifile，已經(jīng)悄然占據(jù)了抵押數(shù)據(jù)業(yè)務(wù)的主導(dǎo)地位。

這些壟斷企業(yè)隨后可能成為威脅整個(gè)網(wǎng)絡(luò)的「單點(diǎn)故障」，就像一家中型投資銀行 Lehman Brothers 的失敗引發(fā)了全球金融災(zāi)難。

即使最大的數(shù)據(jù)集也極不完整。「互聯(lián)網(wǎng)使用數(shù)據(jù)、可穿戴設(shè)備數(shù)據(jù)、車(chē)載數(shù)據(jù)、GPS 和智能手機(jī)數(shù)據(jù)根本沒(méi)有足夠長(zhǎng)的時(shí)間跨度來(lái)覆蓋一個(gè)完整的金融周期」，Gensler 指出。

這可能會(huì)產(chǎn)生毀滅性后果，就像我們?cè)诮鹑谖C(jī)中所看到的那樣。

擁擠風(fēng)險(xiǎn)已經(jīng)存在。「據(jù)推測(cè)，高頻算法交易中的集體行為和擁擠部分導(dǎo)致了閃電崩盤(pán)」，Gensler 寫(xiě)道。隨著交易者越來(lái)越多地轉(zhuǎn)向人工智能，這個(gè)風(fēng)險(xiǎn)只會(huì)增加。

發(fā)展中經(jīng)濟(jì)體的公司最終可能會(huì)使用根本沒(méi)有接受過(guò)國(guó)內(nèi)數(shù)據(jù)訓(xùn)練的人工智能，這使得風(fēng)險(xiǎn)更大。

總而言之，人工智能不知道自己不知道的東西。這可能非常危險(xiǎn)。