谷歌云新AI主管：在現(xiàn)實世界中部署AI要謹(jǐn)慎
當(dāng)谷歌云首席執(zhí)行官黛安娜·格林（Diane Greene）宣布安德魯·摩爾(Andrew Moore)將在今年晚些時候取代李飛飛擔(dān)任Google Cloud的人工智能負(fù)責(zé)人時，她提到摩爾曾擔(dān)任卡內(nèi)基梅隆大學(xué)計算機(jī)科學(xué)學(xué)院院長，并且曾在谷歌工作過。
當(dāng)谷歌云首席執(zhí)行官黛安娜·格林（Diane Greene）宣布安德魯·摩爾(Andrew Moore)將在今年晚些時候取代李飛飛擔(dān)任Google Cloud的人工智能負(fù)責(zé)人時，她提到摩爾曾擔(dān)任卡內(nèi)基梅隆大學(xué)計算機(jī)科學(xué)學(xué)院院長，并且曾在谷歌工作過。
格林沒有提到的是，摩爾也是美國新安全中心（CNAS）成立的一個人工智能任務(wù)小組的聯(lián)合主席。該中心是一個與美國軍方有著密切聯(lián)系的智庫。
與摩爾同為聯(lián)合主席的是羅伯特·沃克，他是前國防部副部長，紐約時報稱其為“Maven項目的創(chuàng)建背后的驅(qū)動力”，美國軍方分析數(shù)據(jù)的努力，比如使用人工智能的無人機(jī)鏡頭。
今年早些時候，谷歌卷入了Maven項目，這引發(fā)了該公司內(nèi)部的強(qiáng)烈反對，迫使首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）承諾，谷歌將永遠(yuǎn)不會使用人工智能增強(qiáng)型武器。
聘用摩爾肯定會重新引發(fā)關(guān)于谷歌在某些市場上參與人工智能的爭論以及該公司與軍方的關(guān)系。人工智能是科技領(lǐng)域最熱門的領(lǐng)域之一，擁有巨大的商業(yè)潛力。
在卡內(nèi)基梅隆大學(xué)任職期間，摩爾經(jīng)常討論人工智能在防御和軍事應(yīng)用中的作用，例如他在2017年關(guān)于人工智能和全球安全的演講中說到：
“如果我們想要，如果我們需要的話，我們可以負(fù)擔(dān)得起，用各種各樣的無人駕駛飛機(jī)來監(jiān)視整個世界。”摩爾說，“我并不是說我們想要這么做，但我認(rèn)為這并不是一個技術(shù)上的鴻溝，在我看來，這真的很難做到。目前卻是很實際的。”
CNAS，這個成立特別工作組同時也是摩爾擔(dān)任聯(lián)合主席的組織，主要關(guān)注國家安全問題，其聲明的使命是“發(fā)展強(qiáng)有力、務(wù)實和有原則的國家安全和國防政策，以促進(jìn)和保護(hù)美國的利益和價值觀。”
谷歌雇傭摩爾的決定受到了至少一位反對Maven項目的前谷歌員工的不滿。
一名前谷歌員工表示：“在對Maven項目廣泛存在內(nèi)部異議之后，谷歌聘請安德魯·摩爾，這令人擔(dān)憂。谷歌員工想要的是更少地與軍工復(fù)合體結(jié)合，而不是更多。這一雇傭?qū)?,000多名谷歌員工來說是一記重拳，他們簽署了拒絕Maven項目的請愿書。”
谷歌發(fā)言人拒絕置評。
在現(xiàn)實世界中部署AI要謹(jǐn)慎
摩爾出生于英國，但后來成為美國公民。他經(jīng)常公開表示，在將人工智能帶出實驗室并進(jìn)入現(xiàn)實世界時，需要謹(jǐn)慎行事。
今年3月，當(dāng)CNAS宣布成立特別工作組時，摩爾強(qiáng)調(diào)了“確保這樣的系統(tǒng)與人類合作的重要性，這種方式需要賦予人類力量，而不是取代人類，并且需要讓人類持有最終的決策權(quán)威。”
在最近的CNAS播客上，他描述了其在現(xiàn)實世界中關(guān)于人工智能的“保守”觀點：“即使我知道，例如在一個城市推出一組自動駕駛汽車可以減少50%的死亡，我也不會想要啟動它，直到我發(fā)現(xiàn)了一些關(guān)于正確性的正式證明，這表明它絕對不會涉及到不必要的死亡。”不過，他并沒有回避與軍事部門打交道。
摩爾的卡內(nèi)基梅隆傳記提到了過去的工作，涉及“發(fā)現(xiàn)和監(jiān)視恐怖威脅”，他在2017年9月的海軍研究報告中提到了“海軍部的自主和無人系統(tǒng)”的研究報告。
在2017年關(guān)于全球安全的討論中，他提到了將數(shù)字個人助理納入軍事應(yīng)用的可能性，比如谷歌和亞馬遜生產(chǎn)的消費(fèi)電子產(chǎn)品。他說：“對于我們是否以及何時以及如何為作戰(zhàn)人員和指揮官開發(fā)個人助理，這是一個開放的問題，即要有完整的信息來幫助消除戰(zhàn)爭的迷霧，而不需要太多的信息。”
在Maven項目之后
谷歌云首席執(zhí)行官黛安娜·格林（Diane Greene）
谷歌聘請摩爾來監(jiān)督谷歌云服務(wù)的人工智能工作。谷歌云是谷歌云計算服務(wù)的子公司，提供數(shù)據(jù)存儲、計算和機(jī)器學(xué)習(xí)等服務(wù)。他替代了李飛飛，后者回到斯坦福大學(xué)擔(dān)任教授。
聘用摩爾正值谷歌試圖擺脫因公司參與Maven項目而引發(fā)爭議的時期。
今年早些時候，有消息稱谷歌正在協(xié)助軍方分析無人機(jī)的鏡頭，數(shù)千名谷歌員工在一份請愿書上簽名，要求管理層終止公司參與其中。還有一些人拒絕為該項目工作，也拒絕向記者泄露文件，這些文件被證明對管理層來說令人尷尬。大約12名員工辭職以示抗議。
今年6月，谷歌CEO皮查伊似乎屈從于員工的要求。他發(fā)布了一份指導(dǎo)公司發(fā)展人工智能的七大原則清單。
這些措施包括：永遠(yuǎn)不要制造人工智能強(qiáng)化型武器，并確保人工智能應(yīng)用于具有社會效益、安全且不會產(chǎn)生不公平偏見的應(yīng)用領(lǐng)域。該公司沒有排除與軍方合作的不違反原則的服務(wù)，例如電子郵件或數(shù)據(jù)存儲等。
在谷歌內(nèi)部，對于許多反對Maven項目的人來說，他們的感覺是，公司不應(yīng)該與軍方有任何關(guān)系。至少，對于參與Maven抗議活動的谷歌員工，以及那些對其事業(yè)表示同情的前雇員，雇傭?qū)屓速|(zhì)疑谷歌對這些人工智能原則的承諾。
摩爾本人也承認(rèn)了武器化人工智能的潛在危險。他在2017年的講話中說，“就像我們能夠如此迅速地研發(fā)人工智能一樣，這是一件好事，同時也是一種威脅。”
“就像我們的一個天才研究生可以很快想出一些東西一樣，或許這些想法人們并不那么想要。我們必須為我們正在做的事情做好準(zhǔn)備。”他說。
（來源：網(wǎng)易智能）