谷歌與美國軍方合作人工智能項(xiàng)目到期后會不會再續(xù)約?
谷歌妥協(xié)：與美國軍方合作人工智能項(xiàng)目明年到期后不再續(xù)約。
面對員工的強(qiáng)烈反對和外部持續(xù)的輿論壓力，最終，谷歌妥協(xié)了。
當(dāng)?shù)貢r間6月1日，谷歌稱將不會與美國國防部合作的Maven項(xiàng)目續(xù)約。谷歌云CEO黛安·格林(Diane Greene)在谷歌云每周五的例會上向員工公布了上述消息。她表示，目前谷歌與美國軍方簽訂的Maven合同將在2021年到期，屆時谷歌將不會再尋求續(xù)約的機(jī)會。
谷歌子彈。
此外，格林還在會上稱，谷歌不會再推進(jìn)Maven項(xiàng)目，因?yàn)橥饨鐚@一項(xiàng)目的反饋給公司造成了糟糕的影響。她還補(bǔ)充說公司計(jì)劃在下周推出關(guān)于使用人工智能(AI)的新到的原則。
去年4月份，美國軍方提出Maven項(xiàng)目。Maven的目標(biāo)是“加快國防部整合大數(shù)據(jù)和機(jī)器學(xué)習(xí)”，也被美國國防部稱為算法戰(zhàn)爭跨功能團(tuán)隊(duì)(AWCFT：Algorithmic Warfare Cross-Functional Team)。Maven項(xiàng)目的首要任務(wù)是幫助美國國防部有效地處理來自全球各地的海量的視頻資料。美國國防部每天收集到數(shù)量龐大的無人機(jī)飛行畫面，但人類圖像分析師遠(yuǎn)遠(yuǎn)跟不上視頻數(shù)量的增長。因此，國防部希望能利用機(jī)器學(xué)習(xí)來識別無人機(jī)鏡頭中的車輛和其他物體，從而減輕分析人員的負(fù)擔(dān)。在自身資源不足的情況下，國防部轉(zhuǎn)向了學(xué)界與業(yè)界的人工智能專家合作。
在該項(xiàng)目中，谷歌向美國國防部提供用于機(jī)器學(xué)習(xí)應(yīng)用的TensorFlow API接口，以幫助軍事分析人員檢測圖像中的物體。但合作到哪種程度，雙方都未對外界透露。
谷歌與美國軍方的合作一開始在公司內(nèi)部就引起了不滿，谷歌內(nèi)部的員工認(rèn)為這種合作影響了聲譽(yù)和公司文化，也關(guān)乎機(jī)器學(xué)習(xí)發(fā)展和使用的道德問題。今年4月份，谷歌內(nèi)部有3000多名員工寫了公開信給谷歌高層，要求停止與美國軍方合作。到了5月份，谷歌有十幾名員工正式因?yàn)檫@一項(xiàng)目向谷歌請辭。
另一方面，外部也給予了谷歌巨大的輿論壓力，學(xué)術(shù)界有364名人工智能專業(yè)人士也聯(lián)名上書，反對谷歌。
對于內(nèi)部遭遇的辭職潮和外部輿論壓力，谷歌一度曾選擇“冷處理”。去年9月份，谷歌內(nèi)部在討論如何向公眾解釋這個事情時，谷歌云首席科學(xué)家、副總裁李飛飛曾在郵件中強(qiáng)烈建議雙方在合同中回避“AI”(人工智能)這個字眼。
“無論付出什么代價，都必須要避免提及或者使用到AI這兩個字。武器化人工智能可能是AI領(lǐng)域里最敏感的話題，沒有之一。對于媒體而言這簡直就是紅肉(red meat)，他們會找到一切方式毀掉谷歌?！边@位來自斯坦福大學(xué)人工智能實(shí)驗(yàn)室的學(xué)者在郵件中說。
“我不知道如果媒體開始討論谷歌正在秘密建造AI武器或AI技術(shù)，并為國防工業(yè)服務(wù)會發(fā)生什么。”李飛飛說，因此她希望在對外公布合同時，能將項(xiàng)目描繪為是谷歌云平臺的重大勝利。李飛飛一直堅(jiān)持相信的是以人為中心的人工智能，可以用積極和慈善的方式讓人類受益。她還表示，任何將人工智能武器化的項(xiàng)目研究，都將違背她的原則。
不過，最終谷歌選擇不將Maven項(xiàng)目公之于眾。只有反對的員工通過谷歌內(nèi)部溝通平臺開始抗議時，谷歌作為Maven項(xiàng)目分包商的事才引起了公眾的關(guān)注。
到了今年4月份，反對聲音愈演愈烈。谷歌才在內(nèi)部召開了一次大會，向員工介紹了谷歌在做的事情。谷歌現(xiàn)任CEO桑達(dá)爾·皮查伊(Sundar Pichai)也在這次的會議上表示，谷歌將制定一套原則，來指導(dǎo)其人工智能業(yè)務(wù)在防務(wù)和情報(bào)合同中，如何越過道德雷區(qū)。谷歌也向外界表示，新的原則將會避免讓人工智能朝武器化發(fā)展。
在更早一次谷歌每周的全公司TGIF(Thanks God, it's Friday)會議上，格林也在極力打消員工的疑慮。她在這次會上稱，Maven項(xiàng)目不是為了攻擊目的，雙方的合同價值相當(dāng)小，僅900萬美元。并且，谷歌高層認(rèn)為，這一項(xiàng)目有利于拓展谷歌云和政府、軍方的合作。
但據(jù)5月29日報(bào)道，Maven項(xiàng)目到2021年，將開始擴(kuò)展到新領(lǐng)域，包括利用開發(fā)工具以更高效地驅(qū)動硬盤。另外，今年Maven項(xiàng)目獲得的資金也有望擴(kuò)大到1.31億美元。美國五角大樓還計(jì)劃與硅谷建立聯(lián)合人工智能中心，可能會效仿Maven項(xiàng)目，以支持美國軍方，并為情報(bào)機(jī)構(gòu)提供服務(wù)。這讓Maven項(xiàng)目引發(fā)的爭議可能在未來幾個月還會加劇。
這樣的情況，也讓谷歌做出了妥協(xié)，盡管不想失去軍方的合同，但在輿論壓力下，谷歌選擇了“不作惡”。