生命未來研究所是一個研究與推廣機構(gòu)，致力于降低人類面臨的風(fēng)險，尤其是人工智能技術(shù)開發(fā)過程中的可能出現(xiàn)的風(fēng)險。

該研究所此前已經(jīng)發(fā)布了一些文件，號召聯(lián)合國對致命自主武器(lethal autonomous weapons，LAWS)設(shè)立新規(guī)。

此次協(xié)議的簽署，也是相關(guān)人員首次承諾不會參與開發(fā)此類技術(shù)。

除了SpaceX和特斯拉CEO埃隆·馬斯克，簽署協(xié)議的知名科技界人士還包括，創(chuàng)造了阿爾法狗的谷歌系人工智能公司Deepmind的三位聯(lián)合創(chuàng)始人Shane Legg，Mustafa Suleyman和Demis Hassabis;通訊軟件Skype創(chuàng)始人Jaan Tallinn，以及其他世界最權(quán)威和前沿的人工智能研究者。

據(jù)科技網(wǎng)站Engadget報道，少數(shù)公司的技術(shù)，以及如何向政府機構(gòu)和執(zhí)法團(tuán)體提供這些技術(shù)，面臨強烈爭議，于是這項協(xié)議應(yīng)運而生。

谷歌就曾向美國軍方提供人工智能科技，幫助他們在無人機影像中標(biāo)記需要額外人工檢查的內(nèi)容。

類似地，亞馬遜由于向執(zhí)法機關(guān)分享其面部識別技術(shù)而招致批評，微軟也因向美國移民和海關(guān)執(zhí)法局(Immigration and Customs Enforcement，ICE)提供相關(guān)服務(wù)而遭到抗議。

在遭受猛烈抨擊之后，谷歌推出了新準(zhǔn)則，作為公司研發(fā)人工智能技術(shù)的道德指導(dǎo)。

準(zhǔn)則中稱，不會將人工智能設(shè)計或應(yīng)用于武器、監(jiān)視或“其目的違反了廣為接受的國際法和人權(quán)準(zhǔn)則”的技術(shù)。

微軟也發(fā)布聲明稱，其與美國移民和海關(guān)執(zhí)法局的合作僅限于電子郵件、日歷、消息和文檔管理，不包括任何面部識別技術(shù)。

微軟也在號召美國國會對面部識別技術(shù)進(jìn)行監(jiān)管。

2015年，馬斯克為生命未來研究所的一個研究項目捐助了1000萬美元，該項目專注于確保人工智能會有益于人類。

2017年，馬斯克，Deepmind的Hassabis和Suleyman也在生命未來研究所遞交給聯(lián)合國的信件上簽名，尋求對自主武器系統(tǒng)的立法。