“我們看到了科學(xué)將引領(lǐng)我們走向何方，所以也理解人們對現(xiàn)在即將發(fā)生的事感到恐懼和焦慮。”
近日，OpenAI首席技術(shù)官米拉·穆拉蒂（Mira Murati）在一次訪談中再次談起AI（人工智能）安全，并對“超級對齊”安全團隊解散、ChatGPT斯嘉麗語音風(fēng)波、公司面臨監(jiān)管審查等問題作出回應(yīng)。
穆拉蒂表示，過去幾年取得了難以置信的技術(shù)進步，超出了所有人的預(yù)料。隨著繼續(xù)這一進步，人們對現(xiàn)在即將發(fā)生的事感到恐懼和焦慮也可以理解。她認為OpenAI有著非常出色的安全團隊，安全地部署了能力最強的模型，“考慮到技術(shù)以及OpenAI的進步速度，在安全性、模型的訓(xùn)練和部署風(fēng)險等方面加倍努力是非常重要的”。
OpenAI首席技術(shù)官米拉·穆拉蒂
一個多月前，OpenAI聯(lián)合創(chuàng)始人、首席科學(xué)家伊爾亞·蘇茨克韋（Ilya Sutskever）、超級對齊團隊負責(zé)人楊·萊克（Jan Leike）在內(nèi)的多位核心成員相繼離開，作為核心安全團隊的超級對齊也隨之解散。消息人士透露，注重AI系統(tǒng)安全的員工已經(jīng)對奧特曼的領(lǐng)導(dǎo)失去信心。萊克在宣布離職后還在X（推特）發(fā)帖怒斥OpenAI及領(lǐng)導(dǎo)層“重視光鮮的產(chǎn)品，安全文化和流程不再受到重視”。
對此，穆拉蒂在9日回應(yīng)稱：“超級對齊是OpenAI非常重要的安全團隊，但只是團隊之一，公司有很多人負責(zé)安全工作。”她表示并不認同“公司把產(chǎn)品放在安全之前”這一觀點，并稱這一論調(diào)有點過于憤世嫉俗。
她表示，很多人認為安全和能力是分開的，一定要一方優(yōu)于另一方，而“安全應(yīng)該從項目開始就與能力一同考慮，而不是事后追加”。在航天、汽車這些有著成熟安全思維和系統(tǒng)的行業(yè)，人們不一定會一直圍著桌子爭論什么是安全，但他們也一直在做這件事情。她認為整個行業(yè)也應(yīng)該向成熟的安全紀(jì)律方向發(fā)展，不僅僅是操作紀(jì)律，也包含產(chǎn)品和部署安全，考慮偏見、虛假信息等因素。同時，她表示，OpenAI也一直在考慮模型的長期對齊，不僅僅是當(dāng)下。
穆拉蒂也對ChatGPT的Sky語音與好萊塢知名影星“寡姐”斯嘉麗·約翰遜高度相似的問題進行了回應(yīng)。她表示，當(dāng)時與OpenAI CEO山姆·奧特曼（Sam Altman）分別去找了Sky的配音者和斯嘉麗，但兩人并未協(xié)調(diào)一致，才不幸導(dǎo)致了后續(xù)的局面發(fā)生。
彼時，斯嘉麗發(fā)布了聲明并向OpenAI發(fā)送律師函，要求說明Sky確切的創(chuàng)造過程。約翰遜在聲明中表示，去年9月，奧特曼找到她，詢問她是否愿意為ChatGPT配音，去安慰用戶，彌合AI與人類之間巨大的差異所帶來的不適感。斯嘉麗稱當(dāng)時拒絕了這一提議，而在ChatGPT-4演示版發(fā)布前兩天，奧特曼再次聯(lián)系了斯嘉麗的經(jīng)紀(jì)人，要求重新考慮。斯嘉麗強調(diào)，“在我們接觸之前，系統(tǒng)聲音就已經(jīng)存在了”。隨后OpenAI宣布暫停使用Sky語音，表示對斯嘉麗·約翰遜的尊重。
至于此次事件是否會影響科技或是科技公司的形象，穆拉蒂表示，能做的就是把事情做好，讓人們看到發(fā)生了什么，通過這種方式建立信任，除此之外并沒有什么神奇的辦法。
對科技擔(dān)憂的，不僅僅是普通使用者，全球越來越多的監(jiān)管機構(gòu)也開始密切關(guān)注。
6月初，據(jù)外媒報道，美國聯(lián)邦政府的兩家監(jiān)管機構(gòu)已達成協(xié)議，聯(lián)邦貿(mào)易委員會（FTC）將帶頭審查OpenAI，并針對微軟向OpenAI進行投資、以及與其他AI公司達成協(xié)議的行為進行調(diào)查。6月末，又有報道稱，歐盟正在加大對AI行業(yè)的審查力度，包括重新調(diào)查微軟與OpenAI的合作以及投資關(guān)系。
對此，穆拉蒂表示：“有審查很好，我們正在建設(shè)一些難以置信的非常強大的東西，我們非常努力讓它們變得更好，但也存在風(fēng)險，人們應(yīng)該更深入地參與并了解這項技術(shù)是什么，并理解對于各個領(lǐng)域意味著什么，如何更有效更安全地去部署……微軟一直是與我們非常一致的重要合作伙伴，我們緊密合作去打造最強超級計算機，這也是AI模型的核心所在。”
不過，就在當(dāng)?shù)貢r間7月10日，據(jù)外媒報道，微軟已經(jīng)放棄在OpenAI董事會的觀察員席位，而此前傳言稱有望獲得相同席位的蘋果也不會加入OpenAI董事會。OpenAI的一位發(fā)言人表示，在微軟退出后，公司將不再有董事會觀察員。微軟、蘋果接連放棄觀察員席位，外界認為，或是出于對可能會被反壟斷監(jiān)管機構(gòu)盯上的擔(dān)憂。