“我們看到了科學(xué)將引領(lǐng)我們走向何方，所以也理解人們對(duì)現(xiàn)在即將發(fā)生的事感到恐懼和焦慮。”
近日，OpenAI首席技術(shù)官米拉·穆拉蒂（Mira Murati）在一次訪談中再次談起AI（人工智能）安全，并對(duì)“超級(jí)對(duì)齊”安全團(tuán)隊(duì)解散、ChatGPT斯嘉麗語(yǔ)音風(fēng)波、公司面臨監(jiān)管審查等問(wèn)題作出回應(yīng)。
穆拉蒂表示，過(guò)去幾年取得了難以置信的技術(shù)進(jìn)步，超出了所有人的預(yù)料。隨著繼續(xù)這一進(jìn)步，人們對(duì)現(xiàn)在即將發(fā)生的事感到恐懼和焦慮也可以理解。她認(rèn)為OpenAI有著非常出色的安全團(tuán)隊(duì)，安全地部署了能力最強(qiáng)的模型，“考慮到技術(shù)以及OpenAI的進(jìn)步速度，在安全性、模型的訓(xùn)練和部署風(fēng)險(xiǎn)等方面加倍努力是非常重要的”。
OpenAI首席技術(shù)官米拉·穆拉蒂
一個(gè)多月前，OpenAI聯(lián)合創(chuàng)始人、首席科學(xué)家伊爾亞·蘇茨克韋（Ilya Sutskever）、超級(jí)對(duì)齊團(tuán)隊(duì)負(fù)責(zé)人楊·萊克（Jan Leike）在內(nèi)的多位核心成員相繼離開，作為核心安全團(tuán)隊(duì)的超級(jí)對(duì)齊也隨之解散。消息人士透露，注重AI系統(tǒng)安全的員工已經(jīng)對(duì)奧特曼的領(lǐng)導(dǎo)失去信心。萊克在宣布離職后還在X（推特）發(fā)帖怒斥OpenAI及領(lǐng)導(dǎo)層“重視光鮮的產(chǎn)品，安全文化和流程不再受到重視”。
對(duì)此，穆拉蒂在9日回應(yīng)稱：“超級(jí)對(duì)齊是OpenAI非常重要的安全團(tuán)隊(duì)，但只是團(tuán)隊(duì)之一，公司有很多人負(fù)責(zé)安全工作。”她表示并不認(rèn)同“公司把產(chǎn)品放在安全之前”這一觀點(diǎn)，并稱這一論調(diào)有點(diǎn)過(guò)于憤世嫉俗。
她表示，很多人認(rèn)為安全和能力是分開的，一定要一方優(yōu)于另一方，而“安全應(yīng)該從項(xiàng)目開始就與能力一同考慮，而不是事后追加”。在航天、汽車這些有著成熟安全思維和系統(tǒng)的行業(yè)，人們不一定會(huì)一直圍著桌子爭(zhēng)論什么是安全，但他們也一直在做這件事情。她認(rèn)為整個(gè)行業(yè)也應(yīng)該向成熟的安全紀(jì)律方向發(fā)展，不僅僅是操作紀(jì)律，也包含產(chǎn)品和部署安全，考慮偏見(jiàn)、虛假信息等因素。同時(shí)，她表示，OpenAI也一直在考慮模型的長(zhǎng)期對(duì)齊，不僅僅是當(dāng)下。
穆拉蒂也對(duì)ChatGPT的Sky語(yǔ)音與好萊塢知名影星“寡姐”斯嘉麗·約翰遜高度相似的問(wèn)題進(jìn)行了回應(yīng)。她表示，當(dāng)時(shí)與OpenAI CEO山姆·奧特曼（Sam Altman）分別去找了Sky的配音者和斯嘉麗，但兩人并未協(xié)調(diào)一致，才不幸導(dǎo)致了后續(xù)的局面發(fā)生。
彼時(shí)，斯嘉麗發(fā)布了聲明并向OpenAI發(fā)送律師函，要求說(shuō)明Sky確切的創(chuàng)造過(guò)程。約翰遜在聲明中表示，去年9月，奧特曼找到她，詢問(wèn)她是否愿意為ChatGPT配音，去安慰用戶，彌合AI與人類之間巨大的差異所帶來(lái)的不適感。斯嘉麗稱當(dāng)時(shí)拒絕了這一提議，而在ChatGPT-4演示版發(fā)布前兩天，奧特曼再次聯(lián)系了斯嘉麗的經(jīng)紀(jì)人，要求重新考慮。斯嘉麗強(qiáng)調(diào)，“在我們接觸之前，系統(tǒng)聲音就已經(jīng)存在了”。隨后OpenAI宣布暫停使用Sky語(yǔ)音，表示對(duì)斯嘉麗·約翰遜的尊重。
至于此次事件是否會(huì)影響科技或是科技公司的形象，穆拉蒂表示，能做的就是把事情做好，讓人們看到發(fā)生了什么，通過(guò)這種方式建立信任，除此之外并沒(méi)有什么神奇的辦法。
對(duì)科技擔(dān)憂的，不僅僅是普通使用者，全球越來(lái)越多的監(jiān)管機(jī)構(gòu)也開始密切關(guān)注。
6月初，據(jù)外媒報(bào)道，美國(guó)聯(lián)邦政府的兩家監(jiān)管機(jī)構(gòu)已達(dá)成協(xié)議，聯(lián)邦貿(mào)易委員會(huì)（FTC）將帶頭審查OpenAI，并針對(duì)微軟向OpenAI進(jìn)行投資、以及與其他AI公司達(dá)成協(xié)議的行為進(jìn)行調(diào)查。6月末，又有報(bào)道稱，歐盟正在加大對(duì)AI行業(yè)的審查力度，包括重新調(diào)查微軟與OpenAI的合作以及投資關(guān)系。
對(duì)此，穆拉蒂表示：“有審查很好，我們正在建設(shè)一些難以置信的非常強(qiáng)大的東西，我們非常努力讓它們變得更好，但也存在風(fēng)險(xiǎn)，人們應(yīng)該更深入地參與并了解這項(xiàng)技術(shù)是什么，并理解對(duì)于各個(gè)領(lǐng)域意味著什么，如何更有效更安全地去部署……微軟一直是與我們非常一致的重要合作伙伴，我們緊密合作去打造最強(qiáng)超級(jí)計(jì)算機(jī)，這也是AI模型的核心所在。”
不過(guò)，就在當(dāng)?shù)貢r(shí)間7月10日，據(jù)外媒報(bào)道，微軟已經(jīng)放棄在OpenAI董事會(huì)的觀察員席位，而此前傳言稱有望獲得相同席位的蘋果也不會(huì)加入OpenAI董事會(huì)。OpenAI的一位發(fā)言人表示，在微軟退出后，公司將不再有董事會(huì)觀察員。微軟、蘋果接連放棄觀察員席位，外界認(rèn)為，或是出于對(duì)可能會(huì)被反壟斷監(jiān)管機(jī)構(gòu)盯上的擔(dān)憂。