「失控」的5天
今年11月17日,總部位於美國舊金山的人工智能研究公司OpenAI突然宣布,阿爾特曼將不再擔任公司首席執(zhí)行官(CEO)並離開董事會,理由是他在與董事會溝通的過程中「不總是坦誠的」,董事會不再相信他有能力繼續(xù)領導OpenAI。另外,公司聯(lián)合創(chuàng)始人兼總裁格雷格·布羅克曼將不再擔任董事會主席。布羅克曼隨即宣布將離開公司。
現(xiàn)年38歲的阿爾特曼2015年參與創(chuàng)立OpenAI,該公司於2022年11月發(fā)布一款大語言模型ChatGPT,5天內注用戶就超過100萬,阿爾特曼也被一些媒體稱為「ChatGPT之父」。
OpenAI毫無徵兆的高層震盪以及董事會的嚴厲措辭震驚了全球科技界。就在11月上旬,OpenAI舉行了首屆開發(fā)者大會,阿爾特曼向全球觀眾介紹了公司多款新產品。事發(fā)前的APEC會議上,他還與一些知名科技公司高管就人工智能的廣闊前景侃侃而談。
此後幾天,這場高層震盪的一系列「反轉」更令人始料未及。OpenAI宣布阿爾特曼離職後,公司投資者便嘗試助其重返崗位。11月19日,阿爾特曼以訪客身份來到OpenAI總部,與董事會就回歸事宜談判。他開出的條件之一是重組董事會,談判最終不歡而散。
當日深夜,微軟CEO薩蒂亞·納德拉在社交平臺上宣布,阿爾特曼、布羅克曼及其前同事們將加入微軟,領導一個新的高級人工智能研究團隊。微軟是OpenAI的最大投資方,投資金額達130億美元。公司770名員工幾乎全員在一封信上簽名,稱如果阿爾特曼不能回到OpenAI,他們將辭職並加入微軟的新團隊。
11月21日深夜,OpenAI宣布,阿爾特曼將再度擔任公司CEO,公司董事會也將被重組。緊接著,布羅克曼宣布了自己將回歸的消息,OpenAI「失控」的5天隨之畫上休止符。
保守與激進之爭
如今,OpenAI高層震盪已過去一個月,事件原因依舊眾說紛紜。本質上,這很可能是一場有關人工智能發(fā)展理念的保守與激進之爭,暴露該領域理想主義與商業(yè)路線的分歧。
初創(chuàng)階段的OpenAI是一家非營利機構,宗旨是開發(fā)「安全且有益」的通用人工智能,從而造福全人類,這與「有效利他主義」觀點不謀而合。有效利他主義者認為,肆無忌憚地發(fā)展人工智能可能會毀滅人類,人工智能的發(fā)展應更注重安全而非速度。
2015年,OpenAI在一份聲明中表示,重要的是要有一個領先的研究機構,它優(yōu)先考慮利他的結果,而不是一己的私利。這種理念也為OpenAI的崛起奠定了基礎,多年不計成本的投入以及對長遠利益的重視使得ChatGPT在同類產品中脫穎而出。
不過,在人工智能領域還有一種被稱為「有效加速主義」的對立觀點,即主張無條件地加速技術創(chuàng)新,並將其快速推向市場來顛覆社會結構。有觀點認為,雖然阿爾特曼也強調人工智能安全與監(jiān)管的重要性,但其立場明顯更偏向於「有效加速主義」。
OpenAI公司的產品已暴露出令人不安的一面。不斷有人結合親身經歷表示,ChatGPT能給用戶提供一些違背道德或違反法律的主意。
路透社援引兩名匿名知情人士的話說,OpenAI多名員工曾在公司人事震盪前致信董事會,稱名為「Q*」的人工智能算法項目在通用人工智能研究方面取得的突破可能對人類構成威脅。
在公司快速發(fā)展的過程中,阿爾特曼對人工智能商業(yè)化的推崇越來越明顯,其與蘇茨克維等董事會成員的分歧隨之加深。英國《衛(wèi)報》報道稱,阿爾特曼遭解職後,有OpenAI員工問蘇茨克維這是不是一場「政變」。蘇茨克維否認道,董事會是在履行非營利機構的職責。
人類更需「對齊」
11月29日,阿爾特曼說,「經歷了這一切」之後,公司「沒有失去任何一名員工」。但是,在看似什麼都沒變的人事震盪之後,人工智能的安全問題再度引發(fā)廣泛關注,部分國家、機構和組織正加強對人工智能的監(jiān)管。
美國總統(tǒng)拜登10月30日簽署一項行政命令,為人工智能安全制定了新標準。美國媒體稱,這是拜登政府對人工智能技術採取的第一項具有約束力的重大行動。歐洲議會、歐盟成員國和歐盟委員會三方12月8日就《人工智能法案》達成協(xié)議,該法案將成為全球首部人工智能領域的全面監(jiān)管法規(guī)。
12月,OpenAI就人工智能的安全問題多次在社交平臺上發(fā)帖,並提到「超級對齊」團隊發(fā)表了首篇論文。所謂「超級對齊」,即建立一套控制技術,確保人工智能系統(tǒng)的目標與人類價值觀及利益相一致。
「超級對齊」團隊於今年7月成立,負責人之一是蘇茨克維。但截至目前,OpenAI仍未公布其職位。親身「經歷了這一切」的人們或許已經明白,更需「對齊」的是人類自己,這比讓人工智能「對齊」要難得多。(中新社記者 劉關關)