美國開放人工智能研究中心(OpenAI)5月28日表示,該公司新成立一個安全委員會,並已開始訓(xùn)練新人工智能模型,以取代其ChatGPT聊天機(jī)械人目前所依賴的GPT-4系統(tǒng)。
OpenAI在當(dāng)天發(fā)布的一份聲明中說,該安全委員會將就其項(xiàng)目和運(yùn)營的「關(guān)鍵安全決策」向董事會提供建議。委員會成員包括OpenAI行政總裁薩姆·奧爾特曼和董事會主席布雷特·泰勒,以及其他幾位技術(shù)和決策專家。
據(jù)美媒報(bào)道,OpenAI成立安全委員會,正值該公司的人工智能安全問題引起爭議。有辭職員工批評OpenAI只顧推出酷炫產(chǎn)品,而使安全「退居次要地位」。OpenAI聯(lián)合創(chuàng)始人兼首席科學(xué)家伊利亞·蘇茨克韋爾也於近期辭職。該公司還解散了聚焦人工智能風(fēng)險(xiǎn)的「超級聯(lián)盟」團(tuán)隊(duì)。
OpenAI在聲明中表示,公司已開始訓(xùn)練下一代「前沿模型」,該模型有望將人工智能技術(shù)能力提升到一個新層級。