22日從智譜AI獲悉,第二屆人工智能安全峰會在韓國首爾召開,會上,智譜AI、亞馬遜、谷歌、微軟、OpenAI、Meta、IBM、Anthropic、xAI等來自北美、亞洲、歐洲和中東地區(qū)的 15 家頂級人工智能公司一道就AI開發(fā)安全承諾達(dá)成一致,簽署前沿人工智能安全承諾(Frontier AI Safety Commitments)。
前沿人工智能安全承諾包括以下要點:確保前沿人工智能安全的負(fù)責(zé)任治理結(jié)構(gòu)和透明度;基于人工智能安全框架,負(fù)責(zé)任地說明將如何衡量前沿人工智能模型的風(fēng)險;建立前沿人工智能安全模型風(fēng)險緩解機(jī)制的明確流程。
智譜AI首席執(zhí)行官張鵬表示,伴隨著先進(jìn)技術(shù)而來的,是確保AI安全的重要責(zé)任。圖靈獎得主、世界人工智能領(lǐng)域頂級學(xué)者Yoshua Bengio 表示,前沿人工智能安全承諾的簽署在建立促進(jìn)人工智能安全的國際治理制度方面向前邁出了重要一步。
智譜AI相關(guān)負(fù)責(zé)人表示,未來將繼續(xù)通過創(chuàng)新推動人工智能技術(shù)發(fā)展,基于超級認(rèn)知與超級對齊技術(shù),提升前沿人工智能模型的魯棒性和可靠性,打造安全、可控、強(qiáng)大的人工智能系統(tǒng),推動構(gòu)建公平、公正、安全的人工智能發(fā)展環(huán)境。