任何人都可以申請OpenAI的資助計劃,提出可靠的代碼程序來決定人工智能系統(tǒng)應(yīng)該遵循哪些規(guī)則,從而幫助AI系統(tǒng)解決偏見和其他問題。申請期將在6月24日晚9點結(jié)束,隨后,OpenAI將選出十名獲獎?wù)甙l(fā)放獎金。
申請人需要向OpenAI展示一個至少有500人參與的民主決策過程,并在10月20日之前發(fā)布公開報告,并開源相關(guān)的代碼。
該計劃正巧在OpenAI首席執(zhí)行官Sam Altman的國會聽證會后發(fā)布。在國會作證中,Altman曾懇切呼吁當(dāng)局成立一個監(jiān)管人工智能的專屬機構(gòu)。此外,Altman最近還表示,如果歐盟通過了過于嚴(yán)苛的AI法規(guī)的話,OpenAI將離開歐盟。
綜合考慮之下,這一計劃更像是OpenAI在推出自己掌握了主動權(quán)的監(jiān)管方案,并以此向政府提供基準(zhǔn)。
非商業(yè)利益的考量
Altman曾在聽證會上拋出一個觀點,人工智能的創(chuàng)新非常之快,因此不能指望當(dāng)局可以充分控制技術(shù)。
現(xiàn)如今,OpenAI打算將個人、團體和組織等一起囊括入人工智能“民主進程”的開發(fā)驗證之中,借用外部力量完成實驗,為未來的人工智能治理提供方向。
OpenAI表示,最初的實驗并不會對人工智能系統(tǒng)的決策產(chǎn)生約束力,但希望這些實驗可以探索與決策相關(guān)的問題,以便在未來更直接地為決策提供信息。
理想情況下,OpenAI希望這一計劃可以產(chǎn)生一個這樣的過程:一群具有廣泛代表性的人交換意見并經(jīng)過深思熟慮的討論,最后以透明的方式進行決策。
更落地一些,這一過程將幫助人工智能解決諸如,何時AI應(yīng)該譴責(zé)或批評公眾人物,或者有爭議的觀點如何輸出這樣的問題。
OpenAI在公告中稱,贈款的主要目的是促進流程創(chuàng)新,關(guān)于人工智能行為的決策應(yīng)該由反映公眾利益的不同觀點來決定。其還暗示該資助計劃完全不帶商業(yè)利益色彩,但結(jié)合歐盟的AI監(jiān)管法案,這一計劃的出臺仍有一些“自救”的意味。
不過,即使該項目是OpenAI商業(yè)計劃中的一環(huán),其人為人工智能決策發(fā)展提供了一個有趣的觀察窗口,人們可以了解關(guān)于AI治理的更多想法,同時從OpenAI選擇的獲獎人身上獲得一些OpenAI未來發(fā)展的線索。