微軟支持的OpenAI首席執(zhí)行官山姆·阿爾特曼(Sam Altman)呼吁美國(guó)監(jiān)管高級(jí)大型語言模型的部署，警告沒有堅(jiān)實(shí)的政策框架的生成式人工智能的危險(xiǎn)。
在與美國(guó)參議院討論生成式AI治理的聽證會(huì)上，阿爾特曼認(rèn)為，隨著對(duì)社會(huì)威脅的擔(dān)憂日益加劇，監(jiān)管對(duì)于減輕日益強(qiáng)大的模型帶來的風(fēng)險(xiǎn)至關(guān)重要。
在他的證詞中討論的威脅，集中在與OpenAI如何訓(xùn)練其模型相關(guān)的錯(cuò)誤信息的傳播和違反數(shù)據(jù)隱私法。
參議員理查德·布盧門撒爾(Richard Blumenthal)在聽證會(huì)上表示，未經(jīng)充分訓(xùn)練的人工智能的前景“非?？膳隆?，并認(rèn)為新技術(shù)必須“擔(dān)負(fù)責(zé)任”。
他指出，OpenAI的ChatGPT具有模仿和模擬真實(shí)人類互動(dòng)的能力，他以一段由經(jīng)過語音訓(xùn)練的模型生成的語音開始了他的證詞。
阿爾特曼建議稱，成立一個(gè)政府機(jī)構(gòu)來監(jiān)管人工智能的訓(xùn)練和部署將有助于開發(fā)，并解釋了對(duì)于開發(fā)者“許可和測(cè)試要求相結(jié)合”的必要性。
他還提議吊銷開發(fā)超出某些“閾值”或“能力”的人工智能工具的開發(fā)者的許可，例如能自我復(fù)制或產(chǎn)生有害內(nèi)容的模型。
阿爾特曼主張圍繞機(jī)器學(xué)習(xí)工具如何從互聯(lián)網(wǎng)手機(jī)數(shù)據(jù)以生成響應(yīng)來制定管理規(guī)則。
“用戶應(yīng)該能選擇不讓我們這樣的公司或其他社交媒體公司使用他們的數(shù)據(jù)?！彼a(bǔ)充道。
