微軟支持的OpenAI首席執行官山姆·阿爾特曼(Sam Altman)呼吁美國監管高級大型語言模型的部署,警告沒有堅實的政策框架的生成式人工智能的危險。
在與美國參議院討論生成式AI治理的聽證會上,阿爾特曼認為,隨著對社會威脅的擔憂日益加劇,監管對于減輕日益強大的模型帶來的風險至關重要。
在他的證詞中討論的威脅,集中在與OpenAI如何訓練其模型相關的錯誤信息的傳播和違反數據隱私法。
參議員理查德·布盧門撒爾(Richard Blumenthal)在聽證會上表示,未經充分訓練的人工智能的前景“非常可怕”,并認為新技術必須“擔負責任”。
他指出,OpenAI的ChatGPT具有模仿和模擬真實人類互動的能力,他以一段由經過語音訓練的模型生成的語音開始了他的證詞。
阿爾特曼建議稱,成立一個政府機構來監管人工智能的訓練和部署將有助于開發,并解釋了對于開發者“許可和測試要求相結合”的必要性。
他還提議吊銷開發超出某些“閾值”或“能力”的人工智能工具的開發者的許可,例如能自我復制或產生有害內容的模型。
阿爾特曼主張圍繞機器學習工具如何從互聯網手機數據以生成響應來制定管理規則。
“用戶應該能選擇不讓我們這樣的公司或其他社交媒體公司使用他們的數據。”他補充道。