英國政府宣布將于今年秋季(秋季)舉辦首屆全球人工智能安全會議。 在此次峰會上，主要國家、領(lǐng)先的科技公司和研究人員將齊聚一堂，討論安全措施，以評估和監(jiān)測人工智能帶來的最重大風(fēng)險(xiǎn)。
“人工智能具有不可思議的潛力，可以讓我們的生活變得更美好，”英國首相 Rishi Sunak 說。 “但我們需要確保以安全可靠的方式開發(fā)和使用它。”
“縱觀歷史，我們一次又一次地發(fā)明了顛覆范式的新技術(shù)，并利用它們造福人類。 這是我們必須再次做的事情。沒有一個(gè)國家可以單獨(dú)做到這一點(diǎn)。 這需要全球的努力。 但憑借我們豐富的專業(yè)知識和對開放、民主國際體系的承諾，英國將與我們的盟友站在一起，引領(lǐng)潮流。”
從日常生活到科幻小說，人工智能所帶來的潛在風(fēng)險(xiǎn)已經(jīng)被多方面關(guān)注。 目前人工智能最常見的危險(xiǎn)是它會產(chǎn)生稱為幻覺的虛假信息。
OpenAI 正在研究其 LLM 中的處理方法，驗(yàn)證每個(gè)階段的邏輯以減少"胡說八道"的發(fā)生率，但該模型尚未部署用于廣泛使用。 除了這個(gè)問題，人工智能還可以被惡意黑客用來生成可用于攻擊的惡意代碼。
雖然這不直接構(gòu)成人工智能安全問題，但圍繞人工智能搶走工作的情況是政客們必須應(yīng)對的另一件事。 例如，上周報(bào)道說，一些公司已經(jīng)開始用生成人工智能取代人類。
在本次峰會宣布之前，Rishi Sunak 的 AI 顧問 Matt Clifford 表示，如果不受監(jiān)管，AI 可能會在短短兩年內(nèi)變得非常強(qiáng)大，這顯然會讓人類難以控制。 雖然終結(jié)者 AI 場景現(xiàn)在感覺像是科幻小說，而且可能會持續(xù)兩年多，但政府最好在為時(shí)已晚之前調(diào)查潛在風(fēng)險(xiǎn)。
