4月28日，北京大學(xué)計(jì)算機(jī)學(xué)院教授、北京智源人工智能研究院理事長(zhǎng)黃鐵軍在第十七屆中國(guó)電子信息年會(huì)上發(fā)表演講時(shí)表示，“幻覺(jué)”是人工智能創(chuàng)造性的體現(xiàn)，人類(lèi)要想創(chuàng)造比自身更強(qiáng)的智能體，就不要降低AI幻覺(jué)率，否則人工智能將與巨大的資源檢索庫(kù)無(wú)異。

　　所謂AI幻覺(jué)，指的是生成式人工智能模型產(chǎn)生的并非真實(shí)存在、不準(zhǔn)確的信息。為降低AI幻覺(jué)產(chǎn)生概率、提升大模型準(zhǔn)確率，當(dāng)前產(chǎn)研界已推出存在多種不同的解決方案。

　　但在黃鐵軍看來(lái)，要認(rèn)可大模型理解世界的能力，不能簡(jiǎn)單地將AI幻覺(jué)“一棒子打死”，正是因?yàn)榛糜X(jué)的產(chǎn)生才帶來(lái)了創(chuàng)新的可能性。與人類(lèi)通過(guò)五感了解世界的方式不同，人工智能了解世界的方式是通過(guò)自然語(yǔ)言的語(yǔ)義關(guān)系，例如通過(guò)理解人類(lèi)語(yǔ)言中詞與詞之間關(guān)系的遠(yuǎn)近來(lái)理解人類(lèi)語(yǔ)言。當(dāng)神經(jīng)網(wǎng)絡(luò)達(dá)到一定的規(guī)模，人工智能對(duì)不同概念的關(guān)系理解越來(lái)越豐富，便具備了生成內(nèi)容的能力。

　　而AI生成的內(nèi)容中不符合事實(shí)的情況，黃鐵軍認(rèn)為不應(yīng)該將其視為“幻覺(jué)”，他認(rèn)為這是生成式人工智能的想象力。如果通過(guò)控制的方式使人工智能不具備想象的能力，那么所謂生成式人工智能就與人類(lèi)巨大的資源檢索庫(kù)無(wú)異，也就不具備創(chuàng)造性了。

　　之所以要保留人工智能的創(chuàng)造性，是因?yàn)槿祟?lèi)需要比自己更具創(chuàng)造力的智能體。他認(rèn)為，人類(lèi)的能力是有上限的，人類(lèi)的智力存在天花板，但人類(lèi)要想在廣闊的宇宙自然界生存，還有大量難以?xún)H僅通過(guò)自身能力解釋和理解的問(wèn)題，也需要人類(lèi)所不能企及的想象力。

　　根據(jù)人工智能的智能能力，黃鐵軍將人工智能分成四種類(lèi)型：專(zhuān)用人工智能、通用人工智能、自主人工智能和超人智能。其中專(zhuān)用人工智能被稱(chēng)為“弱人工智能”，指完成特定智能任務(wù)或解決特定問(wèn)題的人工智能，迄今出現(xiàn)的人工智能都是弱人工智能；通用人工智能是指人工智能所有方面都達(dá)到人類(lèi)水平，能夠自適應(yīng)地應(yīng)對(duì)外界環(huán)境挑戰(zhàn)、自主完成所有任務(wù)的人工智能，即人類(lèi)水平的人工智能；自主人工智能是指能夠自適應(yīng)地應(yīng)對(duì)外界環(huán)境挑戰(zhàn)的人工智能，也被稱(chēng)為動(dòng)物水平的自主人工智能；超人智能是指人工智能的各個(gè)方面都超越人類(lèi)。

　　黃鐵軍說(shuō)，《北京AI安全國(guó)際共識(shí)》在今年3月簽署，規(guī)定了人工智能的發(fā)展需要?jiǎng)澮粭l不可僭越的紅線，包含五個(gè)方面：第一是任何人工智能系統(tǒng)都不應(yīng)在人類(lèi)沒(méi)有明確批準(zhǔn)和協(xié)助的情況下復(fù)制或改進(jìn)自身；第二是任何人工智能系統(tǒng)都不能采取不當(dāng)?shù)卦黾幼陨頇?quán)力和影響力的行動(dòng)；第三是所有人工智能系統(tǒng)都不應(yīng)提升其使用者的能力使其能夠設(shè)計(jì)大規(guī)模殺傷性武器，不得違反生物或化學(xué)武器公約；第四是任何人工智能系統(tǒng)都不能自主執(zhí)行造成嚴(yán)重財(cái)產(chǎn)損失或同等傷害的網(wǎng)絡(luò)攻擊；第五是任何人工智能系統(tǒng)都不能有持續(xù)引導(dǎo)其設(shè)計(jì)者或監(jiān)管者誤解其僭越任何前述紅線的可能性或能力。

　　而在人工智能不能僭越的紅線之外，黃鐵軍認(rèn)為應(yīng)該盡可能提升其智能能力。