近日，瑞典皇家科學(xué)院宣布，將2024年諾貝爾物理學(xué)獎(jiǎng)授予美國(guó)普林斯頓大學(xué)的約翰·霍普菲爾德和加拿大多倫多大學(xué)的杰弗里·辛頓，以表彰他們“為推動(dòng)利用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)做出的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”。
諾貝爾獎(jiǎng)評(píng)獎(jiǎng)委員會(huì)表示：“今年物理學(xué)獎(jiǎng)得主取得的突破建立在物理科學(xué)的基礎(chǔ)上。他們?yōu)槲覀冋故玖艘环N全新的方式，讓我們能夠利用計(jì)算機(jī)來(lái)幫助和指導(dǎo)我們，應(yīng)對(duì)社會(huì)面臨的許多挑戰(zhàn)?！?br/>
的確，兩位科學(xué)家的研究領(lǐng)域和成果，看上去有些“不物理”。比如，辛頓被視為由ChatGPT掀起的本輪AI技術(shù)躍進(jìn)背后的奠基性科學(xué)家，被譽(yù)為“AI教父”。而關(guān)注“AI教父”獲諾貝爾物理學(xué)獎(jiǎng)之時(shí)，辛頓的“AI威脅論”或許更值得關(guān)注。
辛頓曾在谷歌工作十年，2023年5月，他從谷歌離職后，便持續(xù)公開(kāi)呼吁謹(jǐn)慎對(duì)待AI技術(shù)，成為旨在引導(dǎo)AI系統(tǒng)、使其行為符合設(shè)計(jì)者利益和預(yù)期目標(biāo)的“AI對(duì)齊派”的代表。他在社交平臺(tái)上發(fā)文表示，自己離開(kāi)谷歌是為了可以“公開(kāi)地談?wù)揂I的危險(xiǎn)”。辛頓曾直言，“我用平常的借口來(lái)安慰自己：就算我沒(méi)做，別人也會(huì)做的……很難想象，你能如何阻止壞人利用它（AI）來(lái)做壞事?！?/p>
這樣的言論并非危言聳聽(tīng)，現(xiàn)已發(fā)生多起AI造假和騙局事件，而且AI風(fēng)險(xiǎn)涉及社會(huì)和個(gè)人生活的方方面面。正如有專家所言，“當(dāng)新聞、圖像、音頻、視頻——任何事情都可以偽造時(shí)，那么在那個(gè)世界里，就沒(méi)有什么是真實(shí)的”。
對(duì)于AI的危險(xiǎn)和人們使用AI的安全性，國(guó)際社會(huì)已有共識(shí)。2021年，聯(lián)合國(guó)教科文組織通過(guò)首份人工智能倫理問(wèn)題全球性協(xié)議——《人工智能倫理問(wèn)題建議書》。其中提出，發(fā)展和應(yīng)用人工智能要體現(xiàn)出四大價(jià)值，即尊重、保護(hù)和提升人權(quán)及人類尊嚴(yán)，促進(jìn)環(huán)境與生態(tài)系統(tǒng)的發(fā)展，保證多樣性和包容性，構(gòu)建和平、公正與相互依存的人類社會(huì)。該建議書還包含了規(guī)范人工智能發(fā)展應(yīng)遵循的原則，以及在原則指導(dǎo)下人工智能應(yīng)用的領(lǐng)域等。
研發(fā)和應(yīng)用AI，要遵循適宜性（相稱性）、安全、公平、透明、保護(hù)隱私和公正等原則。比如，從適宜性，也即相稱性和合理性來(lái)看，任何一項(xiàng)AI產(chǎn)品的研究和使用，都應(yīng)證明選擇使用人工智能系統(tǒng)和選用哪種人工智能方法具有合理性。正如當(dāng)下生物醫(yī)學(xué)研究和醫(yī)院治療病人，在涉及生命和安全時(shí)要經(jīng)過(guò)倫理委員會(huì)的討論和批準(zhǔn)，AI產(chǎn)品的發(fā)展也需經(jīng)歷必要的程序和步驟，避免造成社會(huì)恐慌、傷害、損失甚至災(zāi)難。
未來(lái)，任何研究AI并推出AI產(chǎn)品的機(jī)構(gòu)和個(gè)人，都應(yīng)當(dāng)以《人工智能倫理問(wèn)題建議書》進(jìn)行評(píng)估，而且在推向社會(huì)后，各國(guó)也需要有相應(yīng)AI倫理指南的法律進(jìn)行監(jiān)管。如此，才能讓AI最大程度地造福社會(huì)，最低程度地傷害社會(huì)。
