專(zhuān)訪丨朱禹濤：打造“安全可信”人工智能，須做好相應(yīng)規(guī)則制定

(資料圖)

6月25日至27日，世界互聯(lián)網(wǎng)大會(huì)數(shù)字文明尼山對(duì)話在山東濟(jì)寧曲阜舉行。會(huì)議期間，光明網(wǎng)記者專(zhuān)訪了金磚國(guó)家未來(lái)網(wǎng)絡(luò)研究院中國(guó)分院院長(zhǎng)朱禹濤。他表示，大家對(duì)人工智能無(wú)限期待，但也擔(dān)心技術(shù)無(wú)限度發(fā)展會(huì)對(duì)給人類(lèi)帶來(lái)危害。如今，包括金磚國(guó)家一直在探討人工智能發(fā)展帶來(lái)的安全問(wèn)題。

朱禹濤表示，對(duì)于未來(lái)打造人工智能核心安全問(wèn)題，有以下幾方面考慮：

首先，人工智能安全性的顧慮。未來(lái)，人工智能必須做到可信可靠，無(wú)論在任何時(shí)候、任何環(huán)境下都能提供穩(wěn)定的服務(wù)，出現(xiàn)問(wèn)題時(shí)自身程序也能自我修復(fù)。此外，在處理用戶隱私數(shù)據(jù)時(shí)，能做好相應(yīng)信息安全保護(hù)措施。

其次，人們對(duì)人工智能運(yùn)作方式不理解的顧慮。人們不知道它們的運(yùn)行邏輯與計(jì)算方式，以及理解人工智能如何利用所謂的“大模型”學(xué)習(xí)。所以，人工智能也應(yīng)該具有高度的透明性與可解釋性，才能讓大眾接受并充分利用。

最后，因?yàn)槿斯ぶ悄苁且惶壮绦蚧蛞慌_(tái)機(jī)器，究竟能不能像人類(lèi)一樣去理解人類(lèi)社會(huì)的價(jià)值觀和道德準(zhǔn)則，這是一個(gè)很大的問(wèn)題。如何就人工智能的可信性、安全性、可解釋性等方面制定好相應(yīng)的規(guī)則，讓它按照人類(lèi)社會(huì)準(zhǔn)則服務(wù)人類(lèi)社會(huì)，需要我們不斷推進(jìn)、長(zhǎng)期努力。

（采訪：李政葳 攝像：范子川 曾震宇 劉昊 制作：曾震宇 統(tǒng)籌：穆子葉 張哲）

標(biāo)簽：