確保生成式人工智能向善而行（新知）

——在新的起點(diǎn)上不斷推進(jìn)創(chuàng)新⑤

緊隨科技進(jìn)步和行業(yè)發(fā)展的步伐，全面提升治理水平，促進(jìn)生成式人工智能健康發(fā)展

【現(xiàn)象】從一個(gè)靈感起步，設(shè)置主題、類(lèi)型、人物、情節(jié)等各種參數(shù)，引導(dǎo)編劇填入自己的想法，大模型可以在極短時(shí)間內(nèi)生成類(lèi)型片劇本初稿。不久前，西部電影集團(tuán)有限公司發(fā)布國(guó)內(nèi)首個(gè)擁有自主知識(shí)產(chǎn)權(quán)的電影創(chuàng)作類(lèi)生成式人工智能系統(tǒng)。近年來(lái)，生成式人工智能技術(shù)取得突破性進(jìn)展，開(kāi)始完成繪畫(huà)、譜曲、咨詢(xún)互動(dòng)等原本被認(rèn)為只能由人來(lái)完成的工作，正在并將繼續(xù)對(duì)生產(chǎn)生活產(chǎn)生深遠(yuǎn)影響。

【點(diǎn)評(píng)】

人工智能是引領(lǐng)未來(lái)的戰(zhàn)略性技術(shù)，是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，是必須搶占的科技制高點(diǎn)。生成式人工智能可以依托事先訓(xùn)練好的多模態(tài)基礎(chǔ)大模型等，利用用戶(hù)輸入的相關(guān)資料，生成具有一定邏輯性和連貫性的內(nèi)容，是目前最具革命性、引領(lǐng)性的科學(xué)技術(shù)之一。

從進(jìn)行數(shù)據(jù)處理，到學(xué)習(xí)和模擬事物內(nèi)在規(guī)律，這一跳躍讓人工智能更加接近人類(lèi)的創(chuàng)造力，可以完成更多復(fù)雜場(chǎng)景任務(wù)。與此同時(shí)，解決相關(guān)安全風(fēng)險(xiǎn)和倫理問(wèn)題也變得更加緊迫。

黨的二十屆三中全會(huì)《決定》提出：“完善生成式人工智能發(fā)展和管理機(jī)制?！本o隨科技進(jìn)步和行業(yè)發(fā)展的步伐，全面提升治理水平，促進(jìn)生成式人工智能健康發(fā)展，是形勢(shì)所需，也是更好保障公眾利益的內(nèi)在要求。

盡管技術(shù)路徑已經(jīng)明確，但生成式人工智能產(chǎn)品和服務(wù)的商業(yè)化、大眾化、普及化，仍處于起步階段。2023年，我國(guó)生成式人工智能的企業(yè)采用率已達(dá)15%，市場(chǎng)規(guī)模約為14.4萬(wàn)億元。目前，我國(guó)現(xiàn)有完成備案并上線為公眾提供服務(wù)的生成式人工智能服務(wù)大模型近200個(gè)，注冊(cè)用戶(hù)超6億。我們已占據(jù)有利身位，且有豐富的數(shù)據(jù)資源、廣闊的市場(chǎng)需求、穩(wěn)定的技術(shù)基礎(chǔ)和多樣化的應(yīng)用場(chǎng)景，要充分發(fā)揮這些優(yōu)勢(shì)，力爭(zhēng)在新一代人工智能技術(shù)的發(fā)展上搶占先機(jī)，為更多行業(yè)向價(jià)值鏈中高端攀升提供更強(qiáng)推動(dòng)力。

著力推動(dòng)技術(shù)進(jìn)步、產(chǎn)業(yè)發(fā)展的同時(shí)，也要看到，生成式人工智能會(huì)帶來(lái)一些治理難題。比如，利用他人作品生成新的“作品”，可能涉嫌侵權(quán)；利用人工智能生成虛假信息進(jìn)行詐騙，增加防范難度；隨著技術(shù)應(yīng)用的拓展，一些就業(yè)崗位可能會(huì)受到較大沖擊；等等。

針對(duì)各種可能發(fā)生的風(fēng)險(xiǎn)，相關(guān)部門(mén)和地方已經(jīng)出臺(tái)了一些技術(shù)應(yīng)對(duì)、綜合防治措施及安全開(kāi)發(fā)應(yīng)用指引，促進(jìn)人工智能向善而行。比如，北京市編制大模型分級(jí)分類(lèi)管理和安全評(píng)測(cè)標(biāo)準(zhǔn)，圍繞真實(shí)場(chǎng)景開(kāi)展應(yīng)用質(zhì)量評(píng)估、倫理對(duì)齊等方面評(píng)測(cè)；上海交通大學(xué)發(fā)布“生成式人工智能教師使用指南”，對(duì)版權(quán)與學(xué)術(shù)誠(chéng)信、倫理與公平等問(wèn)題作出規(guī)定……堅(jiān)持未雨綢繆，堅(jiān)持倫理先行，進(jìn)一步加強(qiáng)人工智能規(guī)則治理，完善相關(guān)法律體系建設(shè)，才能做到趨利避害、安全使用。

發(fā)展人工智能，根本目的是造福人類(lèi)、增進(jìn)人民福祉、促進(jìn)人的全面發(fā)展。在技術(shù)加速演進(jìn)的關(guān)鍵階段，堅(jiān)持發(fā)展與治理、創(chuàng)新與安全并重，著力培育安全、可靠、公平、透明的技術(shù)研發(fā)和應(yīng)用生態(tài)，定能不斷促進(jìn)人工智能健康發(fā)展，更好抓住新一輪技術(shù)變革帶來(lái)的新機(jī)遇。