盗墓笔记,重生之毒妃梅果小说,好看的历史书籍推荐

規(guī)范生成式智能服務(wù)，智慧環(huán)衛(wèi)充分釋放技術(shù)紅利

2024-05-21100

字號

近日，國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《辦法》），向社會(huì)公開征求意見。自去年以來，生成式人工智能快速走紅，席卷文本、圖像、音頻、視頻等各類媒介場景，成為全社會(huì)關(guān)注的焦點(diǎn)。

生成式人工智能服務(wù)以其優(yōu)異的知識表現(xiàn)、流暢的語言交互和媒介輸出，引發(fā)了各界的使用和“嘗鮮”熱潮。智慧環(huán)衛(wèi)今天生成式智能服務(wù)背后的核心技術(shù)是大規(guī)模預(yù)訓(xùn)練模型（以下簡稱“大模型”）。熱潮之下，大數(shù)據(jù)和大模型驅(qū)動(dòng)形成的內(nèi)容生產(chǎn)模式給科研、生活和倫理帶來巨大沖擊。

大模型與人類歷史上其他科技發(fā)明的不同之處在于，發(fā)明者第一次無法完全理解人類創(chuàng)造物的具體運(yùn)行機(jī)制，即“黑盒效應(yīng)”。大規(guī)模深度神經(jīng)網(wǎng)絡(luò)在訓(xùn)練和使用中，存在結(jié)果的不可解釋性和不穩(wěn)定性，這是造成今天倫理焦慮的核心根源。然而這并不能改變大模型作為技術(shù)發(fā)明的工具屬性。在實(shí)踐上，對待工具有三個(gè)層面的要點(diǎn)：以工具視之、以工具用之、以工具治理之。“以工具視之”要求從中性、客觀的角度看待新事物。“以工具用之”在于最大限度發(fā)揮其優(yōu)點(diǎn)，規(guī)避其缺點(diǎn)。“以工具治理之”的要義則在于將規(guī)劃和治理目標(biāo)放在技術(shù)使用的行為與場景，而非技術(shù)本身。

《辦法》的發(fā)布無疑是在“以工具治理之”層面邁出了堅(jiān)實(shí)的一步。我國針對語言生成技術(shù)和應(yīng)用的倫理探索和法規(guī)規(guī)制起步早、發(fā)展快。早在2019年年末，北京語言大學(xué)、中國中文信息學(xué)會(huì)等單位向工業(yè)界和學(xué)術(shù)界發(fā)布了面向智能內(nèi)容生成的倫理規(guī)制宣言——《推進(jìn)智能寫作健康發(fā)展宣言》。2022年，國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。而今天，《辦法》的起草完成，在過去學(xué)術(shù)界和司法界探索實(shí)踐的基礎(chǔ)上，綜合考慮了近期技術(shù)發(fā)展與初步應(yīng)用的特點(diǎn)，與網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等法律相協(xié)調(diào)，構(gòu)筑了深度生成服務(wù)的管理體系。

用戶隱私、內(nèi)容歧視和模型研發(fā)是當(dāng)前深度生成應(yīng)用的三個(gè)重要法規(guī)風(fēng)險(xiǎn)點(diǎn)?！掇k法》明確，國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作?！掇k法》集中瞄準(zhǔn)技術(shù)應(yīng)用問題，從明確條件要求、劃定責(zé)任主體等幾個(gè)方面為行業(yè)劃定底線。生成內(nèi)容本身應(yīng)符合公序良俗和國家法律法規(guī)，技術(shù)提供方擔(dān)負(fù)內(nèi)容責(zé)任，使用方則應(yīng)被充分告知其責(zé)任，應(yīng)充分了解智能技術(shù)的界限和風(fēng)險(xiǎn)。《辦法》對隱私信息這一備受關(guān)注的倫理風(fēng)險(xiǎn)點(diǎn)也作出了回應(yīng)，要求提供方對此做好預(yù)防和反饋響應(yīng)機(jī)制。數(shù)據(jù)資源和預(yù)訓(xùn)練模型是生成技術(shù)的基礎(chǔ)，對此《辦法》也要求在技術(shù)服務(wù)成形的前序階段就進(jìn)行法規(guī)管制，不得含有違法和有違公序良俗的內(nèi)容。

法規(guī)體系逐步建立是數(shù)智時(shí)代社會(huì)治理的先聲與實(shí)踐。大模型結(jié)合大數(shù)據(jù)，智慧環(huán)衛(wèi)是可預(yù)見的未來智能技術(shù)落地范式。治理應(yīng)用、梳理資源是營建生成式智能技術(shù)健康生態(tài)的重要抓手，這兩者也將成為數(shù)智時(shí)代最重要的政策研究話題。在更高的層面上，人機(jī)共生時(shí)代的我們還需要關(guān)注機(jī)器的行為，構(gòu)建機(jī)器行為學(xué)，對其語言、傳播和物理世界的行為進(jìn)行研究和探索，以最大程度保障數(shù)智時(shí)代的社會(huì)福祉，收獲人機(jī)共生的時(shí)代紅利。