報告指出，元宇宙的可持續(xù)發(fā)展正面臨多種倫理挑戰(zhàn)。作為全球領先的人工智能軟件公司，商湯致力于發(fā)展 “負責任且可評估” 的人工智能，結合數(shù)字經濟可持續(xù)發(fā)展的內在需求，提出 “以實為本” 的數(shù)字世界發(fā)展觀，為推動數(shù)字世界的健康可持續(xù)發(fā)展貢獻商湯的思考與實踐。田豐院長從 “發(fā)展” 的視角出發(fā)，結合商湯自身案例，介紹了商湯科技針對數(shù)字世界的治理主張，為構建實體經濟發(fā)展所需的數(shù)字世界提供可行的落地方案。

“以虛強實”商湯提出 “以實為本” 的數(shù)字世界發(fā)展觀

數(shù)字經濟作為繼農業(yè)經濟和工業(yè)經濟之后的一種全新經濟形態(tài)，如今已經從數(shù)字產業(yè)化進入產業(yè)數(shù)字化的 “下半場” 時代。隨著人工智能、5G、XR 等新一代數(shù)字技術加速向傳統(tǒng)行業(yè)滲透，“元宇宙” 的概念也由此而生，它將實現(xiàn) “人、物、場” 在數(shù)字世界和現(xiàn)實世界的實時交互、融合共生，為產業(yè)數(shù)字化帶來新的想象空間。從 “復活” 古生物，到線上問診的 AI 數(shù)字醫(yī)生，再到方便快捷的 AR 購物，元宇宙為物質層面的產業(yè)升級及精神層面的文藝復興提供了新的發(fā)展機遇，助推現(xiàn)實世界的可持續(xù)發(fā)展，“以虛強實” 已成為基本共識。
伴隨技術的不斷迭代，元宇宙的發(fā)展將經歷從數(shù)字孿生到數(shù)字原生，再到數(shù)實共生的演進過程，“人、物、場” 也將在不同的發(fā)展階段產生出不同的創(chuàng)新應用模式。但與此同時，元宇宙作為多種新興數(shù)字技術的交匯點，數(shù)字世界和現(xiàn)實世界的融合體，與 “人、物、場” 相關的信息和應用被誤用、濫用的問題和倫理挑戰(zhàn)，也會更加突出而復雜，給不同階段元宇宙的發(fā)展，都會帶來諸多阻礙。

“數(shù)字孿生” 階段主要實現(xiàn)對于現(xiàn)實世界的動態(tài)復刻。對于 “人” 而言，人們在通過 XR 設備進入元宇宙過程中所產生的大量敏感個人身份數(shù)據(jù)，則存在被竊取冒充的風險。對于 “物” 來說，文化產品、歷史文物在轉為數(shù)字資產后，也會為產權信息竊取等不法行為帶來可乘之機；針對城市、工廠、園區(qū)、自然環(huán)境等 “場” 的可視化呈現(xiàn)，也意味著可能存在地理空間和經濟活動等敏感信息的暴露。
在 “數(shù)字原生” 階段，元宇宙將在 AIGC 技術的支持下逐漸超越真實場景，拓展時空體驗。AIGC 將激發(fā)虛擬形象在各行各業(yè)的廣泛應用，但隨之也會出現(xiàn) “數(shù)字替身行為不軌”、“AI 藝術剽竊” 等問題，成為 “人” 的一大挑戰(zhàn)；而在 “物” 方面，NFT 數(shù)字藏品促進了元宇宙的活躍度，卻也引發(fā)了投機炒作等問題；在 “場” 方面，人們在根據(jù)自身喜好構建不同虛擬場景的同時，也容易對虛擬場景產生精神依賴，形成 “信息繭房”。
到了 “數(shù)實共生” 階段，數(shù)實交互將帶來更具真實感、臨場感和沉浸感的交互體驗。相應的，數(shù)實交互也意味著 “人” 受到侵害時的感知也會愈發(fā)真實；針對 “物” 的高實時交互技術，在生產流程中的應用也存在被篡改、盜取的風險；以數(shù)字孿生城市為代表的 “場” 的數(shù)實交互，同樣有著被入侵干擾而帶來隱私安全、經濟安全等風險。
元宇宙發(fā)展所存在的這些倫理挑戰(zhàn)，將會對 “以虛強實” 發(fā)展路徑的可持續(xù)性造成影響。對此，商湯認為，數(shù)字世界的可持續(xù)發(fā)展應當遵循 “以實為本” 的發(fā)展觀，以 “滿足現(xiàn)實需求” 為根本定位、以 “遵循現(xiàn)實規(guī)則” 為基本原則、以 “符合現(xiàn)實利益” 為最終目標。其中，“滿足現(xiàn)實需求” 是指數(shù)字世界的發(fā)展應有利于回應現(xiàn)實世界的發(fā)展問題和訴求；“遵循現(xiàn)實規(guī)則” 是指數(shù)字世界的規(guī)范發(fā)展應以現(xiàn)實世界的規(guī)則體系為基礎；“符合現(xiàn)實利益” 是指數(shù)字世界的發(fā)展應服務于現(xiàn)實世界的發(fā)展利益。做好元宇宙的倫理治理，可以為數(shù)字技術在經濟社會重要行業(yè)領域中的規(guī)模化應用提供有效保障。

踐行 “以實為本”實現(xiàn)數(shù)字世界發(fā)展三大 “現(xiàn)實” 目標
作為人工智能治理的深度實踐者，商湯已經將 “以實為本” 的數(shù)字世界發(fā)展觀，貫徹到了自身的實踐發(fā)展當中，通過技術創(chuàng)新和實體產業(yè)的結合，實現(xiàn) “滿足現(xiàn)實需求”、“遵循現(xiàn)實規(guī)則”、“符合現(xiàn)實利益” 的目標，推動數(shù)字經濟與實體經濟的融合發(fā)展。
圍繞 “滿足現(xiàn)實需求” 的目標，商湯致力于通過多套技術工具，在保證數(shù)據(jù)隱私安全的前提下，更好地實現(xiàn)數(shù)據(jù)要素的流通，滿足生產、消費等發(fā)展需求。商湯開發(fā)的敏感信息脫敏技術工具，不僅可對生物特征數(shù)據(jù)、自動駕駛等各類業(yè)務的敏感數(shù)據(jù)進行脫敏，還具備敏感信息檢測、可還原脫敏等功能。商湯還建立了覆蓋產品研發(fā)全流程的個人信息保護評估審核機制，確保產品和服務達到嚴格的隱私安全保護水平。
為促進數(shù)據(jù)要素的流通利用，商湯創(chuàng)新提出了數(shù)據(jù)沙箱，可實現(xiàn)數(shù)據(jù)不搬家，數(shù)據(jù)可用不可見，在確保數(shù)據(jù)隱私安全的基礎上實現(xiàn)數(shù)據(jù)價值轉化。面向系統(tǒng)安全需求，商湯自研的模型體檢工具能夠面向活體識別、圖像分類、目標檢測等商業(yè)化應用開展對抗安全檢測、魯棒安全檢測、后門安全檢測，不僅能夠支持多種任務類型，還能夠開箱即用，提供一鍵式測評反饋，目前已應用于商湯的大量商業(yè)化模型的檢測。
圍繞 “遵循現(xiàn)實規(guī)則” 的目標，商湯自研了魯棒數(shù)字水印技術，基于深度學習對數(shù)字內容實施加密數(shù)字水印，實現(xiàn)版權保護、內容溯源，促進元宇宙數(shù)字內容的健康有序發(fā)展。商湯還將自研的一系列技術工具賦能創(chuàng)作版權審查、創(chuàng)作風格審查、特定信息內容審查等不同類型的數(shù)字內容審查工作，促進數(shù)字內容創(chuàng)作的合法合規(guī)，同時還建立了覆蓋產品全生命周期的倫理審查體系，確保技術創(chuàng)新和產品應用的每個環(huán)節(jié)都合乎倫理。
圍繞 “符合現(xiàn)實利益” 的目標，商湯已開發(fā)并落地了多種 AI 應用，讓技術的發(fā)展符合包括人類、經濟、社會、環(huán)境的可持續(xù)發(fā)展利益。諸如疫情期間的 AI 基礎教育 “停課不停學” 解決方案，AI+AR 電網(wǎng)運維巡檢等，都是數(shù)字技術服務人類現(xiàn)實利益的典型范例。
元宇宙作為 AI 賦能實體經濟的重要創(chuàng)新應用領域，勢必也將成為技術倫理治理的重要陣地。田豐院長指出，近年來，商湯積極探索人工智能倫理治理工作體系建設，并全面納入到自身的產品研發(fā)體系當中，形成從理論到實踐的倫理治理閉環(huán)。此次《元宇宙可持續(xù)發(fā)展報告》的發(fā)布，不僅是商湯首份聚焦商業(yè)應用場景的倫理治理研究報告，也是商湯 AI 倫理治理工作向商業(yè)場景延伸的新起點。秉承 “平衡發(fā)展” 的 AI 倫理觀，商湯將持續(xù)探索和開展更多商業(yè)領域的倫理治理實踐，全面促進智能時代的可持續(xù)發(fā)展。