目前國內(nèi)外均提出了人工智能治理的相關規(guī)范，但目前我國仍缺乏新一代人工智能治理的 具體工作框架。應整合社會各界對AI社會技術復合體的離散性認知，實現(xiàn)對AI系統(tǒng)生態(tài)主權調(diào)適，突破AI包容審慎實踐的探索，建立我國的統(tǒng)一治理框架。
建立基于“邏輯-秩序-監(jiān)管“的人工智能治理工作框架
高增長:未來五年全球人工智能市場規(guī)模平均增速將超過20%;高集中:軟件占比近40%硬件產(chǎn)品占比接近35%;高壁壘:滲透率還不到4%
在規(guī)劃設計階段機器學習場景中固有的不可預測性,傳達實施偏差會進一步加劇;在研發(fā)部署階段模型運行之后的動態(tài)更新缺乏足夠驗證等挑戰(zhàn)
構建面向可持續(xù)發(fā)展的人工智能技術體系,推動人工智能技術可用、可靠、可信，其內(nèi)涵包括提升技術安全和構建技術管理機制兩個層面工作
企業(yè)作為落實人工智能治理原則的重要主體,形成覆蓋人工智能產(chǎn)品全生命周期的風險管理機制,提出了面向可持續(xù)發(fā)展的人工智能治理基本框架
數(shù)據(jù)不完備和濫用風險突出而損害用戶的權益;人工智能算法存在固有缺陷在可解釋性魯棒性偏見歧視等方面尚存在局限;企業(yè)人工智能管理體系不完善
調(diào)度決策外賣調(diào)度系統(tǒng)困住騎手;個性化推薦電商場景下的信息繭房和馬太效應;內(nèi)容治理如何守護清朗健康的網(wǎng)絡環(huán)境;人工智能可以放心使用嗎
全球人工智能市場收支規(guī)模達850廳美元,預測,2022年該市場規(guī)模將同比增長約20%至 1017廳美元,并將于2025年突破2000廳美元大關, CAGR 達24.5%
頭部科技企業(yè)先后發(fā)布了AI治理戰(zhàn)略和治理體系,成立了相關委員會和工作組,聚焦企業(yè)層面的AI治理和風險管理體系,可信AI技術和保障工具也在蓬勃發(fā)展
智能文檔處理、智能會議、知識管理、智能客服等各類企業(yè)智能應用不斷發(fā)展，全面賦能企業(yè)辦公、管理、決策、風控、營銷、服務等各個環(huán)節(jié)
AI軟件設施在近兩年成為產(chǎn)業(yè)焦點,AI開源框架生態(tài),預訓練大模型體系,AI軟件平臺生態(tài)等內(nèi)容都得到了長足的發(fā)展,像水電一樣成為觸手可得的普惠資源
到端的MLOps一體化工具和細分場景的專項工具都非�；馃�,端到端工具追求大而全的功能集,專項工具在局部或某些場景下功能和性能較好
規(guī)模化是指整合了豐富的人工智能開發(fā),部署,測試,運維等能力,標準化是指將異構的軟硬件環(huán)境封裝為標準化的界面,可擴展是指可以不斷適配新的技術和工具
