為老年人設(shè)計(jì)人工智能技術(shù)-14項(xiàng)指導(dǎo)原則

隨著各地平均壽命的顯著延長(zhǎng)，老齡化成為多國(guó)面臨的重要問(wèn)題。在生育率下降、預(yù)期壽命延長(zhǎng)以及移民的推動(dòng)下，60歲及以上的人口正在快速增加，預(yù)計(jì)2050年將超過(guò)16億。幾乎所有國(guó)家都將面臨老年人口的增加，因此，各國(guó)政府、衛(wèi)生系統(tǒng)和私營(yíng)部門(mén)都應(yīng)做好準(zhǔn)備，急老年人之所急、思老年人之所需。雖然醫(yī)療服務(wù)與經(jīng)濟(jì)安全是基礎(chǔ)，但隨著人們步入老年，人們需要的不再僅僅是病例表和撫恤金，老年人需要針對(duì)性的服務(wù)，以滿足其生理、心理及社交需求。

報(bào)告研究了人工智能設(shè)計(jì)理念、隱私安全與數(shù)據(jù)安全等關(guān)鍵問(wèn)題，提出了14項(xiàng)指導(dǎo)原則，為人工智能的適老化發(fā)展提供相應(yīng)指導(dǎo)和啟示。賽迪智庫(kù)安全產(chǎn)業(yè)研究所對(duì)該報(bào)告進(jìn)行編譯，期望對(duì)我國(guó)有關(guān)部門(mén)有所幫助。

（一）挖掘人工智能服務(wù)老年人的潛在價(jià)值

在產(chǎn)品生命周期的初期，應(yīng)當(dāng)明確老年人能夠如何從人工智能中獲益。該工作包括明確老年人的觀念、待解決的問(wèn)題、技術(shù)解決方法以及老年人如何從中受益。要通過(guò)用戶與市場(chǎng)調(diào)研來(lái)證明人工智能的潛在價(jià)值，還需要分清技術(shù)帶來(lái)的積J與消J影響，并防患于未然。

（二）采用以老年人為中心的設(shè)計(jì)流程

從早期的概念構(gòu)想到后期的開(kāi)發(fā)實(shí)踐，須邀請(qǐng)老年人和其他相關(guān)者（如家人和專(zhuān)業(yè)護(hù)理人員）在整個(gè)產(chǎn)品開(kāi)發(fā)過(guò)程中提供反饋。訪談、專(zhuān)題小組、相關(guān)群體和相關(guān)設(shè)計(jì)技術(shù)可以幫助了解這類(lèi)人群的需求、期許和關(guān)注點(diǎn)，從而大限度地減少推行人工智能可能遇到的障礙�？梢酝ㄟ^(guò)多種方式招募老年人進(jìn)行產(chǎn)品調(diào)研：報(bào)紙、在線招聘平臺(tái)（例如亞馬遜在線勞動(dòng)交易平臺(tái)）、社交媒體以及與地方機(jī)構(gòu)建立合作等。

（三）將老年群體特征納入人工智能數(shù)據(jù)集

在機(jī)器學(xué)習(xí)訓(xùn)練和測(cè)試中，將老年人的數(shù)據(jù)屬性清晰描述出來(lái)，是創(chuàng)建服務(wù)老年人的人工智能系統(tǒng)的關(guān)鍵一環(huán)。但一項(xiàng)公開(kāi)人臉數(shù)據(jù)集的分析表明，許多數(shù)據(jù)集對(duì)老年人的描述不足，甚至不包含與年齡相關(guān)的元數(shù)據(jù)。創(chuàng)建捕捉老齡人口多樣化信息的數(shù)據(jù)集（年齡、性別、遺傳、身體缺陷），并在數(shù)據(jù)集中標(biāo)注基本元數(shù)據(jù)，這是為老年人構(gòu)建公平、積J的人工智能體驗(yàn)的D一步。

（四）開(kāi)發(fā)對(duì)老年群體包容性強(qiáng)的產(chǎn)品

與常見(jiàn)觀點(diǎn)相反，生理年齡并不是老年人的關(guān)鍵特征。換言之，老年人的身體、感官和認(rèn)知能力因人而異，教育水平和科技體驗(yàn)也各有不同。在人工智能開(kāi)發(fā)過(guò)程中，預(yù)先征集和考慮不同群體特征的老年人的需求，包括來(lái)自不同地域、不同社會(huì)經(jīng)濟(jì)地位以及生活在農(nóng)村的老年人，有助于開(kāi)發(fā)普適性產(chǎn)品。

（五）考慮老年殘疾人群體的服務(wù)需求

雖然老年人的殘疾可能是感官、肢體和認(rèn)知功能隨年齡增長(zhǎng)而衰退下降所致，但個(gè)別老年人也可能是因?yàn)橐郧暗纳�理�(yè)p傷而導(dǎo)致殘疾。除遵循廣泛性原則外，獲取遭受長(zhǎng)期生理?yè)p傷的老年人對(duì)人工智能系統(tǒng)的反饋意見(jiàn)，是使人工智能系統(tǒng)滿足眾多用戶需要的關(guān)鍵所在。

（六）公開(kāi)人工智能的能力與局限性

用戶往往對(duì)G保真性、G可靠性的人工智能系統(tǒng)抱有更G的期望。當(dāng)系統(tǒng)功能無(wú)法滿足這些期望時(shí)可能導(dǎo)致用戶進(jìn)行不當(dāng)操作，且造成意想不到的后果，因此理清并公開(kāi)人工智能的局限性至關(guān)重要。

（七）建立評(píng)價(jià)指標(biāo)體系評(píng)估軟件應(yīng)用成果

制定用戶對(duì)人工智能技術(shù)滿意度的評(píng)估指標(biāo)非常重要。根據(jù)人工智能的預(yù)期用途，制定標(biāo)準(zhǔn)時(shí)還應(yīng)考慮技術(shù)對(duì)生活質(zhì)量、孤獨(dú)感、幸福感和樂(lè)觀情緒的影響。此外，通過(guò)遙測(cè)技術(shù)和分析錯(cuò)誤報(bào)告，還有助于評(píng)估人工智能系統(tǒng)的運(yùn)行狀況和有效性。

（八）尊重老年人隱私的五項(xiàng)原則

一是僅收集J對(duì)必要的數(shù)據(jù)，防止人工智能泄露老年人期望保護(hù)的隱私。

二是通過(guò)規(guī)范數(shù)據(jù)存儲(chǔ)和刪除過(guò)期數(shù)據(jù)保護(hù)隱私。老年人常常質(zhì)疑長(zhǎng)期存儲(chǔ)數(shù)據(jù)的必要性，不能將收集與保留數(shù)據(jù)設(shè)置為默認(rèn)選項(xiàng)，而只應(yīng)該用于特定有利用途。

三是在家庭中使用計(jì)算機(jī)圖像系統(tǒng)時(shí)，應(yīng)尊重老年人的選擇權(quán)，考慮將系統(tǒng)安裝于哪些房間。老年人通常將浴室和臥室等房間視為隱私，因此應(yīng)尊重老年人的選擇權(quán)，讓他們能夠自主權(quán)衡保護(hù)隱私與獲取安全和自動(dòng)化服務(wù)（例如跌倒檢測(cè)）的利弊得失。

（九）公開(kāi)人工智能收集數(shù)據(jù)的目的和范疇

老年人非常擔(dān)心侵犯住宅和網(wǎng)絡(luò)隱私。他們無(wú)法完全理解人工智能技術(shù)是如何運(yùn)作，或者如何使用用戶數(shù)據(jù)的。因此，需要要做好信息披露，并應(yīng)預(yù)先解決老年人可能關(guān)心的所有問(wèn)題：例如介紹他們使用的智能家居設(shè)備、被收集和處理的數(shù)據(jù)、數(shù)據(jù)收集的目的、對(duì)老年人的好處、有權(quán)獲取數(shù)據(jù)的相關(guān)方、數(shù)據(jù)的保留期限以及現(xiàn)有的隱私保護(hù)和安全措施等。

（十）人工智能產(chǎn)品需要獲得老年人群體的認(rèn)可

構(gòu)建的人工智能系統(tǒng)需要得到老年人發(fā)自內(nèi)心的認(rèn)可，這既是對(duì)各種數(shù)據(jù)采集的法律要求，也是建立用戶信任的關(guān)鍵。人們會(huì)考慮數(shù)據(jù)授權(quán)的利好和風(fēng)險(xiǎn)，還會(huì)利用既有經(jīng)驗(yàn)和認(rèn)識(shí)——如其他公司或產(chǎn)品對(duì)待他們個(gè)人數(shù)據(jù)的方式進(jìn)行輔助判斷。

（十一）大程度降低老年人受騙風(fēng)險(xiǎn)

人工智能虛擬化身（例如護(hù)理教練）越來(lái)越多地用于與老年人互動(dòng)，并為滿足老年人的需求提供自定義服務(wù)。相關(guān)報(bào)告顯示，使用G仿真聲音與老年人互動(dòng)時(shí)，向老年人明確該聲音為合成聲音，有助于調(diào)整老年人對(duì)人工智能的合理期待，并大程度降低欺騙造成的危害后果。有關(guān)詳細(xì)信息，請(qǐng)參閱微軟關(guān)于如何披露的部分——“披露設(shè)計(jì)指南”。

（十二）保護(hù)數(shù)據(jù)免遭濫用和意外獲取

應(yīng)通過(guò)有效的安全防護(hù)措施保護(hù)老年人的隱私，阻止試圖惡意獲取隱私的行為。

（十三）引導(dǎo)老年人構(gòu)建對(duì)人工智能的合理期望

人工智能是概率系統(tǒng)，不可避免地會(huì)出現(xiàn)偶然錯(cuò)誤。當(dāng)老年人在理財(cái)或健康管理等G風(fēng)險(xiǎn)情況下使用人工智能時(shí)，人工智能的失誤可能造成嚴(yán)重后果。此外，由于認(rèn)識(shí)能力隨著年齡增長(zhǎng)而衰退，老年人更容易過(guò)度依賴(lài)人工智能。因此，老年人正是從成功的操作體驗(yàn)中理解人工智能的操作，準(zhǔn)確描述人工智能的作用，并對(duì)人工智能的可靠性產(chǎn)生合理期望。出現(xiàn)超出人工智能實(shí)際能力的過(guò)度信任時(shí)，需要將其調(diào)整為與人工智能能力相匹配的合理信任度。

（十四）評(píng)估護(hù)理機(jī)器人可能導(dǎo)致的社會(huì)隔離加劇風(fēng)險(xiǎn)

為解決護(hù)理員的需求缺口，世界各國(guó)將目光轉(zhuǎn)向護(hù)理機(jī)器人，其中日本處于L先地位。然而，一些學(xué)者認(rèn)為機(jī)器人無(wú)法完全滿足老年人的社交和情感需求，過(guò)度依賴(lài)護(hù)理機(jī)器人，尤其是將機(jī)器人作為與人類(lèi)互動(dòng)的替代品，可能會(huì)降低老人的幸福感。低收入老年人也會(huì)因?yàn)檫^(guò)度依賴(lài)護(hù)理機(jī)器人而飽受其害。因此，設(shè)計(jì)人工智能系統(tǒng)應(yīng)優(yōu)先考慮老年人的幸福感，大程度降低機(jī)器人的濫用風(fēng)險(xiǎn)，將G強(qiáng)度勞動(dòng)任務(wù)交給機(jī)器人，讓護(hù)理人員能夠?qū)Ｗ⒂趥�(gè)人護(hù)理。

附件：為老年人設(shè)計(jì)人工智能技術(shù)-14項(xiàng)指導(dǎo)原則