將UX鏡頭帶入AI項(xiàng)目的五種方法

隨著AI和機(jī)器學(xué)習(xí)工具的普及和普及，各類組織的產(chǎn)品和工程團(tuán)隊(duì)正在開(kāi)發(fā)創(chuàng)新的，基于AI的產(chǎn)品和功能。AI特別適合模式識(shí)別，預(yù)測(cè)和預(yù)測(cè)以及用戶體驗(yàn)的個(gè)性化，所有這些在處理數(shù)據(jù)的組織中都是常見(jiàn)的。

應(yīng)用AI的先驅(qū)是數(shù)據(jù)-很多數(shù)據(jù)!通常需要大數(shù)據(jù)集來(lái)訓(xùn)練AI模型，任何擁有大數(shù)據(jù)集的組織無(wú)疑都將面臨AI可以幫助解決的挑戰(zhàn)?；蛘撸绻麛?shù)據(jù)集尚不存在，則數(shù)據(jù)收集可能是AI產(chǎn)品開(kāi)發(fā)的“第一階段”。

無(wú)論您打算使用什么數(shù)據(jù)集，人們都很有可能參與了該數(shù)據(jù)的捕獲或?qū)⒁阅撤N方式使用您的AI功能。用戶體驗(yàn)設(shè)計(jì)和數(shù)據(jù)可視化的原則應(yīng)該是數(shù)據(jù)捕獲和/或向用戶呈現(xiàn)數(shù)據(jù)時(shí)的早期考慮因素。

1.盡早考慮用戶體驗(yàn)

了解用戶在模型開(kāi)發(fā)開(kāi)始時(shí)將如何與您的AI產(chǎn)品互動(dòng)，可以幫助您在AI項(xiàng)目上設(shè)置有用的護(hù)欄，并確保團(tuán)隊(duì)專注于共同的最終目標(biāo)。

例如，如果我們采用電影流媒體服務(wù)的“為您推薦”部分，則在開(kāi)始數(shù)據(jù)分析之前概述用戶在此功能中將看到的內(nèi)容將使團(tuán)隊(duì)僅專注于可增加價(jià)值的模型輸出。因此，如果您的用戶研究確定電影的標(biāo)題，圖像，演員和片長(zhǎng)將是有價(jià)值的信息，供用戶在推薦中看到，則工程團(tuán)隊(duì)在決定應(yīng)訓(xùn)練哪些數(shù)據(jù)集時(shí)將具有重要的背景。演員和電影長(zhǎng)度數(shù)據(jù)似乎是確保推薦準(zhǔn)確的關(guān)鍵。

用戶體驗(yàn)可以分為三個(gè)部分：

之前-用戶想要實(shí)現(xiàn)什么?用戶如何獲得這種體驗(yàn)?他們?nèi)ツ睦?他們應(yīng)該期待什么?

在此期間-他們應(yīng)該如何定位自己?清楚下一步該怎么做嗎?如何引導(dǎo)他們克服錯(cuò)誤?

之后-用戶是否實(shí)現(xiàn)了目標(biāo)?體驗(yàn)是否有明確的“終點(diǎn)”?后續(xù)步驟(如果有)是什么?

知道用戶在與模型進(jìn)行交互之前，之中和之后應(yīng)該看到的內(nèi)容，將確保工程團(tuán)隊(duì)從一開(kāi)始就對(duì)AI模型進(jìn)行準(zhǔn)確數(shù)據(jù)的培訓(xùn)，并提供對(duì)用戶最有用的輸出。

2.對(duì)使用數(shù)據(jù)的方式保持透明

您的用戶是否會(huì)知道您從他們那里收集的數(shù)據(jù)正在發(fā)生什么，以及為什么需要它?您的用戶是否需要閱讀條款和條件頁(yè)面以獲取提示?考慮將基本原理添加到產(chǎn)品本身中。一個(gè)簡(jiǎn)單的“這些數(shù)據(jù)將使我們推薦更好的內(nèi)容”可以消除用戶體驗(yàn)中的摩擦點(diǎn)，并為體驗(yàn)增加一層透明度。

當(dāng)用戶在The Trevor Project尋求輔導(dǎo)員的支持時(shí)，我們明確表示，在將他們與輔導(dǎo)員聯(lián)系之前，我們所需要的信息將用于為他們提供更好的支持。

如果您的模型將輸出呈現(xiàn)給用戶，請(qǐng)進(jìn)一步講解模型是如何得出結(jié)論的。Google的“為什么這則廣告?” 選項(xiàng)可讓您深入了解推動(dòng)搜索結(jié)果的因素。它還使您可以完全禁用廣告?zhèn)€性化，從而允許用戶控制如何使用其個(gè)人信息。解釋模型的工作方式或其準(zhǔn)確性水平可以增加對(duì)用戶群的信任，并使用戶能夠自行決定是否參與結(jié)果。低準(zhǔn)確性級(jí)??別也可以用作提示，以從用戶那里收集其他見(jiàn)解，以改進(jìn)您的模型。

3.收集用戶對(duì)模型性能的見(jiàn)解

提示用戶提供有關(guān)其使用體驗(yàn)的反饋，使產(chǎn)品團(tuán)隊(duì)可以不斷改進(jìn)用戶體驗(yàn)。在考慮反饋收集時(shí)，請(qǐng)考慮AI工程團(tuán)隊(duì)如何從持續(xù)的用戶反饋中受益。有時(shí)人類可以發(fā)現(xiàn)AI不會(huì)發(fā)現(xiàn)的明顯錯(cuò)誤，并且您的用戶群完全由人類組成!

收集用戶反饋的一個(gè)示例是Google識(shí)別電子郵件為危險(xiǎn)郵件，但允許用戶使用自己的邏輯將電子郵件標(biāo)記為“安全”。這種正在進(jìn)行的手動(dòng)用戶校正使模型可以隨著時(shí)間的推移不斷學(xué)習(xí)危險(xiǎn)消息的外觀。

如果您的用戶群也具有上下文知識(shí)來(lái)解釋AI錯(cuò)誤的原因，那么此上下文對(duì)于改進(jìn)模型可能至關(guān)重要。如果用戶在AI返回的結(jié)果中發(fā)現(xiàn)異常，請(qǐng)考慮如何為用戶提供一種輕松報(bào)告異常的方法。您可以問(wèn)用戶哪些問(wèn)題來(lái)征詢工程團(tuán)隊(duì)的關(guān)鍵見(jiàn)解，并提供有用的信號(hào)來(lái)改進(jìn)模型?工程團(tuán)隊(duì)和UX設(shè)計(jì)人員可以在模型開(kāi)發(fā)期間一起工作，以盡早計(jì)劃反饋的收集，并為持續(xù)進(jìn)行的迭代改進(jìn)建立模型。

4.收集用戶數(shù)據(jù)時(shí)評(píng)估可訪問(wèn)性

可訪問(wèn)性問(wèn)題導(dǎo)致數(shù)據(jù)收集偏斜，并且在排他性數(shù)據(jù)集上受過(guò)訓(xùn)練的AI可能會(huì)產(chǎn)生AI偏差。例如，在大多數(shù)由男性面孔組成的數(shù)據(jù)集上進(jìn)行訓(xùn)練的面部識(shí)別算法，對(duì)于非或男性而言，其效果都會(huì)很差。對(duì)于直接支持LGBTQ青年的組織如Trevor項(xiàng)目，考慮性取向和性別認(rèn)同非常重要。從外部查找包容性數(shù)據(jù)集與確保您帶到表或打算收集的數(shù)據(jù)具有包容性一樣重要。

在收集用戶數(shù)據(jù)時(shí)，請(qǐng)考慮用戶將利用的平臺(tái)與您的AI進(jìn)行交互，以及如何使它更易于訪問(wèn)。如果您的平臺(tái)需要付款，不符合可訪問(wèn)性準(zhǔn)則或具有特別笨拙的用戶體驗(yàn)，則您將收到那些無(wú)法負(fù)擔(dān)訂閱，具有可訪問(wèn)性需求或?qū)夹g(shù)的了解較少的用戶的信號(hào)。

每個(gè)產(chǎn)品負(fù)責(zé)人和AI工程師都有能力確保社會(huì)中邊緣化和代表性不足的群體可以訪問(wèn)他們正在構(gòu)建的產(chǎn)品。了解您不知不覺(jué)中將您排除在數(shù)據(jù)集中之外的人是構(gòu)建更具包容性的AI產(chǎn)品的第一步。

5.考慮在模型開(kāi)發(fā)開(kāi)始時(shí)如何衡量公平性

公平與確保您的培訓(xùn)數(shù)據(jù)具有包容性息息相關(guān)。衡量模型的公平性要求您了解模型在某些使用情況下可能會(huì)不太公平。對(duì)于使用人員數(shù)據(jù)的模型，查看模型在不同人口統(tǒng)計(jì)方面的表現(xiàn)可能是一個(gè)不錯(cuò)的開(kāi)始。但是，如果您的數(shù)據(jù)集不包含人口統(tǒng)計(jì)信息，則這種類型的公平性分析可能是不可能的。

在設(shè)計(jì)模型時(shí)，請(qǐng)考慮數(shù)據(jù)如何使輸出偏斜，或如何使某些人受益。確保您用于訓(xùn)練的數(shù)據(jù)集以及從用戶那里收集的數(shù)據(jù)足夠豐富，可以衡量公平性?？紤]如何在常規(guī)模型維護(hù)中監(jiān)視公平性。設(shè)置公平性閾值，并制定一個(gè)計(jì)劃，以解決模型隨著時(shí)間的推移變得不太公平時(shí)如何調(diào)整或重新訓(xùn)練模型。

作為新手或經(jīng)驗(yàn)豐富的技術(shù)人員，開(kāi)發(fā)基于AI的工具，考慮您的工具如何受到用戶的影響以及對(duì)用戶的影響永遠(yuǎn)不會(huì)太早或太晚。人工智能技術(shù)有潛力大規(guī)模地吸引數(shù)百萬(wàn)用戶，并可以應(yīng)用于高風(fēng)險(xiǎn)的用例。全面考慮用戶體驗(yàn)(包括AI輸出將如何影響人們)不僅是最佳實(shí)踐，而且在道德上也必不可少。