生成式人工智能通過關(guān)注基于意圖的結(jié)果規(guī)范，為人類與系統(tǒng)交互提供了一種新的方式。GenAI 帶來了新的挑戰(zhàn)，因?yàn)樗妮敵鍪歉怕市缘模枰斫庾儺愋浴⒂洃洝㈠e(cuò)誤、幻覺和惡意使用，這就帶來了構(gòu)建原則和設(shè)計(jì)模式的必要性，正如 IBM 所描述的那樣。

此外，任何AI 產(chǎn)品都是一個(gè)分層系統(tǒng)，其中 LLM 只是其中一種成分，而內(nèi)存、編排、工具擴(kuò)展、UX 和代理用戶流才是真正的魔力！

本文是我對(duì) GenAI 設(shè)計(jì)模式演變的研究和記錄，這些模式為產(chǎn)品經(jīng)理、數(shù)據(jù)科學(xué)家和交互設(shè)計(jì)師提供了一種通用語言 ，幫助他們打造以人為本、值得信賴且安全的產(chǎn)品。通過應(yīng)用這些模式，我們可以彌合用戶需求、技術(shù)能力和產(chǎn)品開發(fā)流程之間的差距。

以下是 21 種 GenAI UX 模式

1. GenAI 或無 GenAI
2. 將用戶需求轉(zhuǎn)化為數(shù)據(jù)需求
3. 增強(qiáng)或自動(dòng)化
4. 定義自動(dòng)化水平
5. 逐步采用人工智能
6. 利用心智模型
7. 傳達(dá)產(chǎn)品限制
8. 顯示思路鏈（CoT）
9. 利用多種輸出
10. 提供數(shù)據(jù)源
11. 傳達(dá)模型信心
12. 為記憶和回憶而設(shè)計(jì)
13. 提供上下文輸入?yún)?shù)
14. 為 coPilot、共同編輯或部分自動(dòng)化而設(shè)計(jì)
15. 定義自動(dòng)化的用戶控件
16. 用戶輸入錯(cuò)誤狀態(tài)的設(shè)計(jì)
17. 針對(duì)人工智能系統(tǒng)錯(cuò)誤狀態(tài)的設(shè)計(jì)
18. 設(shè)計(jì)以捕捉用戶反饋
19. 模型評(píng)估設(shè)計(jì)
20. 人工智能安全護(hù)欄設(shè)計(jì)
21. 傳達(dá)數(shù)據(jù)隱私和控制

1. GenAI 還是非 GenAI

評(píng)估 GenAI 是否改善了用戶體驗(yàn)或增加了復(fù)雜性。通常，基于啟發(fā)式 (IF/Else) 的解決方案更易于構(gòu)建和維護(hù)。

GenAI 有益的場(chǎng)景

• 開放式、富有創(chuàng)意且能增強(qiáng)用戶體驗(yàn)的任務(wù)。
  例如，寫作提示、總結(jié)筆記、起草回復(fù)。
• 創(chuàng)建或轉(zhuǎn)換復(fù)雜的輸出（例如，圖像、視頻、代碼）。
  例如，將草圖轉(zhuǎn)換為網(wǎng)站代碼。
• 結(jié)構(gòu)化的用戶體驗(yàn)無法捕捉用戶意圖。

應(yīng)避免使用 GenAI 的情況

• 結(jié)果必須精確、可審計(jì)或確定。
  例如，稅務(wù)表格或法律合同。
• 用戶期望清晰一致的信息。
  例如：開源軟件文檔

如何使用此模式

1. 確定客戶旅程中的摩擦點(diǎn)
2. 評(píng)估技術(shù)可行性：確定人工智能是否能夠解決摩擦點(diǎn)。評(píng)估規(guī)模、數(shù)據(jù)集可用性、錯(cuò)誤風(fēng)險(xiǎn)評(píng)估和經(jīng)濟(jì)投資回報(bào)率。
3. 驗(yàn)證用戶期望：
   -通過評(píng)估系統(tǒng)是否增強(qiáng)了人類的努力還是完全取代了人類的努力，確定人工智能解決方案是否侵蝕了用戶期望，如模式 3“增強(qiáng)與自動(dòng)化”中所述。-
   確定人工智能解決方案是否侵蝕了模式 6“心智模型”

2. 將用戶需求轉(zhuǎn)化為數(shù)據(jù)需求

這種模式確保 GenAI 開發(fā)始于用戶意圖以及實(shí)現(xiàn)該意圖所需的數(shù)據(jù)模型。GenAI
系統(tǒng)的優(yōu)劣取決于其訓(xùn)練數(shù)據(jù)。但真正的用戶并非以行列的方式表達(dá)，他們表達(dá)的是目標(biāo)、挫折和行為。如果團(tuán)隊(duì)未能將用戶需求轉(zhuǎn)化為結(jié)構(gòu)化的、模型可用的輸入，最終的系統(tǒng)或產(chǎn)品可能會(huì)優(yōu)化到錯(cuò)誤的結(jié)果，從而導(dǎo)致用戶流失。

如何使用此模式

1. 作為 PM、產(chǎn)品設(shè)計(jì)師和數(shù)據(jù)科學(xué)家的跨職能團(tuán)隊(duì)進(jìn)行協(xié)作，并針對(duì)值得解決的用戶問題進(jìn)行協(xié)調(diào)。
2. 定義用戶需求通過使用三角研究：定性（市場(chǎng)報(bào)告、調(diào)查或問卷）+ 定量（用戶訪談、觀察性研究）+ 突發(fā)（產(chǎn)品評(píng)論、社交聆聽等）和綜合用戶洞察 JTBD框架，同理心地圖將用戶的情緒和觀點(diǎn)形象化。價(jià)值主張畫布將用戶的收益和痛苦與功能結(jié)合起來
3. 通過 選擇合適的數(shù)據(jù)模型來定義數(shù)據(jù)需求和文檔，進(jìn)行差距分析，并根據(jù)需要迭代優(yōu)化數(shù)據(jù)模型。一旦理解了“為什么”，就將其轉(zhuǎn)化為模型的“什么” 。你的AI模型需要哪些特征、標(biāo)簽、示例和上下文來學(xué)習(xí)這種行為？利用結(jié)構(gòu)化協(xié)作來找出答案。

3. 增強(qiáng) vs. 自動(dòng)化

GenAI 應(yīng)用中的一個(gè)關(guān)鍵決策是完全自動(dòng)化任務(wù)還是增強(qiáng)人類能力。使用此模式可以使技術(shù)與用戶意圖和控制偏好保持一致。

自動(dòng)化最適合用戶傾向于委派的任務(wù)，尤其是在繁瑣、耗時(shí)或不安全的情況下。例如，Intercom FinAI 會(huì)自動(dòng)將冗長(zhǎng)的電子郵件線索匯總為內(nèi)部筆記，從而節(jié)省重復(fù)性、低價(jià)值任務(wù)的時(shí)間。

增強(qiáng)功能能夠提升效率、創(chuàng)造力和控制力，從而增強(qiáng)用戶想要持續(xù)參與的任務(wù)。例如， Abelton 的Magenta Studio支持創(chuàng)造性的控制，方便用戶操控和創(chuàng)作新音樂。

如何使用此模式

1. 為了選擇最佳方法，請(qǐng)使用研究綜合工具（如同理心地圖（可視化用戶情緒和觀點(diǎn)）和價(jià)值主張畫布（了解用戶的收益和痛苦））評(píng)估用戶需求和期望
2. 測(cè)試并驗(yàn)證該方法是否會(huì)削弱或增強(qiáng)用戶體驗(yàn)。

4. 定義自動(dòng)化水平

在人工智能系統(tǒng)中，自動(dòng)化指的是將多少控制權(quán)委托給人工智能而不是用戶。這是一種戰(zhàn)略性的用戶體驗(yàn)?zāi)Ｊ剑鶕?jù)用戶的痛點(diǎn)、情境場(chǎng)景和對(duì)產(chǎn)品的期望來決定自動(dòng)化程度。

自動(dòng)化水平

1. 無自動(dòng)化（AI 輔助，用戶自主決定）
   AI 系統(tǒng)為用戶提供幫助和建議，但所有決定均由用戶自行決定。例如，Grammarly會(huì)突出顯示語法問題，但用戶需要自行決定接受或拒絕更正。
2. 部分自動(dòng)化/副駕駛/共同編輯（AI 在用戶監(jiān)督下行動(dòng)）
   AI 發(fā)起操作或生成內(nèi)容，但用戶根據(jù)需要進(jìn)行審核或干預(yù)。例如，GitHub Copilot會(huì)建議開發(fā)人員可以接受、修改或忽略的代碼。
3. 完全自動(dòng)化（AI 獨(dú)立行動(dòng)）
   AI 系統(tǒng)無需用戶干預(yù)即可執(zhí)行任務(wù)，通常基于預(yù)定義的規(guī)則、工具和觸發(fā)器。GenAI 中的完全自動(dòng)化通常被稱為代理系統(tǒng) (Agentic systems)。例如，Ema可以自主規(guī)劃和執(zhí)行多步驟任務(wù)，例如研究競(jìng)爭(zhēng)對(duì)手、生成報(bào)告并通過電子郵件發(fā)送，無需用戶在每個(gè)步驟提示或干預(yù)。

如何使用此模式

1. 評(píng)估用戶需要自動(dòng)化的痛點(diǎn)及其風(fēng)險(xiǎn)：當(dāng)相關(guān)風(fēng)險(xiǎn)較低且發(fā)生故障不會(huì)造成嚴(yán)重后果時(shí)，自動(dòng)化任務(wù)最為有效。低風(fēng)險(xiǎn)任務(wù)（例如發(fā)送自動(dòng)提醒、促銷郵件、過濾垃圾郵件或處理常規(guī)客戶咨詢）可以自動(dòng)化，最大程度地減少負(fù)面影響，同時(shí)節(jié)省時(shí)間和資源。高風(fēng)險(xiǎn)任務(wù)（例如進(jìn)行醫(yī)療診斷、發(fā)送關(guān)鍵業(yè)務(wù)郵件或執(zhí)行金融交易）需要仔細(xì)監(jiān)督，因?yàn)橐坏┌l(fā)生錯(cuò)誤，可能會(huì)造成重大損失。
2. 評(píng)估和設(shè)計(jì)特定的自動(dòng)化級(jí)別：根據(jù)用戶的期望和目標(biāo)，評(píng)估用戶痛點(diǎn)是否應(yīng)該屬于——無自動(dòng)化、部分自動(dòng)化或完全自動(dòng)化。
3. 定義用戶控件以實(shí)現(xiàn)自動(dòng)化（參考模式 15）

5. GenAI 的逐步采用

當(dāng)用戶第一次接觸基于新技術(shù)的產(chǎn)品時(shí)，他們常常想知道系統(tǒng)能做什么和不能做什么，它如何工作以及他們應(yīng)該如何與它交互。

該模式提供了多維策略來幫助用戶使用 AI 產(chǎn)品或功能、減少錯(cuò)誤、與用戶準(zhǔn)備情況保持一致，以提供明智且以人為本的用戶體驗(yàn)。

如何使用此模式

這種模式是許多其他模式的頂峰

1. 從一開始就注重傳達(dá)好處：避免深入探討技術(shù)細(xì)節(jié)，并強(qiáng)調(diào)人工智能如何帶來新的價(jià)值。
2. 簡(jiǎn)化用戶引導(dǎo)體驗(yàn)：在詢問用戶數(shù)據(jù)共享偏好之前，先讓用戶體驗(yàn)系統(tǒng)的價(jià)值，并優(yōu)先提供基礎(chǔ) AI 功能的即時(shí)訪問權(quán)限。鼓勵(lì)用戶稍后注冊(cè)以解鎖高級(jí) AI 功能或分享更多詳細(xì)信息。例如，Adobe FireFly循序漸進(jìn)地引導(dǎo)用戶從基礎(chǔ)功能到高級(jí) AI 功能。
3. 定義自動(dòng)化水平（參考模式 4）并 逐步增加自主性或復(fù)雜性。
4. 通過針對(duì)錯(cuò)誤進(jìn)行設(shè)計(jì) 來提供可解釋性和信任（參考模式 16 和 17）。
5. 傳達(dá)數(shù)據(jù)隱私和控制（參考模式 21），以清楚地傳達(dá)如何收集、存儲(chǔ)、處理和保護(hù)用戶數(shù)據(jù)。

6. 利用心智模型

心智模型幫助用戶預(yù)測(cè)系統(tǒng)（網(wǎng)頁、應(yīng)用程序或其他類型的產(chǎn)品）的運(yùn)作方式，從而影響他們與界面的交互方式。當(dāng)產(chǎn)品與用戶現(xiàn)有的心智模型相符時(shí)，用戶會(huì)感覺直觀且易于上手。當(dāng)兩者發(fā)生沖突時(shí)，可能會(huì)導(dǎo)致用戶沮喪、困惑，甚至放棄。

例如，Github Copilot 建立在開發(fā)人員從傳統(tǒng)代碼自動(dòng)完成的思維模型之上，從而簡(jiǎn)化了向 AI 驅(qū)動(dòng)的代碼建議的過渡

例如，Adobe Photoshop 建立在使用矩形控件擴(kuò)展圖像的熟悉方法的基礎(chǔ)上，通過集成其生成填充功能，智能地填充新創(chuàng)建的空間。

如何使用此模式

通過提問來識(shí)別并建立現(xiàn)有的心智模型

1. 用戶旅程是什么以及用戶試圖做什么？
2. 哪些心智模型可能已經(jīng)存在？
3. 該產(chǎn)品是否打破了任何直觀的因果模式？
4. 你是否打破了現(xiàn)有的心智模型？如果是，請(qǐng)清晰地解釋如何以及原因。良好的引導(dǎo)、微文案和視覺提示可以幫助彌合差距。

7. 傳達(dá)產(chǎn)品限制

這種模式涉及清楚地傳達(dá)人工智能模型能做什么和不能做什么，包括其知識(shí)邊界、能力和局限性。

它有助于建立用戶信任、設(shè)定適當(dāng)?shù)钠谕⒎乐拐`用，并在模型出現(xiàn)故障或異常行為時(shí)減少挫敗感。

如何使用此模式

1. 明確說明模型的局限性：顯示過時(shí)知識(shí)或缺乏實(shí)時(shí)數(shù)據(jù)的上下文提示。例如，當(dāng)問題超出其知識(shí)范圍時(shí)， Claude會(huì)說明其知識(shí)范圍。
2. 當(dāng)模型無法提供合適的輸出時(shí)，提供回退或升級(jí)選項(xiàng)。例如，當(dāng)被問及與購物無關(guān)的問題時(shí)， Amazon Rufus會(huì)說：“它無法訪問事實(shí)信息，我只能協(xié)助解決與購物相關(guān)的問題和請(qǐng)求。”
3. 在產(chǎn)品營(yíng)銷、入職培訓(xùn)、工具提示或回應(yīng)免責(zé)聲明中明確限制。

8. 顯示思路鏈（CoT）

在人工智能系統(tǒng)中，思路鏈（CoT） 提示 技術(shù) 通過模仿人類更結(jié)構(gòu)化、循序漸進(jìn)的思維過程，增強(qiáng)了模型解決復(fù)雜問題的能力。

CoT 展示是一種用戶體驗(yàn)?zāi)Ｊ剑ㄟ^揭示 AI 是如何得出結(jié)論的來提高透明度。這可以增強(qiáng)用戶信任，提高可解釋性，并為用戶反饋提供空間，尤其是在高風(fēng)險(xiǎn)或模糊場(chǎng)景下。

例如，Perplexity通過顯示處理步驟來增強(qiáng)透明度，幫助用戶理解答案背后的深思熟慮的過程。

例如，Khanmigo是一種人工智能輔導(dǎo)系統(tǒng)，它通過模仿人類推理來逐步指導(dǎo)學(xué)生解決問題，以增強(qiáng)理解和學(xué)習(xí)。

如何使用此模式

1. 顯示“研究”和“推理”等狀態(tài) 來傳達(dá)進(jìn)展，減少用戶的不確定性，讓等待時(shí)間感覺更短。
2. 使用漸進(jìn)式披露：從高級(jí)摘要開始，并允許用戶根據(jù)需要擴(kuò)展細(xì)節(jié)。
3. 提供 AI 工具透明度：清晰顯示 AI 用于生成建議的外部工具和數(shù)據(jù)源。
4. 展現(xiàn)信心和不確定性：表明人工智能信心水平，并在相關(guān)時(shí)強(qiáng)調(diào)不確定性。

9. 利用多種輸出

GenAI 憑借其概率特性，能夠?qū)ν惠斎氘a(chǎn)生不同的響應(yīng)。這種模式通過并排呈現(xiàn)多個(gè)輸出來利用可變性。展示多樣化的選項(xiàng)有助于用戶創(chuàng)造性地探索、比較、改進(jìn)或做出更符合其意圖的決策。例如， Google Gemini提供了多種選項(xiàng)，幫助用戶探索、改進(jìn)并做出更明智的決策。

如何使用此模式

1. 解釋變化的目的：幫助用戶理解輸出之間的差異是故意的，旨在提供選擇。
2. 啟用編輯功能：讓用戶無縫地對(duì)輸出進(jìn)行評(píng)分、選擇、重新混合或編輯，從而塑造結(jié)果并提供反饋。例如， Midjourney 可以幫助用戶調(diào)整提示，并指導(dǎo)用戶使用重新混合功能進(jìn)行修改和編輯。

10.提供數(shù)據(jù)源

在 GenAI 應(yīng)用程序中，清晰地闡明數(shù)據(jù)源對(duì)于透明度、可信度和用戶信任至關(guān)重要。清晰地表明 AI 的知識(shí)來源有助于用戶評(píng)估響應(yīng)的可靠性并避免錯(cuò)誤信息。

這在醫(yī)療保健、金融或法律指導(dǎo)等高風(fēng)險(xiǎn)事實(shí)領(lǐng)域尤其重要，因?yàn)闆Q策必須基于經(jīng)過驗(yàn)證的數(shù)據(jù)。

如何使用此模式

1. 內(nèi)聯(lián)引用可靠來源：將來源顯示為腳注、工具提示或可折疊鏈接。例如，NoteBookLM會(huì)在其答案中添加引用，并將每個(gè)答案直接鏈接到用戶上傳的文檔部分。
2. 清晰披露訓(xùn)練數(shù)據(jù)范圍：對(duì)于生成工具（文本、圖像、代碼），請(qǐng)簡(jiǎn)單解釋模型訓(xùn)練時(shí)使用了哪些數(shù)據(jù)，以及未包含哪些數(shù)據(jù)。例如，Adobe Firefly披露其生成填充功能是在庫存圖像、公開授權(quán)作品以及版權(quán)已過期的公共領(lǐng)域內(nèi)容上進(jìn)行訓(xùn)練的。
3. 提供來源級(jí)信心：在有多個(gè)來源貢獻(xiàn)的情況下，直觀地區(qū)分更高信心或更權(quán)威的來源。

11. 傳達(dá)模型信心

AI 生成的輸出具有概率性，準(zhǔn)確度可能存在差異。顯示置信度分?jǐn)?shù)可以傳達(dá)模型對(duì)其輸出的確定性。這有助于用戶評(píng)估可靠性并做出更明智的決策。

如何使用此模式

1. 評(píng)估情境和決策風(fēng)險(xiǎn)：顯示模型置信度取決于情境及其對(duì)用戶決策的影響。在醫(yī)療保健、金融或法律咨詢等高風(fēng)險(xiǎn)場(chǎng)景中，顯示置信度分?jǐn)?shù)至關(guān)重要。然而，在AI 生成的藝術(shù)作品或故事敘述等低風(fēng)險(xiǎn)場(chǎng)景中，顯示置信度可能不會(huì)帶來太多價(jià)值，甚至可能帶來不必要的困惑。
2. 選擇合適的可視化：如果設(shè)計(jì)研究表明展示模型置信度有助于決策，那么下一步就是選擇合適的可視化方法。百分比、進(jìn)度條或一些修飾語（“可能”、“不確定”）都能有效地傳達(dá)置信度。合適的可視化方法取決于應(yīng)用程序的用例和用戶的熟悉程度。例如，Grammarly會(huì)使用“可能”之類的修飾語來描述它與用戶共同生成的內(nèi)容。
3. 在低信心情況下指導(dǎo)用戶行動(dòng)：提供前進(jìn)的路徑，例如提出澄清問題或提供替代選項(xiàng)。

12. 為記憶和回憶而設(shè)計(jì)

記憶和回憶是一個(gè)重要的概念和設(shè)計(jì)模式，它使人工智能產(chǎn)品能夠存儲(chǔ)和重用過去交互中的信息，例如用戶偏好、反饋、目標(biāo)或任務(wù)歷史，以提高連續(xù)性和情境感知。

• 通過記住過去的選擇或偏好來增強(qiáng)個(gè)性化
• 通過避免重復(fù)輸入請(qǐng)求來減輕用戶負(fù)擔(dān)，尤其是在多步驟或長(zhǎng)格式任務(wù)中
• 支持復(fù)雜任務(wù)，如項(xiàng)目規(guī)劃中的縱向工作流程、通過參考或借鑒過去的進(jìn)展進(jìn)行學(xué)習(xí)歷程。

用于訪問信息的記憶可能是短暫的（會(huì)話內(nèi)的短期）或持久的（跨會(huì)話的長(zhǎng)期），并且可能包括對(duì)話上下文、行為信號(hào)或明確的輸入。

如何使用此模式

1. 定義用戶上下文并選擇記憶類型。
   根據(jù)用例選擇記憶類型，例如短暫記憶、持久記憶或兩者兼有。購物助理可能實(shí)時(shí)跟蹤交互，無需為未來會(huì)話保留數(shù)據(jù)，而個(gè)人助理則需要長(zhǎng)期記憶來實(shí)現(xiàn)個(gè)性化。
2. 在用戶交互中智能地使用記憶
   為 LLM 構(gòu)建基本提示，以便根據(jù)上下文回憶和傳達(dá)信息（例如，“上次你喜歡更輕松的語氣。我應(yīng)該繼續(xù)嗎？”）。
3. 傳達(dá)透明度并提供控制功能
   清晰地傳達(dá)正在保存的內(nèi)容，并允許用戶查看、編輯或刪除已存儲(chǔ)的記憶。使“刪除記憶”操作易于訪問。例如，ChatGPT 在其平臺(tái)上提供了廣泛的控制功能，可隨時(shí)查看、更新或刪除記憶。

13.提供上下文輸入?yún)?shù)

情境輸入?yún)?shù)通過簡(jiǎn)化用戶交互來提升用戶體驗(yàn)，并更快地實(shí)現(xiàn)用戶目標(biāo)。通過利用用戶特定數(shù)據(jù)、用戶偏好、過往交互，甚至來自其他具有相似偏好的用戶的數(shù)據(jù)，GenAI 系統(tǒng)可以定制輸入和功能，以更好地滿足用戶意圖和決策。

如何使用此模式

1. 利用先前的交互：根據(jù)用戶先前輸入的內(nèi)容預(yù)填充輸入。參考 模式 12，記憶與回憶。
2. 使用自動(dòng)完成或智能默認(rèn)設(shè)置：在用戶輸入時(shí)，根據(jù)個(gè)人和全局使用模式提供智能的實(shí)時(shí)建議。例如，Perplexity會(huì)根據(jù)您當(dāng)前的查詢線索，提供智能的后續(xù)查詢建議。
3. 推薦交互式 UI 小部件：根據(jù)系統(tǒng)預(yù)測(cè)，提供定制的輸入小部件，例如提示框、滑塊和復(fù)選框，以增強(qiáng)用戶輸入體驗(yàn)。例如，ElevenLabs允許用戶通過顯示預(yù)設(shè)或默認(rèn)值來微調(diào)語音生成設(shè)置。

14. 為副駕駛/共同編輯/部分自動(dòng)化而設(shè)計(jì)

副駕駛是一種增強(qiáng)模式，AI 充當(dāng)協(xié)作助手，在用戶掌控全局的同時(shí)，提供情境化和數(shù)據(jù)驅(qū)動(dòng)的洞察。這種設(shè)計(jì)模式在戰(zhàn)略制定、構(gòu)思、寫作、設(shè)計(jì)或編碼等領(lǐng)域至關(guān)重要，因?yàn)檫@些領(lǐng)域的結(jié)果具有主觀性，用戶擁有獨(dú)特的偏好，或者用戶的創(chuàng)意輸入至關(guān)重要。

副駕駛 加快工作流程，增強(qiáng)創(chuàng)造力并減少認(rèn)知負(fù)荷，但人類仍保留創(chuàng)作權(quán)和最終決策權(quán)。

如何使用此模式

1. 嵌入內(nèi)聯(lián)幫助：AI 建議會(huì)根據(jù)上下文進(jìn)行呈現(xiàn)，方便用戶輕松接受、拒絕或修改。例如，Notion AI 可以幫助您起草、總結(jié)和編輯內(nèi)容，同時(shí)您可以掌控最終版本。
2. 保存用戶意圖和創(chuàng)意方向：讓用戶通過目標(biāo)、語氣或示例等輸入來引導(dǎo) AI，同時(shí)保持原創(chuàng)性和創(chuàng)意方向。例如，Jasper AI 允許用戶設(shè)置品牌語調(diào)和語氣指南，幫助構(gòu)建 AI 輸出，使其更好地匹配用戶意圖。

15. 設(shè)計(jì)自動(dòng)化的用戶控件

構(gòu)建 UI 級(jí)機(jī)制，讓用戶根據(jù)用戶目標(biāo)、上下文場(chǎng)景或系統(tǒng)故障狀態(tài)管理或覆蓋自動(dòng)化。

沒有系統(tǒng)能夠預(yù)測(cè)所有用戶情境。控制賦予用戶自主權(quán)，即使人工智能出錯(cuò)，也能保持信任。

如何使用此模式

1. 采用漸進(jìn)式展現(xiàn)：從最低限度的自動(dòng)化功能開始，逐漸允許用戶選擇更復(fù)雜或自主的功能。
   例如，Canva Magic Studio一開始會(huì)提供簡(jiǎn)單的 AI 建議，例如文本或圖像生成 ，然后逐步展示高級(jí)工具，例如 Magic Write、AI 視頻場(chǎng)景和品牌語音定制。
2. 為用戶提供自動(dòng)化控制功能： 提供諸如 開關(guān)、滑塊或基于規(guī)則的設(shè)置等UI 控件，讓用戶選擇何時(shí)以及如何控制自動(dòng)化功能。例如，Gmail 允許用戶禁用智能撰寫功能。
3. 自動(dòng)化錯(cuò)誤恢復(fù)設(shè)計(jì)：當(dāng) AI 出現(xiàn)故障（誤報(bào)/漏報(bào)）時(shí)，向用戶提供糾正措施。添加手動(dòng)覆蓋、撤消或升級(jí)到人工支持的選項(xiàng)。例如，GitHub Copilot 建議內(nèi)聯(lián)代碼，但當(dāng)輸出關(guān)閉時(shí)，開發(fā)人員可以輕松拒絕、修改或撤消建議。

16. 設(shè)計(jì)用戶輸入錯(cuò)誤狀態(tài)

GenAI 系統(tǒng)通常依賴于對(duì)人類輸入的解讀。當(dāng)用戶提供模糊、不完整或錯(cuò)誤的信息時(shí)，AI 可能會(huì)誤解其意圖或產(chǎn)生低質(zhì)量的輸出。

輸入錯(cuò)誤通常反映的是用戶期望與系統(tǒng)理解之間的不匹配。妥善處理這些問題對(duì)于維護(hù)信任和確保順暢的交互至關(guān)重要。

如何使用此模式

1. 優(yōu)雅地處理拼寫錯(cuò)誤：當(dāng)置信度較高（例如，> 80％ ）時(shí)，使用拼寫檢查或模糊匹配自動(dòng)糾正常見的輸入錯(cuò)誤，并巧妙地進(jìn)行表面更正（“顯示結(jié)果......”）。
2. 提出澄清性問題：當(dāng)輸入過于模糊或有多種解釋時(shí)，提示用戶提供缺失的上下文。在對(duì)話設(shè)計(jì)中，當(dāng)意圖明確但實(shí)體不明確時(shí)，就會(huì)發(fā)生此類錯(cuò)誤。了解更多關(guān)于實(shí)體和意圖的信息。例如，當(dāng) ChatGPT 給出“首都是什么？”這樣的低語境提示時(shí)，它會(huì)提出后續(xù)問題，而不是猜測(cè)。
3. 支持快速更正：方便用戶編輯或覆蓋您的解釋。例如，ChatGPT 在已提交的提示旁邊顯示一個(gè)編輯按鈕，方便用戶修改輸入。

17. 人工智能系統(tǒng)錯(cuò)誤狀態(tài)的設(shè)計(jì)

GenAI 輸出本質(zhì)上是概率性的，容易出現(xiàn)幻覺、偏見和上下文錯(cuò)位等錯(cuò)誤。

與傳統(tǒng)系統(tǒng)不同，GenAI 的錯(cuò)誤狀態(tài)難以預(yù)測(cè)。針對(duì)這些狀態(tài)進(jìn)行設(shè)計(jì)需要透明度、恢復(fù)機(jī)制和用戶自主性。精心設(shè)計(jì)的錯(cuò)誤狀態(tài)可以幫助用戶了解 AI 系統(tǒng)的邊界并重新獲得控制權(quán)。

混淆矩陣有助于分析人工智能系統(tǒng)錯(cuò)誤，并通過顯示以下計(jì)數(shù)來深入了解模型的執(zhí)行情況
-真陽性（正確識(shí)別陽性案例）
-假陽性（錯(cuò)誤識(shí)別陽性案例）
-真陰性（正確識(shí)別陰性案例）
-假陰性（未能識(shí)別陰性案例）

人工智能錯(cuò)誤和故障狀態(tài)的場(chǎng)景

1. 系統(tǒng)故障（錯(cuò)誤輸出）
   由于數(shù)據(jù)質(zhì)量差、存在偏見或模型錯(cuò)覺，會(huì)出現(xiàn)假陽性或假陰性。例如，花旗銀行金融欺詐系統(tǒng)會(huì)顯示一條消息：“異常交易。您的卡已被凍結(jié)。如果是您本人操作的，請(qǐng)驗(yàn)證您的身份。”
2. 系統(tǒng)限制錯(cuò)誤（無輸出）
   由于未經(jīng)訓(xùn)練的用例或知識(shí)缺口，會(huì)出現(xiàn)真負(fù)例。例如，當(dāng) ODQA 系統(tǒng)接收到訓(xùn)練數(shù)據(jù)集之外的用戶輸入時(shí)，會(huì)拋出以下錯(cuò)誤：“抱歉，我們沒有足夠的信息。請(qǐng)嘗試其他查詢！”
3. 上下文錯(cuò)誤（誤解輸出）由于解釋不清或與用戶預(yù)期相沖突而導(dǎo)致用戶困惑的
   真陽性結(jié)果屬于上下文錯(cuò)誤。例如，當(dāng)用戶從新設(shè)備登錄時(shí)，被鎖定。AI 會(huì)回復(fù)：“您的登錄嘗試已被標(biāo)記為可疑活動(dòng)。”

如何使用此模式

1. 傳達(dá)各種場(chǎng)景的人工智能錯(cuò)誤：使用諸如
   “這可能不準(zhǔn)確”、“這看起來像......”或表面置信度水平之類的短語來幫助校準(zhǔn)信任。
2. 使用模式傳達(dá)低置信度輸出的模型置信度。
3. 提供錯(cuò)誤恢復(fù)：如果發(fā)生系統(tǒng)故障或上下文錯(cuò)誤，請(qǐng)?zhí)峁┣逦穆窂絹砀采w、重試或升級(jí)問題。
   例如，使用“嘗試其他查詢”、“讓我改進(jìn)一下”或“聯(lián)系客服”等方式。
4. 啟用用戶反饋：輕松報(bào)告幻覺或錯(cuò)誤輸出。了解更多關(guān)于模式 19 的信息。設(shè)計(jì)以捕獲用戶反饋。

18. 設(shè)計(jì)時(shí)要捕捉用戶反饋

現(xiàn)實(shí)世界的一致性需要直接的用戶反饋來改進(jìn)模型，從而改進(jìn)產(chǎn)品。當(dāng)人們與人工智能系統(tǒng)互動(dòng)時(shí)，他們的行為會(huì)塑造并影響他們未來收到的輸出。從而形成一個(gè)持續(xù)的反饋循環(huán)，系統(tǒng)和用戶的行為都會(huì)隨著時(shí)間的推移而不斷調(diào)整。例如，ChatGPT使用“反應(yīng)”按鈕和“評(píng)論”框來收集用戶反饋。

如何使用此模式

1. 考慮隱性反饋：捕捉用戶操作，例如跳過、忽略、編輯或互動(dòng)頻率。這些被動(dòng)信號(hào)提供了有價(jià)值的行為線索，有助于調(diào)整推薦內(nèi)容或發(fā)現(xiàn)用戶不感興趣的行為模式。
2. 尋求明確的反饋：通過點(diǎn)贊/踩、NPS 評(píng)分小部件或用戶操作后的快速調(diào)查問卷，收集用戶的直接反饋。利用這些反饋來改進(jìn)模型行為和產(chǎn)品契合度。
3. 告知反饋的用途：讓用戶了解他們的反饋將如何影響未來的體驗(yàn)。這可以增強(qiáng)信任，并鼓勵(lì)用戶持續(xù)做出貢獻(xiàn)。

19. 模型評(píng)估設(shè)計(jì)

強(qiáng)大的 GenAI 模型需要在訓(xùn)練期間以及部署后持續(xù)進(jìn)行評(píng)估。評(píng)估旨在確保模型按預(yù)期運(yùn)行，識(shí)別錯(cuò)誤和幻覺，并與用戶目標(biāo)保持一致，尤其是在高風(fēng)險(xiǎn)領(lǐng)域。

如何使用此模式

有三種關(guān)鍵的評(píng)估方法可以改進(jìn)機(jī)器學(xué)習(xí)系統(tǒng)。

1. 基于法學(xué)碩士 (LLM) 的評(píng)估（LLM-as-a-judge）一個(gè)獨(dú)立的語言模型充當(dāng)自動(dòng)評(píng)判者。它可以對(duì)回復(fù)進(jìn)行評(píng)分，解釋其推理過程，并分配諸如有用/有害或正確/不正確等標(biāo)簽。
   例如，Amazon Bedrock 使用 LLM-as-a-Judge 方法來評(píng)估 AI 模型的輸出。一個(gè)獨(dú)立的可信 LLM（例如 Claude 3 或 Amazon Titan）會(huì)根據(jù)有用性、準(zhǔn)確性、相關(guān)性和安全性自動(dòng)審核和評(píng)分回復(fù)。例如，比較兩個(gè) AI 生成的針對(duì)同一提示的回復(fù)，評(píng)判模型會(huì)選擇更優(yōu)的那個(gè)。這種自動(dòng)化方法可將評(píng)估成本降低高達(dá) 98%，并加快模型選擇速度，而無需依賴緩慢且昂貴的人工審核。
2. 啟用基于代碼的評(píng)估：對(duì)于結(jié)構(gòu)化任務(wù)，使用測(cè)試套件或已知輸出來驗(yàn)證模型性能，特別是對(duì)于數(shù)據(jù)處理、生成或檢索。
3. 捕捉人工評(píng)估：集成實(shí)時(shí) UI 機(jī)制，方便用戶將輸出標(biāo)記為有用、有害、不正確或不清楚。更多詳情，請(qǐng)參閱模式 19。捕捉用戶反饋的設(shè)計(jì)
4. LLM 作為評(píng)判者和人工評(píng)估的混合方法將準(zhǔn)確率大幅提高到 99%。

20. AI護(hù)欄設(shè)計(jì)

人工智能護(hù)欄的設(shè)計(jì)意味著在GenAI模型中建立實(shí)踐和原則，以最大限度地減少傷害、錯(cuò)誤信息、不良行為和偏見。至關(guān)重要的是

• 保護(hù)用戶和兒童免受有害語言、虛構(gòu)事實(shí)、偏見或虛假信息的侵害。
• 建立信任和采用：當(dāng)用戶知道系統(tǒng)避免仇恨言論和錯(cuò)誤信息時(shí)，他們會(huì)感到更安全并愿意經(jīng)常使用它。
• 道德合規(guī)：歐盟人工智能法案等新規(guī)要求人工智能設(shè)計(jì)必須安全。團(tuán)隊(duì)必須符合這些標(biāo)準(zhǔn)，才能保持合法合規(guī)并承擔(dān)社會(huì)責(zé)任。

如何使用此模式

1. 分析并引導(dǎo)用戶輸入：如果提示可能導(dǎo)致不安全或敏感內(nèi)容，則引導(dǎo)用戶進(jìn)行更安全的交互。例如，當(dāng)Miko 機(jī)器人遇到臟話時(shí)，它會(huì)回答“我不允許使用此類語言”。
2. 過濾輸出并審核內(nèi)容：使用實(shí)時(shí)審核功能檢測(cè)并過濾可能有害的 AI 輸出，在顯示給用戶之前屏蔽或重新構(gòu)建它們。例如，顯示一條注釋：“此回復(fù)已根據(jù)我們的安全準(zhǔn)則進(jìn)行了修改。”
3. 使用主動(dòng)警告：當(dāng)用戶接觸敏感或高風(fēng)險(xiǎn)信息時(shí)，巧妙地通知他們。例如，“這只是信息建議，不能替代醫(yī)療指導(dǎo)。”
4. 創(chuàng)建強(qiáng)大的用戶反饋機(jī)制：讓用戶輕松舉報(bào)不安全、帶有偏見或虛假信息的輸出，從而通過主動(dòng)學(xué)習(xí)循環(huán)逐步改進(jìn)人工智能。例如，Instagram 提供了應(yīng)用內(nèi)選項(xiàng)，方便用戶舉報(bào)傷害、偏見或虛假信息。
5. 交叉驗(yàn)證關(guān)鍵信息：對(duì)于高風(fēng)險(xiǎn)領(lǐng)域（例如醫(yī)療保健、法律、金融），使用可信數(shù)據(jù)庫備份 AI 生成的輸出，以捕捉幻覺。參考模式 10， 提供數(shù)據(jù)源。

21. 傳達(dá)數(shù)據(jù)隱私和控制

這種模式確保 GenAI 應(yīng)用程序清楚地傳達(dá)如何收集、存儲(chǔ)、處理和保護(hù)用戶數(shù)據(jù)。

GenAI 系統(tǒng)通常依賴于敏感數(shù)據(jù)、情境數(shù)據(jù)或行為數(shù)據(jù)。處理不當(dāng)可能會(huì)導(dǎo)致用戶不信任、法律風(fēng)險(xiǎn)或意外濫用。清晰地傳達(dá)隱私保護(hù)措施有助于用戶感到安全、受到尊重并掌控全局。例如，Slack AI 明確表示，客戶數(shù)據(jù)仍歸客戶所有并控制，不會(huì)用于訓(xùn)練 Slack 或任何第三方 AI 模型。

如何使用此模式

1. 顯示透明度：當(dāng) GenAI 功能訪問用戶數(shù)據(jù)時(shí)，顯示訪問內(nèi)容和原因的解釋。
2. 設(shè)計(jì)選擇加入和選擇退出流程：允許用戶輕松切換數(shù)據(jù)共享偏好設(shè)置。
3. 啟用數(shù)據(jù)審查和刪除：允許用戶查看、下載或刪除他們的數(shù)據(jù)歷史記錄，從而讓他們能夠持續(xù)控制。

蘭亭妙微(m.lzhte.cn )是一家專注而深入的界面設(shè)計(jì)公司，為期望卓越的國(guó)內(nèi)外企業(yè)提供卓越的大數(shù)據(jù)可視化界面設(shè)計(jì)、B端界面設(shè)計(jì)、桌面端界面設(shè)計(jì)、APP界面設(shè)計(jì)、圖標(biāo)定制、用戶體驗(yàn)設(shè)計(jì)、交互設(shè)計(jì)、UI咨詢、高端網(wǎng)站設(shè)計(jì)、平面設(shè)計(jì)，以及相關(guān)的軟件開發(fā)服務(wù)，咨詢電話：01063334945。我們建立了一個(gè)微信群，每天分享國(guó)內(nèi)外優(yōu)秀的設(shè)計(jì)，有興趣請(qǐng)加入一起學(xué)習(xí)成長(zhǎng)，咨詢及進(jìn)群請(qǐng)加藍(lán)小助微信ben_lanlan。