研究人員正確理解人工智能決策的三種方法

2022-08-23 11:34:03來源：千家網(wǎng) 關(guān)鍵詞：人工智能人工智能模型人工智能研究人員閱讀量：21791

導讀：為了更好地理解他們構(gòu)建的模型，人工智能研究人員開發(fā)了三種主要的解釋方法。這些是局部解釋方法，只解釋一個具體的決定，而不是整個模型的決定，考慮到規(guī)模，這可能具有挑戰(zhàn)性。

　　理解人工智能決策對研究人員、決策者和廣大人民來說非常重要。幸運的是，有一些方法可以確保我們了解更多。前沿人工智能公司和學術(shù)屆使用的深度學習模型已經(jīng)變得如此復雜，以至于即使是構(gòu)建模型的研究人員也難以理解正在做出的決策。

　　這一點在某錦標賽上得到了最明顯的體現(xiàn)。在這場比賽中，數(shù)據(jù)科學家和職業(yè)圍棋選手經(jīng)常被人工智能在比賽中的決策所迷惑，因為它做出了非正式的游戲，而這并不被認為是最強的一步。

　　為了更好地理解他們構(gòu)建的模型，人工智能研究人員開發(fā)了三種主要的解釋方法。這些是局部解釋方法，只解釋一個具體的決定，而不是整個模型的決定，考慮到規(guī)模，這可能具有挑戰(zhàn)性。

　　特征歸因

　　通過特征歸因，人工智能模型將識別輸入的哪些部分對特定決策是重要的。對于X射線，研究人員可以看到熱圖或模型認為對其決策最重要的單個像素。

　　使用這種特征歸因解釋，可以檢查是否存在虛假相關(guān)性。例如，它會顯示水印中的像素是否被突出顯示，或者實際腫瘤中的像素是否被突出顯示。

　　反事實解釋

　　當做出決定時，我們可能會感到困惑，不知道為什么人工智能會做出這樣或那樣的決定。由于人工智能被部署在高風險的環(huán)境中，如保險、抵押貸款等，了解人工智能拒絕因素或上訴的原因應該有助于他們在下次申請時獲得批準。

　　反事實解釋方法的好處是，它確切地告訴你需要如何更改輸入來翻轉(zhuǎn)決策，這可能具有實際用途。對于那些申請抵押貸款卻沒有得到的人來說，這個解釋會告訴他們需要做些什么來達到他們想要的結(jié)果。

　　樣本重要性

　　樣本重要性解釋需要訪問模型背后的基礎數(shù)據(jù)。如果研究人員注意到他們認為是錯誤的，他們可以運行一個樣本重要性解釋，以查看人工智能是否輸入了它無法計算的數(shù)據(jù)，從而導致判斷錯誤。

上一篇：關(guān)注！工信部為機器人產(chǎn)業(yè)全面總結(jié)定調(diào)

下一篇：光熱發(fā)電，助力新型電力系統(tǒng)形成

我要評論

昵稱

匿名

文明上網(wǎng)，理性發(fā)言。（您還可以輸入200個字符)

表情

所有評論僅代表網(wǎng)友意見，與本站立場無關(guān)。

AI已經(jīng)成為人形機器人最大的瓶頸？
在看似繁榮的表象下，行業(yè)共識正在逐漸浮現(xiàn)：人工智能(AI)技術(shù)的滯后，已成為人形機器人實現(xiàn)真正智能化的最大瓶頸。
人形機器人人工智能
2025-04-28 15:32:08
從“原子”到算法！人工智能領(lǐng)域的“元素周期表”誕生
研究團隊發(fā)現(xiàn)，處于同一“主族“的算法(如支持向量機與核方法)具有相似的數(shù)學內(nèi)核，而位于相同“周期“的算法(如決策樹與隨機森林)則共享相近的泛化能力圖譜。
人工智能計算機科學
2025-04-27 17:01:21
賓利發(fā)布突破性人工智能皮革檢測技術(shù)
人工智能皮革檢測系統(tǒng)并不能完全取代賓利訓練有素的工匠的技藝。通過自動化人工檢測流程，該系統(tǒng)能夠提供最高品質(zhì)的皮革，工匠們可以用它來打造精致的手工縫制細節(jié)。
人工智能皮革檢測技術(shù)
2025-04-27 14:42:55
早報|深圳大學人工智能學院正式揭牌成立；SK海力士完成96GB CXL內(nèi)存模塊驗證
深圳大學人工智能學院正式揭牌成立,學院建設基礎學科研究中心和算力平臺，與騰訊云共建產(chǎn)業(yè)學院；SK海力士宣布，其基于CXL 2.0標準的DDR5 96GB內(nèi)存模塊已通過客戶驗證......
人工智能內(nèi)存模塊數(shù)據(jù)傳輸設備
2025-04-23 10:41:12
寶馬押寶人工智能，能賭贏嗎？
寶馬在電池續(xù)航方面也取得了顯著進展，寶馬第六代動力電池技術(shù)搭載大圓柱電芯，能量密度提升至300Wh/kg，支持15分鐘內(nèi)完成80%電量快充。
寶馬人工智能
2025-04-16 14:58:14
人工智能與物聯(lián)網(wǎng)融合：通往更智能未來的大門
人工智能與物聯(lián)網(wǎng)的融合蘊含著變革性的潛力，有望重塑各行各業(yè)，徹底改變?nèi)粘Ｉ睿楦悄堋⒏ヂ?lián)的未來鋪平道路。未來，AIoT技術(shù)將更加自主，能夠獨立完成復雜任務，無需人工干預。
人工智能物聯(lián)網(wǎng)AIoT技術(shù)
2025-04-14 11:28:21

版權(quán)與免責聲明：

凡本站注明“來源：智能制造網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡有限公司-智能制造網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本站授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應在授權(quán)范圍內(nèi)使用，并注明“來源：智能制造網(wǎng)”。違反上述聲明者，本站將追究其相關(guān)法律責任。

本站轉(zhuǎn)載并注明自其它來源（非智能制造網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點或和對其真實性負責，不承擔此類作品侵權(quán)行為的直接責任及連帶責任。如其他媒體、平臺或個人從本站轉(zhuǎn)載時，必須保留本站注明的作品第一來源，并自負版權(quán)等法律責任。如擅自篡改為“稿件來源：智能制造網(wǎng)”，本站將依法追究責任。

鑒于本站稿件來源廣泛、數(shù)量較多，如涉及作品內(nèi)容、版權(quán)等問題，請與本站聯(lián)系并提供相關(guān)證明材料：聯(lián)系電話：0571-89719789；郵箱：[email protected]。

不想錯過行業(yè)資訊？

訂閱 智能制造網(wǎng)APP

一鍵篩選來訂閱

信息更豐富

今日焦點/FOCUS 更多

熱門話題/TOPICS更多

人形機器人奏響“狂歡曲”

高難度！深圳眾擎實現(xiàn)全球首例人形機器人前空翻

宇樹科技王興興：預計年底H1機器人跑速達10米/秒超博爾特

“智能經(jīng)濟”駛?cè)氚l(fā)展“快車道”

AI智能體Manus橫空出世！中國AI實現(xiàn)自主執(zhí)行能力跨越式突破

數(shù)轉(zhuǎn)智改，安全先行！“以模制模”護航企業(yè)數(shù)智升級

精彩直播/VIDEO更多

回放

數(shù)字孿生賦能新型工業(yè)化分論壇

: 數(shù)字孿生賦能低空經(jīng)濟分論壇

: 數(shù)字孿生賦能城市全域數(shù)字化轉(zhuǎn)型分論壇

推薦產(chǎn)品/PRODUCT 更多

超聲波清洗機elma easy50R集成掃描功能?
超聲波清洗機,科研、醫(yī)療、工業(yè)清洗等領(lǐng)域,需要快速上手和日常清洗任務的場合,不銹鋼
品牌
Elma
內(nèi)轉(zhuǎn)子無框力矩電機
大直徑,大空心軸,大扭矩
品牌
其他品牌
光柵分光測色儀庫存庫號：D159191
高精度分光測色儀
品牌
其他品牌
地埋污水處理設備安裝
埋地式污水處理設備,小區(qū)污水處理設備,小型污水處理設備,碳鋼、不銹鋼、玻璃鋼,地埋式污水處理設備安裝
品牌
明基環(huán)保
HAST高溫高濕高壓老化箱
HAST壽命試驗箱,HAST 試驗箱,高加速溫度和濕度壓力測試箱,加速老化試驗機,高溫高濕高壓老化箱
品牌
皓天鑫
瑞士OZONIA小型臭氧機發(fā)生器
LABOZON®系列,OZONIA小型臭氧機,OZONIA進口小型臭氧機,OZONIA實驗室用臭氧發(fā)生器,OZONIA醫(yī)用臭氧消毒設備
品牌
其他品牌

国产免费一区二区三区最新不卡_gogo全球大胆高清人露出91_国产无遮挡一区二区三区毛片日本_免费淫视频_俄罗斯16一20sex牲色另类_免费观看黄色片视频

研究人員正確理解人工智能決策的三種方法

熱門評論

全部評論