埃森哲推出AI測試服務(wù)，深度學(xué)習(xí)算法的“黑匣子”問題或?qū)⒉辉?/h1>

作者：科技行者

2018-02-28 09:34

分享至：

• 
• 
• 

當(dāng)前人工智能的大部分算法雖然高效，卻缺乏透明度。為此，許多專家和機(jī)構(gòu)正在不斷研究，希望能夠提高對(duì)深度學(xué)習(xí)算法的透明度和可解釋性。

----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-

2018-02-28 09:34 ? 科技行者

現(xiàn)如今，AI的智能、自主及高效程度又來到了一個(gè)發(fā)展高潮，成為人類完成日常工作、改善生活、提升幸福感的得力助手。但同時(shí)，由于是人類賦予了AI系統(tǒng)自主決策的能力，因此，許多人開始提出，人類需要對(duì)AI“負(fù)責(zé)”。

如何負(fù)責(zé)？其中包括三大核心，即問責(zé)制、責(zé)任制和透明度。這三點(diǎn)構(gòu)成了AI的A.R.T原則。

• 責(zé)任制指的是人們?cè)谘邪l(fā)、生產(chǎn)、銷售和使用AI系統(tǒng)的過程中所承擔(dān)的工作，也包括AI系統(tǒng)為人類制定決策、識(shí)別錯(cuò)誤等過程中承擔(dān)意外結(jié)果的能力。
• 問責(zé)制，即解釋個(gè)人行為并對(duì)其負(fù)責(zé)的能力。比如，無人駕駛汽車碰撞行人的責(zé)任應(yīng)由誰承擔(dān)？是傳感器、制動(dòng)器等硬件的設(shè)計(jì)者？是自主駕駛軟件的設(shè)計(jì)師？是批準(zhǔn)無人駕駛汽車上路的權(quán)力機(jī)關(guān)？還是個(gè)性化設(shè)置汽車決策制定系統(tǒng)的車主？顯然，汽車是產(chǎn)品，其自身無法承擔(dān)責(zé)任，但一切利益攸關(guān)方都難逃其咎。因此，基于問責(zé)原則，理想的模型和算法應(yīng)該賦予AI系統(tǒng)以解釋其自主制定決策依據(jù)的能力。
• 透明度，即詮釋、檢查和展示AI系統(tǒng)諸多運(yùn)行機(jī)制的義務(wù)，涉及制定決策、適應(yīng)環(huán)境、使用和管理已生成數(shù)據(jù)等方面。如今AI算法基本都是“黑匣子”。因此，我們需研發(fā)檢驗(yàn)AI算法及其結(jié)果的方法。此外，還需采用透明的數(shù)據(jù)管理機(jī)制，確保合理透明地收集、生成和管理用于訓(xùn)練算法和制定決策的數(shù)據(jù)，同時(shí)減少偏見，強(qiáng)化數(shù)據(jù)隱私及安全。

然而，當(dāng)前的大部分算法雖然高效，卻缺乏透明度。為此，許多專家和機(jī)構(gòu)正在不斷研究，希望能夠提高對(duì)深度學(xué)習(xí)算法的透明度和可解釋型。比如，谷歌一直呼吁的就是“公平而負(fù)有責(zé)任”的AI研發(fā)。

對(duì)此，不久前普華永道（PwC）公布了一個(gè)“負(fù)責(zé)任的AI框架（Responsible AI framework）”，強(qiáng)調(diào)了專用AI提高結(jié)構(gòu)性能，提高AI透明度的重要性。

▲Responsible AI framework

埃森哲普華永道黑匣子深度學(xué)習(xí)