Trust AI@TUV SUD專欄：人工智能在工業(yè)4.0中的應用及其安全問題

廣州2022年11月1日 /美通社/ -- 歐盟人工智能（Artificial Intelligence，簡稱AI。）法案將于2024年強制執(zhí)行， 為協(xié)助中國人工智能相關(guān)企業(yè)提前應對即將到來的國際監(jiān)管，TUV南德意志集團（以下簡稱"TUV南德"）已推出人工智能評估服務：AI質(zhì)量架構(gòu)評估方案。

本文為Trust AI@TUV SUD系列專欄的第八篇：人工智能在工業(yè)4.0中的應用及其安全問題。

人工智能在工業(yè)4.0中的應用

隨著電子商務的發(fā)展，傳統(tǒng)以產(chǎn)品為導向的工業(yè)生產(chǎn)形式正在被以解決方案和以客戶為導向的理念所取代。工廠收到的生產(chǎn)訂單批量越來越小，差異越來越大，直至完全的個性化生產(chǎn)。但是由于成本、速度、精度等因素，或者問題的解決超出人類能力范圍，完全的個性化生產(chǎn)需要生產(chǎn)過程具有更高水平的自主性，而這需要提升生產(chǎn)系統(tǒng)的認知能力，只能通過AI技術(shù)來實現(xiàn)。以定制化的客戶需求為出發(fā)點，生產(chǎn)系統(tǒng)將從"自動"轉(zhuǎn)為"自主"，生產(chǎn)和物流策略將在AI的幫助下進行自我優(yōu)化。

AI的使用旨在提高工業(yè)流程的效率和有效性。從工業(yè)的角度來看，AI技術(shù)可以被理解為能夠幫助制造系統(tǒng)感知環(huán)境、處理所感知的事物、獨立解決問題、尋找解決問題的新方法、做出決策的方法和程序，尤其是從經(jīng)驗中學習，以便制造系統(tǒng)更熟練地完成動作和任務。過程中對人工干預的需求減少了。

在工業(yè)4.0的語境下，在工業(yè)流程中實施AI的關(guān)鍵是資產(chǎn)管理殼(Asset Administration Shell)，它可以連接數(shù)據(jù)源、學習機制、系統(tǒng)邊界和人工干預。工業(yè)4.0的參考模型架構(gòu) (RAMI 4.0) 的結(jié)構(gòu)化網(wǎng)絡組件和標準化功能接口也為將 AI技術(shù)集成到工業(yè)生產(chǎn)過程中提供了基礎。

AI在工業(yè)環(huán)境中廣泛應用的一個領(lǐng)域是對傳感器數(shù)據(jù)的分析和解釋，這些數(shù)據(jù)分布在機器和生產(chǎn)設施中。 它記錄機器各個不同方面的狀態(tài)，并據(jù)此執(zhí)行動作。其核心目的是識別不明顯的相關(guān)性，比如實現(xiàn)預測性維護工作。AI還可以用于工業(yè)生產(chǎn)過程中的流程、物流和能耗優(yōu)化，例如，為了響應環(huán)境中的波動，必須調(diào)整復雜的相互關(guān)聯(lián)的機械設定參數(shù)。"物聯(lián)網(wǎng)"，即分布式數(shù)據(jù)提供者和數(shù)據(jù)用戶的相互通信，是AI的基礎。

人類定義系統(tǒng)邊界

AI包括一系列應用程序和技術(shù)。這些應用程序和技術(shù)能夠使系統(tǒng)實現(xiàn)自主功能，并使資產(chǎn)增值。"自主"的能力必須控制在人類定義的系統(tǒng)邊界內(nèi)。由人類定義整體系統(tǒng)要達到哪一等級的自主能力，并決定允許AI運行的區(qū)域和功能。一個系統(tǒng)的自主程度不一定由AI的技術(shù)限制決定，還可能受到法律框架、人類行為的預估或數(shù)據(jù)保護要求等方面的影響。

自主等級定義了所使用的AI技術(shù)的系統(tǒng)邊界，即允許執(zhí)行哪些任務。舉一個大眾更加熟悉的例子，自主等級3的自動駕駛汽車可以獨立在高速公路上行駛，但不能獨立的離開高速公路。等級3以上的自主系統(tǒng)必須能夠獨立感知環(huán)境并在指定的系統(tǒng)邊界內(nèi)做出"真正的"自主決策，而無需進一步的人工干預。這引發(fā)了重要的法律問題，例如關(guān)于決策的責任和可理解性。這些是整個社會需要討論的問題，超越了工業(yè)和政治領(lǐng)域，無論是自動駕駛還是工業(yè)生產(chǎn)過程中AI的使用。

與簡單自動化過程的經(jīng)典程序相比，在流程更復雜、決策要求更高的情況下，AI的使用意味著不能每次都獲得完全相同的結(jié)果。這是因為學習過程使用了大量的數(shù)據(jù)和信息。 使用AI追求的是不斷優(yōu)化流程并在出現(xiàn)問題時做出"正確"的決策。 允許AI系統(tǒng)提出的并非完全符合預期的方案建議， 但是做出的決定必須始終是合理的，并且盡可能符合預期。

AI對工業(yè)過程的沖擊可以分為兩個階段：決策（規(guī)則創(chuàng)建/設計）和執(zhí)行（規(guī)則執(zhí)行），可以認為分別是決策所需的技能（在編程時確定）和執(zhí)行決策的動作（在執(zhí)行時產(chǎn)生影響）。在采用了AI輔助技術(shù)的工業(yè)系統(tǒng)設計中，系統(tǒng)通過初始學習過程進行訓練，并與部分經(jīng)典編程一起執(zhí)行工業(yè)過程。在初始"設計"階段，扮演"監(jiān)督者"角色的人類需要提前決定學習過程的許可程度，即哪些數(shù)據(jù)可以用于第一個學習階段。以及允許AI系統(tǒng)在過程控制期間接收哪些數(shù)據(jù)以進行進一步的學習。盡管優(yōu)化過程需要數(shù)據(jù)，但必須避免過擬合。這是因為數(shù)據(jù)分析的過擬合會對現(xiàn)有的問題解決模型產(chǎn)生負面影響。規(guī)則的執(zhí)行可以按自主等級分類。如下圖所示。

人工智能在工業(yè)應用中的倫理討論

工業(yè)生產(chǎn)，特別是工業(yè)4.0中使用AI，有很多倫理方面的問題，但是一般來說"強人工智能"不在討論范圍?？梢砸话阈缘恼J為，用于工業(yè)過程的AI旨在通過自動化流程擴展人類的能力。工業(yè)AI應用在本質(zhì)上主要是技術(shù)性的應用程序，不會對人類生活產(chǎn)生重大沖擊。然而，這并不意味著這些應用程序不用受制于工業(yè)法規(guī)，例如職業(yè)安全法規(guī)或功能安全法規(guī)。這些法規(guī)，無論是在歐洲或世界各地，都是基于人類社會長期發(fā)展而來的基本的倫理原則。

關(guān)于"自主原則"，值得一提的是，機器的決策傳統(tǒng)上是基于預先編程的算法做出的，因而是確定性的。但是盡管深度神經(jīng)網(wǎng)絡可以被人類將參數(shù)設定在非常狹小的范圍內(nèi)，仍然可能以不確定的方式行動。因此，現(xiàn)代AI研究人員將"可解釋性"視為人類增強對自主AI的信任的重要領(lǐng)域之一。

人工智能對機械安全的沖擊

隨著AI，物聯(lián)網(wǎng)和機器人技術(shù)的發(fā)展，越來越多的不依賴于人類操作員的先進機械投放市場。特別是協(xié)作機器人，由于可以在環(huán)境中學習新的動作而變得更加自主。這些先進機械可以實時處理信息，自學習，自主規(guī)劃移動路線，根據(jù)環(huán)境動態(tài)調(diào)整或改進動作，因此給傳統(tǒng)的基于考慮"最壞可能"的風險評估并固定安全保護設置的機械安全理念提出了新的挑戰(zhàn)。

新版機械指令草案對于采用AI的機械產(chǎn)品及其控制系統(tǒng)增加了很多具體的要求:例如：

在核心職業(yè)健康安全要求(EHSR)中，制造商或其歐盟代理需要執(zhí)行的風險分析和風險降低流程的c)條修改如下:

確定機械產(chǎn)品生命周期內(nèi)可能產(chǎn)生的危險及其關(guān)聯(lián)的危險場景，包括在機器投放市場的時刻起可以預見的，機器設計達到的自主等級決定的，全部或部分介入的行為或邏輯可能產(chǎn)生危險。就此而言，當機械產(chǎn)品集成了AI系統(tǒng)，機械產(chǎn)品的風險評估必須考慮為滿足歐洲議會和歐盟理事會提出的AI法案所執(zhí)行的風險評估。

高風險機械產(chǎn)品清單中增加了兩項與AI相關(guān)的產(chǎn)品(軟件):

24.保證安全功能的軟件，包括AI系統(tǒng) 

25.嵌入了保證安全功能的AI系統(tǒng)的機械 

人工智能在工業(yè)4.0中的信息安全

• 人工智能與邊緣計算

由于電子產(chǎn)業(yè)的飛速發(fā)展，AI的應用也逐漸邊緣化（邊緣計算）。大部分AI只有在訓練的時候需要大量計算能力，而在使用時，小型設備即可滿足其運算要求，比如手機。在工業(yè)4.0中，AI的應用也逐漸從云中轉(zhuǎn)移到公司內(nèi)部運行維護，這樣也可減少遠程的成本和風險。但是，雖然在邊緣計算中的AI應用可以極大地提高產(chǎn)業(yè)效率和智能化，但同時其本身也存在信息安全風險，需要以最新的標準來創(chuàng)建和維護基于AI的產(chǎn)品可信度。

"Zero Trust Concept"--零信任理念的提出和使用是為了構(gòu)建可信任的、安全的AI系統(tǒng)應用。這一理念是在大量迅速且不斷變化的數(shù)據(jù)通信中，這些參與者最初應被分配零信任值，隨后在信任評分系統(tǒng)中"贏得"其他參與者的信任，任何組件都將在數(shù)據(jù)訪問之前先檢查所涉及的身份認證和授權(quán)。

同時，AI的設計也應提高互操作性，這樣在整個工業(yè)4.0的流程中獲得更快的速度和更高的穩(wěn)定性。

• 人工智能與工業(yè)4.0價值鏈

AI也可以為公司價值鏈提供重要貢獻，可以評估價值鏈參與者的各方面，如交付可靠性，支付行為，公司狀態(tài)，產(chǎn)品質(zhì)量，市場定位，定價策略，經(jīng)濟形勢，環(huán)境保護，等等。在所有生產(chǎn)參與者運行期間，杜絕任何異常情況，迅速采取行動并更換參與者。但在此類大數(shù)據(jù)互聯(lián)互通的過程中，各數(shù)據(jù)鏈參與者的數(shù)據(jù)訪問以及數(shù)據(jù)保護的問題便顯露出來。嚴格的數(shù)據(jù)分離才可以提高此部分的安全性：嚴格的設置權(quán)限，只有確切相關(guān)方才可以訪問或修改數(shù)據(jù)。

• 安全數(shù)字身份

在工業(yè)4.0中，會有大量分布式的智能設備參與共建整體智能制造的生產(chǎn)流程。也由于這些去中心化的架構(gòu)，設備數(shù)字身份的分配和管理也變得復雜。在大規(guī)模生產(chǎn)中，出于成本原因，可能很難要求每個產(chǎn)品或組件在整個價值鏈中都有唯一不可偽造的身份證明。但是AI可以通過一些其他的數(shù)據(jù)來評估安全身份，如：使用軟硬件、工牌、生物特征來確認身份真實性；要求通信參與者的安全通信屬性（如加密和通信的方式和級別）；數(shù)據(jù)的可審查性和可追溯性。AI也可以通過學習行為模式來檢測偽造身份的攻擊，如：溝通頻率的變化，通信時的安全屬性區(qū)別，響應速度的區(qū)別，網(wǎng)絡地址的異常，數(shù)據(jù)非常規(guī)變化等。

• 信任基礎設施

目前工業(yè)4.0相關(guān)工作組仍在討論應如何建造全球AI信任基礎設施（Trust infrastructure）。但這個信任基礎設施是對全球價值鏈安全運行的先決條件，可以提供必要的安全功能從而使各價值鏈來建立安全的身份認證和通信，同時保護網(wǎng)絡攻擊。在現(xiàn)有設施，如PKI（Public Key Infrastructures）和CA（Certificate Authorities）中，AI可以通過識別異常通信來保護此類設施，如：非常規(guī)通信路徑，異常證書組合，首次認證后的異常行為等。

• 基于特性的訪問控制

可以對每個組件設置在不同生產(chǎn)狀態(tài)下基于不同條件的規(guī)則集（如時間、數(shù)據(jù)類型、天氣、溫濕度、功耗轉(zhuǎn)速、依賴關(guān)系等）。對于如此龐大的規(guī)則集，使用AI可以對其模擬進行復雜測試，并在使用過程中迭代更新，而且可以實時監(jiān)控分析出現(xiàn)的任何異常情況。

• 協(xié)同狀態(tài)監(jiān)控

協(xié)同狀態(tài)監(jiān)控(Collaborative Condition Monitoring)可以應用在以上組件的協(xié)作場景。在一條價值鏈中，兩個安全組件通過安全通信相互溝通，基于信任基礎設施確保認證安全，并通過基于特性的訪問控制讀取數(shù)據(jù)。AI可以在其中檢測未經(jīng)授權(quán)或異常的訪問和任何異常數(shù)據(jù)流，監(jiān)控人員也可以通過AI的匯總報告檢索所有信息。

• 資產(chǎn)管理殼

資產(chǎn)管理殼在工業(yè)4.0中的應用是極其重要的，不只因為其負責了整體系統(tǒng)的信息安全，更因為它包含了各種生產(chǎn)數(shù)據(jù)和商業(yè)機密。AI在監(jiān)控數(shù)據(jù)間諜活動和數(shù)據(jù)篡改操縱方面非常有用，而人類很難對這些不同屬性的龐大數(shù)據(jù)進行實時分析和管理。但AI的分析結(jié)果很難用同一AI軟件進行解釋，因此也同時需要輔助工具，以便人類對其警報進行最終分析和做出決定。

結(jié)語

AI的應用可以極大的提高工廠的智能化程度，如：自動化、驅(qū)動控制、生產(chǎn)維護、生產(chǎn)優(yōu)化、異常及殘次品檢測。但同時AI方案在工廠的應用中也有很多局限性因素：不能達到100%的覆蓋率，很難分析錯誤原因，數(shù)據(jù)質(zhì)量難以保證，在實施中太過專業(yè)性，先進機械日益提升的自主性和協(xié)作性給機械安全帶來的挑戰(zhàn)，邊緣計算帶來的信息安全等問題。

在選擇適合工業(yè)4.0的AI應著重考慮以下屬性：基于產(chǎn)線機械及傳感器數(shù)據(jù)的應用；使用遷移學習的方法以更容易適應新工廠環(huán)境；適用復雜的傳感器數(shù)據(jù)網(wǎng)絡；易用性；信息安全。

對于日益采用AI實現(xiàn)自主和協(xié)作功能的智能機械設備，其制造商，系統(tǒng)集成商和終端業(yè)主都必須執(zhí)行全面的，覆蓋機械安全和信息安全的風險評估，并向歐盟公告機構(gòu)申請合規(guī)性評定。