進入2024，人工智能（AI）的熱潮持續(xù)升溫，面對日新月異的人工智能技術(shù)，我們不禁要問：這些聰明的算法，會給安全自動化領(lǐng)域帶來變革嗎？
答案毋庸置疑，人工智能正在改變世界……但是，AI的安全性該如何保證呢？
AI與機械安全的結(jié)合
AI是基于數(shù)學(xué)的編程代碼，旨在模仿人類的行為以及自動化決策的過程。20世紀60年代奠定了AI技術(shù)的基礎(chǔ)，但直到今天，隨著硬件的進步、新的概念的涌現(xiàn)以及新算法的開發(fā)，AI才真正迎來了發(fā)展的春天。
對于那些傳統(tǒng)算法和技術(shù)無法解決的問題，AI技術(shù)的發(fā)展為我們提供了克服這些問題的可能性，為新的商業(yè)領(lǐng)域、商業(yè)模式、產(chǎn)品和服務(wù)開辟了空間。但想要將人工智能技術(shù)與機械安全技術(shù)相結(jié)合，必須要面對的一個挑戰(zhàn)便是AI的"black box"的特性，我們無法預(yù)測或理解復(fù)雜的AI系統(tǒng)是如何做出決策的，而這一點恰恰是功能安全的關(guān)鍵。
AI在機械安全中的應(yīng)用要求
人工智能技術(shù)在機械安全中的應(yīng)用要求主要涉及三個關(guān)鍵方面，即安全性、透明度和可靠性，在實施AI機械安全時，必須充分考慮和實現(xiàn)。
● 安全性（Safety & Security）
安全性是指AI系統(tǒng)在執(zhí)行其功能時，不會對人員、財產(chǎn)或環(huán)境造成損害的能力。在機械安全領(lǐng)域，意味著AI系統(tǒng)必須能夠在預(yù)期的操作條件下正常工作，同時在出現(xiàn)異常或故障時采取適當(dāng)?shù)陌踩胧?，因此AI系統(tǒng)的設(shè)計和實施必須遵循嚴格的安全標(biāo)準，如ISO 26262（道路車輛功能安全）或IEC 61508（電氣/電子/可編程電子系統(tǒng)的功能安全）等。
● 透明度（Transparency）
透明度是指AI系統(tǒng)的決策過程能夠被理解和解釋，這有助于建立用戶對AI系統(tǒng)的信任，并在出現(xiàn)問題時快速定位和解決問題。在機械安全領(lǐng)域，這意味著操作人員和安全工程師需要能夠理解AI系統(tǒng)是如何做出特定決策的，以便在必要時進行干預(yù)或改進。
● 可靠性（Reliability）
可靠性是指AI系統(tǒng)能夠在長時間內(nèi)持續(xù)穩(wěn)定地執(zhí)行其預(yù)定任務(wù)的能力。在機械安全領(lǐng)域，AI系統(tǒng)的可靠性至關(guān)重要，因為它直接關(guān)系到系統(tǒng)的安全性能。為了提高AI系統(tǒng)的可靠性，技術(shù)人員會使用各種算法和方法來量化系統(tǒng)的不確定性，確保AI系統(tǒng)能夠在其決策中識別出無效輸入，并作出適當(dāng)?shù)捻憫?yīng)。此外，可以通過采用適當(dāng)?shù)南到y(tǒng)架構(gòu)和設(shè)計概念，提高AI系統(tǒng)的可靠性。
立法與標(biāo)準的跟進
歐盟AI法案（EU AI Act）為AI系統(tǒng)的發(fā)展、部署和使用提供了統(tǒng)一規(guī)則，同時也關(guān)注個人安全和基本權(quán)利，目前普遍應(yīng)用的算法都屬于該法案的范疇，只是目前該法案尚處于起草階段。
歐盟機械指令（EU Machinery Regulation）已經(jīng)要求在功能安全中使用AI系統(tǒng)時必須進行符合性合規(guī)評估，所以安全相關(guān)的AI系統(tǒng)均被列為"高風(fēng)險機械"。這對于像皮爾磁PILZ這樣的制造商而言，哪怕是已經(jīng)符合相關(guān)的協(xié)調(diào)標(biāo)準，也必須由公告機構(gòu)參與符合性合規(guī)評估。
ISO/IEC CD TR 5469"人工智能 - 功能安全和AI系統(tǒng)"，是一個正在制定中的國際標(biāo)準，它專門針對AI系統(tǒng)在功能安全領(lǐng)域的應(yīng)用，旨在為AI系統(tǒng)的設(shè)計、開發(fā)、集成和驗證提供指導(dǎo)，確保這些系統(tǒng)在安全相關(guān)的應(yīng)用中能夠可靠地執(zhí)行其功能。
作為安全自動化領(lǐng)域的佼佼者，皮爾磁PILZ正密切關(guān)注AI技術(shù)的發(fā)展，并在機械安全領(lǐng)域進行深入的研究。我們的使命是確保AI技術(shù)在保護人類和機械方面的應(yīng)用是安全和可靠的。在這個AI的新時代，皮爾磁將和您一起，共同探索和實現(xiàn)更安全、更可靠和更高效的自動化未來。
