要點:

1. 西北工業大學李學龍團隊探索人工智能倫理計算，試圖建立倫理的定量計算框架，以解決技術倫理問題。

2. 人工智能倫理治理已引起廣泛關注，但倫理的抽象性使規范難以付諸實踐。

3. 人工智能倫理計算分為高階倫理認知和低階倫理認知兩種范式，旨在規范機器的倫理行為。

微新創想（idea2003.com）10月13日 消息:近年來，人工智能的普及已涵蓋醫療、教育等多個領域，引發了一系列技術倫理問題的緊迫討論。然而，倫理問題的抽象性導致了規范的困難，這是人工智能倫理治理的主要挑戰之一。

盡管全球已初步達成一些倫理共識，但如何確保智能系統做出公平、善意的決策，如何度量倫理表現，以及如何建立明確的倫理規范仍然是問題。為了應對這一挑戰，西北工業大學李學龍團隊提出了人工智能倫理計算的概念，將其劃分為高階倫理認知和低階倫理認知兩種計算范式。

論文地址：https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076

高階倫理認知旨在構建倫理推理模塊，使機器能夠模仿人類的道德決策機制。這對于處理復雜的倫理困境，如自動駕駛決策，提供了一種方法。然而，這一方法也面臨復雜的人類倫理決策動機和解釋性的挑戰。

低階倫理認知關注于建立倫理度量方法，無需深入理解倫理機制，通過量化倫理概念來約束機器行為。這在公平機器學習等領域具有重要應用，但度量指標的明確定義和適用范圍仍然需要解決。

總之，人工智能倫理計算旨在通過定量方法規范機器的倫理行為，無論是高自主性系統還是低自主性系統，都可以從中受益。這一方法有望成為突破人工智能倫理治理困境的關鍵，為確保智能系統更好地服務人類提供了重要工具。