摘要：近些年，隨著人工智能技術的不斷革新，人工智能被廣泛應用于各個領域。人工智能的快速發展不僅促進了經濟的增長，同時，也深刻改變了人們生活的方式，引發倫理安全問題的思考，為此在我國人工智能進入新階段的背景下國務院發布了《新一代人工智能發展規劃》，相關領域的學者對于人工智能安全等問題的研究也逐漸增加。基于此，本文首先討論了人工智能發展及其安全風險的特點，其次就人工智能安全問題進行了分析，最后提出了人工智能安全問題的應對策略。

　　關鍵詞：人工智能,安全風險,智能計算模型

　　1人工智能發展及其安全問題

　　1.1人工智能安全問題的出現

　　人工智能安全問題是智能革命發展不可回避的主要問題之一，智能革命的發展會為當前社會的倫理標準、法律規則、社會秩序及公共管理體制帶來一場前所有未有的變革，這種變革引起的一系列社會矛盾主要表現為對于人工智能強大能力的未知和擔憂，同時，也表現為現存社會制度產品供給缺陷。

　　首先，對于未來人工智能擁有自主意識的擔憂。比如，霍金先生提出的最大化使用智能性自主武器，可能招致人類的滅亡，基于馬克思主義對科學技術二重性的分析，綜合當前眾多研究文獻來看，人工智能具備超越人類智能的可能性，在發展到一定階段，人類有可能面臨著人工智能失控的風險，人工智能的發展將不受人類意愿的控制，這種可能性也構成了我們研究人工智能安全問題的必要性。

　　其次，當前人類社會面臨的人工智能安全問題。鑒于人工智能算法與系統的特點，考慮到人工智能應用場景，可以把人工智能衍生的安全風險集中歸納為以下三個層次。

　　第一，系統安全層面。集中表現為基礎安全技術缺陷、智能硬件的系統漏洞以及當前智能技術和產品供應鏈條的復雜性。

　　第二，算法透明度與可解釋性層面。由于人類本身對人工智能算法的“自動化”學習與決策過程缺乏一定的認識，由此帶來人工智能算法的可解釋性和透明度缺失帶來的隱患。

　　第三，數據使用和隱私保護層面。人工智能大數據的發展趨勢，使得原有的數據使用機制和隱私保護制度都面臨失效的困境。由此三個層次的安全風險問題本身就是風險，同時，引發的歸責問題、監管問題乃至國家安全問題、社會安全問題等都需要引起我們的足夠重視[1]。

　　1.2人工智能安全風險的特征

　　第一，人工智能安全風險的共生性。人工智能技術的不斷發展本質上是由人類對于人工智能技術的內在需求導致的，而任何一項科學前沿技術的突破和創新都會不同程度作用于人類社會，改變人們的生活習慣、思維方式、發展理念乃至社會制度。由此這種共生形式會從技術本身以及技術對于社會上層建筑的影響兩個方面形成安全風險。

　　第二，人工智能安全風險的技術性。人工智能技術是當前社會先進生產力的代表，當人類社會越來越多地使用這種生產力推動社會發展時，首先是基于對于人工智能技術的信任，其次，是對人工智能技術的保護，如知識專利權利。但是從反思的現代性出發，對于法律及其保護的先進技術僅信任是不夠的，人工智能在其發展過程中出現的不可預測性和潛在的不可逆性本身就是一種風險。最后，技術本身對于上層建筑的影響帶來的風險。

　　先進的生產力必然會變革社會上層建筑，改變不適應現代理念的上層關系，引起諸如一系列社會制度的創造和改變。這種創造和改變的過程需要經過時間和實踐的檢驗才能夠發揮作用，由此形成的是制度化風險。

　　第三，人工智能安全風險的時代性。智能革命的出現和發展既是人類需求的產物，同時，也是時代的產物。因此，人工智能安全問題的出現是發展的客觀表現，不會因為人類主觀意志的變化而改變。智能技術是智力物質化的客觀推動力量，最終發展的形態是人類社會的智能化。而社會智能化本身需要經歷一系列社會變革才能夠穩定和實現，期間必然會經歷不同階段智力物質化性質、程度等方面的徹底變化，而這一過程也必然呈現出一系列的社會安全問題。

　　比如，當前計算機病毒、黑客對人工智能產品的侵蝕，恐怖組織以及反人類文明意識對于智能產品的使用等等都會帶來持續的影響，是今后社會潛在的風險。

　　第四，人工智能安全風險的全球性。縱觀人類社會四次科技革命的發展，我們能夠認識到人類使用生產力的大小、規模、性質等提高使得人類社會的聯系越發緊密，人與人之間的關系的處理和社會問題的解決逐漸經歷了個人到組織的變化，而且這個組織規模不斷擴大乃至波及每一個人的切身利益。

　　人工智能時代的到來導致的安全問題等諸多方面是這種社會關系處理的更高程度的發展，并且人工智能安全風險毫無疑問是全球性的，是關系到每一個人、主體組織、國家、區域性組織乃至人類社會命運的問題[2]。

　　2人工智能安全問題的應對策略分析

　　一方面，需要理性認識人工智能發展及其產生的安全問題。人工智能從提出至今短短六十多年的時間里，實現了驚人的發展，其技術不僅被應用到各行各業中，同時，也廣泛滲透到人們的生活中。與此同時，智能技術的廣泛應用也帶來了理念的更新以及人們思維方式的變革。但是在注重人工智能推動人類社會發展的同時，也應理性認識到人工智能產生的負面影響。既要注重人工智能推動社會經濟發展，還要持續關注和推動人工智能安全發展。

　　另一方面，需要加快人工智能技術安全評估和應用管理工作。從我國《新一代人工智能發展規劃》來看，人工智能技術安全評估和應用管理工作力度還有待進一步提高。人工智能技術安全問題產生的主要原因是技術發展不成熟，要加大相關技術的研發力度，比如，針對智能算法透明性缺失的安全問題，應加強理論攻關，確定今后的技術研發與發展方向，研發更為透明和可解釋性更高的智能計算模型，降低系統行為的不可預知性和不確定性。

　　此外，加快與智能化時代發展相匹配的法律法規體系的構建，制定人工智能技術及其系統應用的倫理準則，建立智能技術應用的安全標準體系，不斷完善人工智能技術研發規范，提高人工智能產品的安全性能，確保人工智能產業的良性健康發展。

　　3結語

　　總之，通過上述分析可知，在當今互聯網計算機技術飛速發展的現代，人們對于人工智能技術的研發力度逐漸加大。在人工智能技術被廣泛應用于社會各行業當中的同時，一系列安全問題也逐漸顯現出來，對人工智能的未來良好發展造成了極大的阻礙。在未來的研究當中，要將人工智能的安全問題作為一項長期研究項目來探討，并協同各方面專家結合當今互聯網計算機技術發展，為人工智能的安全發展構建一道堅固的屏障。

　　參考文獻

　　[1]王美麗.人工智能安全問題及其解決思路[J].科技風,2018(11):8.

　　[2]作者不詳.人工智能與信息安全[J].保密科學技術,2017(11):6-7.

　　相關期刊推薦：模式識別與人工智能(雙月刊)創刊于1989年，是由中國自動化學會、國家智能計算機研究開發中心和中國科學院合肥智能機械研究所共同主辦、科學出版社出版的學術性期刊。