欧美精品1区2区-亚洲第一区在线观看-久久精品国产精品青草-久久国产免费观看

智庫建議

人工智能和關(guān)鍵基礎設施的風(fēng)險評估
發(fā)布日期:2024-05-10 信息來(lái)源:中咨智庫 訪(fǎng)問(wèn)次數: 字號:[ ]

摘要:4月2日,蘭德公司發(fā)布報告《新興技術(shù)和風(fēng)險分析:人工智能和關(guān)鍵基礎設施》,重點(diǎn)關(guān)注了未來(lái)十年關(guān)鍵基礎設施中人工智能應用的技術(shù)可用性、科學(xué)技術(shù)成熟程度、市場(chǎng)需求、政策法律、道德和監管障礙、風(fēng)險等。報告將人工智能劃分為三個(gè)類(lèi)別:狹義人工智能(ANI)、通用人工智能和超人工智能。報告預測,未來(lái)十年人工智能很可能仍然只實(shí)現了狹義人工智能;人工智能科學(xué)技術(shù)的成熟度將取決于幾個(gè)關(guān)鍵技術(shù)領(lǐng)域,包括高性能計算、先進(jìn)半導體開(kāi)發(fā)制造、機器人、機器學(xué)習、自然語(yǔ)言處理等。


該報告重點(diǎn)關(guān)注人工智能,尤其是與關(guān)鍵基礎設施相關(guān)的人工智能。作者借鑒了有關(guān)智慧城市的文獻,在評估技術(shù)時(shí)考慮了四個(gè)屬性:技術(shù)可用性、風(fēng)險和情景。本分析中考慮的風(fēng)險和情景與影響關(guān)鍵基礎設施的人工智能使用有關(guān)。作者比較了短期(最多三年)、中期(三至五年)和長(cháng)期(五至十年)三個(gè)時(shí)期的這四個(gè)屬性,以評估人工智能關(guān)鍵基礎設施的可用性和相關(guān)風(fēng)險。

技術(shù)可用性

人工智能領(lǐng)域包含眾多技術(shù),這些技術(shù)一旦問(wèn)世,就會(huì )被納入人工智能系統。因此,人工智能的進(jìn)步基于幾個(gè)基本技術(shù)領(lǐng)域的關(guān)鍵依賴(lài)關(guān)系,包括高性能計算、先進(jìn)半導體開(kāi)發(fā)和制造、機器人技術(shù)機器學(xué)習、NLP和數據科學(xué)(包括關(guān)鍵數據的積累和保護)。具體的應用也會(huì )根據各自的時(shí)間表走向成熟。ContextualAI的一項分析表明,手寫(xiě)分析、語(yǔ)音識別、圖像識別、閱讀理解和語(yǔ)言理解都已經(jīng)超越了人類(lèi)的表現,而其他任務(wù),如常識完成、小學(xué)數學(xué)和代碼生成則達到了大約85%到90%。

人工智能系統的開(kāi)發(fā)、部署、發(fā)現不足和其他潛在用途,以及快速更新,這樣的循環(huán)可能是人工智能的一個(gè)特點(diǎn)。不足為奇的是,這種方法在互聯(lián)網(wǎng)、社交媒體和現在的人工智能等許多技術(shù)中都很常見(jiàn)。

對于關(guān)鍵基礎設施而言,這意味著(zhù)依賴(lài)于大數據、網(wǎng)絡(luò )、高性能計算和物聯(lián)網(wǎng)的子系統將在人們完全了解其局限性之前就被納入其中:這也意味著(zhù)如果人工智能系統出現災難性故障,尤其是在關(guān)鍵基礎設施領(lǐng)域,其風(fēng)險可能會(huì )非常高。

要應對這些挑戰,就必須對技術(shù)和適當的緩解措施進(jìn)行編碼開(kāi)發(fā)。必須清楚地了解人工智能平臺的價(jià)值和目標,并制定限制條件,防止偏離人類(lèi)的期望和規范。報告還認為,必須更好地理解無(wú)監督學(xué)習的使用;隨著(zhù)人工智能系統中允許出現無(wú)監督學(xué)習,系統的追蹤能力將變得更具挑戰性。

開(kāi)發(fā)人工智能,尤其是在早期階段,需要獲得關(guān)鍵技術(shù),而這些技術(shù)目前受到資源可用性的限制。正如《華盛頓郵報》2023年10月的一篇報道所指出的:“要以任何有意義的規模構建人工智能,任何開(kāi)發(fā)人員都必須具備以下核心技術(shù),對資源的依賴(lài)主要集中在少數幾家公司”。

開(kāi)發(fā)人工智能技術(shù)所需的成本和資源主要體現在四個(gè)方面:專(zhuān)用設備(如半導體和高性能計算機)、數據、基礎設施和人力資本。半導體是一個(gè)關(guān)鍵組成部分。高性能計算也供不應求,但對于處理超大數據量仍是必不可少的,而這些數據量是獲得對正在開(kāi)發(fā)的人工智能系統的信心所必需的。

數據是人工智能的重要組成部分,隨著(zhù)用于開(kāi)發(fā)和訓練模型的數據量的增加,人們對人工智能模型的信心也會(huì )增加。

開(kāi)發(fā)人工智能系統的成本和復雜性相對較高,而與人工智能系統互動(dòng)的成本和易用性相對較低,兩者之間存在資源對立。OpenAI的首席執行官表示,“GPT-4的訓練成本超過(guò)1億美元”,但該產(chǎn)品可在線(xiàn)使用,根據所要執行的任務(wù),只需支付很少費用或無(wú)需支付任何費用。

報告評估認為,這些趨勢可能會(huì )繼續下去。開(kāi)發(fā)復雜的人工智能系統將超出可能尋求開(kāi)發(fā)新人工智能系統的大多數用戶(hù)的能力,但將人工智能系統用于各種合法和非法目的可能會(huì )變得更加普遍。政策、法律、道德和監管方面的障礙可能會(huì )對人工智能技術(shù)的應用構成重大障礙。

風(fēng)險評估

人工智能對關(guān)鍵基礎設施的威脅可能來(lái)自幾個(gè)方面。人工智能可用于開(kāi)發(fā)和監控關(guān)鍵基礎設施,這可在優(yōu)化設計、提高效率和確保安全方面帶來(lái)好處。然而,如果在設計基礎設施時(shí)使用的輸入信息被不當使用或篡改,以這種方式使用人工智能也有可能造成威脅。

人工智能為攻擊者和防御者都帶來(lái)了進(jìn)步。微軟公司的一份報告指出:“人工智能技術(shù)可以自動(dòng)解讀攻擊過(guò)程中產(chǎn)生的信號,有效確定威脅事件的優(yōu)先級,并做出適應性反應,以應對敵對行動(dòng)的速度和規模。”

物聯(lián)網(wǎng)功能的不斷融入增加了網(wǎng)絡(luò )攻擊的脆弱性。正如一個(gè)消息來(lái)源所指出的,“人工智能通過(guò)其吸收使用模式數據和提供預期需求精確計算的能力對電網(wǎng)系統產(chǎn)生影響,使其成為電網(wǎng)管理的一項主要技術(shù)”。攻擊面的擴大也會(huì )產(chǎn)生其他潛在的漏洞。人工智能系統可用于進(jìn)行網(wǎng)絡(luò )偵察、制定網(wǎng)絡(luò )滲透計劃,甚至進(jìn)行攻擊,所有這些都無(wú)需人工干預。

內部威脅是另一類(lèi)活動(dòng),可用于在人工智能從開(kāi)發(fā)到使用技術(shù)的多個(gè)階段攻擊關(guān)鍵基礎設施。在開(kāi)發(fā)人工智能系統的過(guò)程中,內部人員可能會(huì )制造不安全因素和后門(mén),從而成為被利用的目標。有監督的數據或無(wú)監督學(xué)習可能在開(kāi)發(fā)階段被摻雜,導致基礎或變壓器模型的訓練不正確。這可能會(huì )導致產(chǎn)生錯誤的傳感器信息信號,甚至導致操作員采取不必要或危險的行動(dòng)。

人工智能系統的自主程度也可能構成威脅。例如,在智能電網(wǎng)中,工業(yè)控制系統可能會(huì )提醒操作員系統出現故障,并要求采取行動(dòng)。人類(lèi)操作員甚至人工智能—人類(lèi)操作員團隊可能會(huì )進(jìn)一步詢(xún)問(wèn)系統,以驗證故障信號,而人工智能操作員則可以根據不正確的訓練決定立即采取行動(dòng)。這兩種情況都可能產(chǎn)生問(wèn)題。

隨著(zhù)人工智能的范圍和規模越來(lái)越大,用途越來(lái)越普遍,可能會(huì )出現更多的問(wèn)題。例如,能夠規劃和控制智能城市甚至關(guān)鍵基礎設施的人工智能平臺可能被用來(lái)制定針對這些關(guān)鍵基礎設施的攻擊計劃。人工智能還被考慮用于在開(kāi)發(fā)可用于攻擊重要基礎設施或人口的先進(jìn)生物和化學(xué)武器方面。

復雜性也令人擔憂(yōu)。報告評估認為,隨著(zhù)人工智能系統變得越來(lái)越復雜并接近AGI,人類(lèi)將越來(lái)越難以理解和評估人工智能進(jìn)程的結果。

因此,在減少人工智能脆弱性的過(guò)程中,必須遵守關(guān)于人工智能技術(shù)的五項原則,即負責任、公平、可追溯、可靠和可治理。此外,使用廣義人工智能網(wǎng)絡(luò )(GAN)、人工智能模型的驗證和核實(shí)協(xié)議,以及減少與促進(jìn)人工智能開(kāi)發(fā)和使用的技術(shù)相關(guān)的漏洞也至關(guān)重要。

主要發(fā)現

(1)人工智能是一種變革性技術(shù),很可能會(huì )廣泛應用于整個(gè)社會(huì ),包括關(guān)鍵基礎設施。

(2)人工智能可能會(huì )受到許多與其他信息時(shí)代技術(shù)相同的因素的影響,例如網(wǎng)絡(luò )安全、保護知識產(chǎn)權、確保關(guān)鍵數據保護以及保護專(zhuān)有方法和流程。

(3)人工智能領(lǐng)域包含許多技術(shù),一旦可用,這些技術(shù)將被納入人工智能系統中。因此,人工智能科學(xué)技術(shù)的成熟度將取決于幾個(gè)關(guān)鍵技術(shù)領(lǐng)域,包括高性能計算、先進(jìn)半導體開(kāi)發(fā)和制造、機器人、機器學(xué)習、自然語(yǔ)言處理以及積累和保護關(guān)鍵技術(shù)的能力。

(4)為了將人工智能置于當前的成熟狀態(tài),劃分三個(gè)人工智能類(lèi)別是有用的:狹義人工智能(ANI)、通用人工智能和超人工智能。到本次分析的十年結束時(shí),該技術(shù)很可能仍然只實(shí)現了ANI。

(5)人工智能將為關(guān)鍵基礎設施和專(zhuān)用智能城市的最終發(fā)展帶來(lái)機遇和挑戰。




?