美女性感一区二区三区四区_天天日日夜夜看综合网_久久久久久这里只有精品_中文字幕一区二区三区在线视频_精品久久久久久无_天天综合永久入口_区一区区三区产品无卡高清在线_久久久国产一区二区三区_综合国产_夜夜草www.979

摘要：4月2日（rì），蘭德（dé）公司發（fā）布報告（gào）《新興（xìng）技術和風（fēng）險分析：人（rén）工（gōng）智能和關鍵基（jī）礎（chǔ）設施》，重點關注了（le）未來十年關鍵基（jī）礎設施中人工智能應（yīng）用的技術（shù）可用性、科（kē）學（xué）技術（shù）成（chéng）熟（shú）程度（dù）、市場需求（qiú）、政策法律、道（dào）德和監管（guǎn）障礙（ài）、風險等。報（bào）告將人工智能劃（huá）分（fèn）為（wéi）三個類（lèi）別：狹義人工（gōng）智（zhì）能（ANI）、通用人工智能（néng）和超（chāo）人（rén）工智（zhì）能（néng）。報告預測，未（wèi）來十年（nián）人工智（zhì）能很（hěn）可能（néng）仍然隻實現（xiàn）了狹義人（rén）工智能（néng）；人（rén）工智能（néng）科學技（jì）術的成熟度將取（qǔ）決於幾個（gè）關鍵技（jì）術領域，包括（kuò）高性能計算、先進（jìn）半導（dǎo）體（tǐ）開（kāi）發製造（zào）、機（jī）器（qì）人、機（jī）器學習（xí）、自（zì）然（rán）語言處理等。

該報告重點關注人工（gōng）智（zhì）能，尤其是（shì）與關鍵（jiàn）基（jī）礎（chǔ）設施相關的人（rén）工智能（néng）。作（zuò）者借鑒了（le）有關（guān）智慧（huì）城市的（de）文獻（xiàn），在評（píng）估技術（shù）時（shí）考慮（lǜ）了四個屬性：技術可用性、風險（xiǎn）和（hé）情景。本分析中考（kǎo）慮的（de）風險和情景與影響（xiǎng）關鍵基（jī）礎設施的人工（gōng）智能使用（yòng）有關。作者比較了（le）短期（qī）（最多三年）、中期（三至五年（nián））和長（zhǎng）期（五至（zhì）十年）三個（gè）時期的（de）這四個屬（shǔ）性，以評估（gū）人工（gōng）智（zhì）能關鍵基礎設施（shī）的可用（yòng）性和相關風（fēng）險。

技（jì）術（shù）可用（yòng）性

人工智能（néng）領域（yù）包（bāo）含眾（zhòng）多（duō）技術，這些技術一旦問世，就會（huì）被納入人（rén）工（gōng）智能係（xì）統。因此，人（rén）工智（zhì）能（néng）的進步基於幾個基本技術領（lǐng）域（yù）的（de）關鍵（jiàn）依賴（lài）關係，包括（kuò）高性能（néng）計（jì）算、先（xiān）進（jìn）半導體開發和製造、機器（qì）人技術機（jī）器（qì）學習、NLP和數據（jù）科（kē）學（包括關鍵數據的積累（lèi）和保（bǎo）護）。具體的應（yīng）用也會根（gēn）據各自（zì）的時（shí）間表走向（xiàng）成熟（shú）。ContextualAI的一項（xiàng）分析表明，手寫分析、語音識（shí）別、圖（tú）像識別、閱讀理解和（hé）語言（yán）理（lǐ）解都已（yǐ）經（jīng）超越（yuè）了（le）人類的表（biǎo）現，而（ér）其他任（rèn）務，如（rú）常識（shí）完成、小（xiǎo）學數學（xué）和（hé）代碼（mǎ）生（shēng）成則達到（dào）了（le）大約85%到90%。

人工（gōng）智能（néng）係統的開（kāi）發、部署、發現不足（zú）和其他（tā）潛在用（yòng）途（tú），以及（jí）快速（sù）更（gèng）新，這樣的循環可能是（shì）人（rén）工智能的一個特點。不足為奇的是，這種（zhǒng）方法在互聯網（wǎng）、社交媒體（tǐ）和現在（zài）的人工智能等（děng）許（xǔ）多（duō）技（jì）術中都（dōu）很常見。

對（duì）於關（guān）鍵（jiàn）基（jī）礎設施而（ér）言（yán），這意味（wèi）著（zhe）依（yī）賴於大（dà）數（shù）據（jù）、網（wǎng）絡（luò）、高性能計（jì）算和物聯網（wǎng）的子係統（tǒng）將（jiāng）在人（rén）們（men）完全了解其局限（xiàn）性之（zhī）前就被納入其中：這也（yě）意味（wèi）著如果人工（gōng）智（zhì）能係（xì）統出現（xiàn）災難性故障，尤其是在關鍵基礎設施領（lǐng）域（yù），其風險（xiǎn）可（kě）能會非常高。

要（yào）應對這些（xiē）挑（tiāo）戰（zhàn），就（jiù）必須對（duì）技術和適當的緩解（jiě）措施進（jìn）行編碼開（kāi）發（fā）。必（bì）須（xū）清楚地（dì）了解（jiě）人工（gōng）智能平台的價（jià）值和目標，並製定限（xiàn）製條件，防（fáng）止偏離人（rén）類（lèi）的期望和（hé）規（guī）範（fàn）。報（bào）告（gào）還認為（wéi），必須更（gèng）好地理解無（wú）監督學習（xí）的（de）使用；隨著（zhe）人（rén）工（gōng）智能係統中允許（xǔ）出現無監督（dū）學習（xí），係（xì）統的追蹤能（néng）力（lì）將變得更具挑戰性。

開（kāi）發（fā）人工智（zhì）能，尤（yóu）其是（shì）在（zài）早期（qī）階段，需要獲（huò）得（dé）關（guān）鍵技（jì）術，而（ér）這（zhè）些技術（shù）目前受（shòu）到資源（yuán）可用（yòng）性的限製。正如（rú）《華盛頓郵（yóu）報（bào）》2023年10月（yuè）的（de）一（yī）篇報道所（suǒ）指（zhǐ）出的：“要以（yǐ）任何有意義（yì）的規（guī）模（mó）構建（jiàn）人（rén）工智能，任何（hé）開（kāi）發人員（yuán）都必須具（jù）備（bèi）以（yǐ）下（xià）核（hé）心技術，對資源的依賴（lài）主（zhǔ）要（yào）集中在少（shǎo）數（shù）幾家（jiā）公司（sī）”。

開發人工智能技術（shù）所（suǒ）需的成本（běn）和（hé）資源主（zhǔ）要體現（xiàn）在四個（gè）方麵：專用設（shè）備（如半導（dǎo）體和（hé）高性能（néng）計（jì）算（suàn）機）、數（shù）據、基（jī）礎（chǔ）設施（shī）和人（rén）力資（zī）本。半導體是一個關（guān）鍵組成部（bù）分（fèn）。高性能計算也（yě）供（gòng）不應求，但對於（yú）處理（lǐ）超大數（shù）據量（liàng）仍是（shì）必不可（kě）少的（de），而這些數據（jù）量是獲（huò）得（dé）對（duì）正在（zài）開（kāi）發的人工智（zhì）能（néng）係統的信心（xīn）所必需的。

數據是人工（gōng）智（zhì）能的（de）重（chóng）要組成部（bù）分（fèn），隨著（zhe）用（yòng）於開（kāi）發和（hé）訓練（liàn）模型（xíng）的數（shù）據量的（de）增加，人（rén）們對人工智（zhì）能模型（xíng）的信（xìn）心也會增加（jiā）。

開發（fā）人工智（zhì）能係統（tǒng）的（de）成本和（hé）複雜性（xìng）相（xiàng）對較（jiào）高（gāo），而（ér）與（yǔ）人工智（zhì）能係（xì）統互（hù）動（dòng）的成（chéng）本（běn）和易（yì）用性相（xiàng）對（duì）較低，兩者之間（jiān）存（cún）在（zài）資源對（duì）立（lì）。OpenAI的（de）首席（xí）執行官表示（shì），“GPT-4的訓練成（chéng）本超過1億美元”，但該產（chǎn）品可在線（xiàn）使（shǐ）用（yòng），根據所（suǒ）要執行的任（rèn）務，隻需支付很（hěn）少費（fèi）用（yòng）或（huò）無（wú）需（xū）支付（fù）任何費（fèi）用。

報告評估（gū）認為（wéi），這些（xiē）趨勢可能會（huì）繼續（xù）下去。開發複雜的人工智能係統將超（chāo）出（chū）可（kě）能（néng）尋（xún）求開（kāi）發（fā）新人（rén）工智（zhì）能係統的大（dà）多（duō）數用戶的能力（lì），但將（jiāng）人（rén）工智能（néng）係統用於各（gè）種合法和非法（fǎ）目的可（kě）能（néng）會變（biàn）得更加（jiā）普（pǔ）遍。政策（cè）、法律（lǜ）、道（dào）德和（hé）監（jiān）管方（fāng）麵的（de）障礙（ài）可能會對人（rén）工（gōng）智能技術的應用（yòng）構成重大障礙。

風險（xiǎn）評估

人工智（zhì）能對（duì）關（guān）鍵（jiàn）基礎（chǔ）設施（shī）的（de）威（wēi）脅（xié）可能（néng）來自（zì）幾（jǐ）個方麵（miàn）。人工（gōng）智能可（kě）用於開發（fā）和監控關鍵基礎（chǔ）設施，這（zhè）可在優化設計、提高效率和確（què）保（bǎo）安全方（fāng）麵帶（dài）來好（hǎo）處（chù）。然而，如果（guǒ）在設計（jì）基礎設施（shī）時使（shǐ）用（yòng）的輸（shū）入（rù）信息被（bèi）不當使用（yòng）或篡改（gǎi），以（yǐ）這種方式使用（yòng）人工（gōng）智（zhì）能（néng）也有可能（néng）造（zào）成威脅。

人（rén）工智能為攻（gōng）擊者和防禦（yù）者（zhě）都帶（dài）來（lái）了進步。微（wēi）軟（ruǎn）公司（sī）的一份報告指出：“人工智能技術可以自動解讀攻擊過程中產生的（de）信（xìn）號，有（yǒu）效確定威脅（xié）事（shì）件（jiàn）的優先（xiān）級，並（bìng）做（zuò）出（chū）適（shì）應性（xìng）反（fǎn）應，以應對敵（dí）對（duì）行動的速度和（hé）規模（mó）。”

物（wù）聯（lián）網（wǎng）功能（néng）的不（bú）斷（duàn）融（róng）入（rù）增（zēng）加（jiā）了（le）網絡攻（gōng）擊（jī）的脆弱性（xìng）。正（zhèng）如一（yī）個（gè）消息來源所指出的，“人（rén）工（gōng）智能（néng）通（tōng）過其吸（xī）收（shōu）使用模式（shì）數據（jù）和提供預（yù）期需求精（jīng）確（què）計（jì）算（suàn）的（de）能（néng）力對電網係（xì）統產生（shēng）影響（xiǎng），使其（qí）成為（wéi）電網管（guǎn）理的（de）一項主（zhǔ）要（yào）技（jì）術”。攻擊麵的（de）擴大也會產（chǎn）生其他潛在的漏洞。人工（gōng）智能係統可用（yòng）於進行（háng）網絡偵（zhēn）察（chá）、製定網（wǎng）絡滲透計（jì）劃（huá），甚（shèn）至進行（háng）攻（gōng）擊（jī），所有這（zhè）些（xiē）都無需人工幹預。

內部（bù）威脅（xié）是另一類（lèi）活動，可用於在人（rén）工（gōng）智能從開發到使用（yòng）技術的多（duō）個階段（duàn）攻擊（jī）關（guān）鍵（jiàn）基礎設（shè）施（shī）。在開（kāi）發人（rén）工智能係（xì）統的過程中，內部人員可（kě）能會製造不（bú）安全因素和（hé）後門（mén），從（cóng）而成為（wéi）被利（lì）用（yòng）的目標。有監督的數據或無監督（dū）學習可（kě）能在（zài）開發階段（duàn）被摻（chān）雜，導致基（jī）礎或變壓器（qì）模型的（de）訓（xùn）練不（bú）正確。這可（kě）能會導（dǎo）致產生（shēng）錯（cuò）誤的傳感器信（xìn）息信號，甚（shèn）至導致操作（zuò）員采取不必要（yào）或危（wēi）險的行（háng）動（dòng）。

人（rén）工（gōng）智（zhì）能（néng）係（xì）統（tǒng）的自主程（chéng）度也（yě）可能構成（chéng）威脅（xié）。例（lì）如（rú），在智能電網中（zhōng），工（gōng）業（yè）控製（zhì）係統（tǒng）可（kě）能會提醒操（cāo）作員係（xì）統出現故障（zhàng），並要求（qiú）采（cǎi）取（qǔ）行動（dòng）。人類操作（zuò）員甚（shèn）至人工智能—人（rén）類（lèi）操（cāo）作員團隊（duì）可能會進（jìn）一（yī）步詢問係（xì）統（tǒng），以（yǐ）驗證（zhèng）故（gù）障信（xìn）號，而人工智能操作員（yuán）則可以根據不正（zhèng）確的訓（xùn）練決定（dìng）立即（jí）采取（qǔ）行動（dòng）。這（zhè）兩（liǎng）種情況（kuàng）都可能產生（shēng）問題（tí）。

隨著人工智能的（de）範（fàn）圍（wéi）和（hé）規模越（yuè）來越大，用（yòng）途（tú）越來越普遍，可能會出現更（gèng）多（duō）的（de）問（wèn）題。例（lì）如（rú），能夠（gòu）規（guī）劃（huá）和（hé）控製智能（néng）城市甚（shèn）至（zhì）關（guān）鍵基礎設施的（de）人（rén）工智（zhì）能平（píng）台可能（néng）被用來製定（dìng）針對這些（xiē）關鍵基礎（chǔ）設（shè）施的（de）攻（gōng）擊計（jì）劃。人工智能還（hái）被（bèi）考慮用於（yú）在開（kāi）發可用於（yú）攻擊重要（yào）基（jī）礎設施或人（rén）口（kǒu）的先進生物（wù）和化學武器方麵（miàn）。

複雜（zá）性（xìng）也令人擔憂。報（bào）告評估（gū）認為，隨著（zhe）人工智能係（xì）統變得越來越複（fù）雜（zá）並接近（jìn）AGI，人類（lèi）將（jiāng）越來（lái）越難以理解和評（píng）估人工智能進程的結果。

因此（cǐ），在（zài）減（jiǎn）少人工智（zhì）能脆弱（ruò）性的過程中，必須遵（zūn）守關（guān）於人（rén）工智能技術的五（wǔ）項原（yuán）則，即負責任（rèn）、公平、可追溯（sù）、可靠和可治理。此外，使（shǐ）用廣義人工（gōng）智能網（wǎng）絡（GAN）、人（rén）工智能模（mó）型的驗（yàn）證（zhèng）和核（hé）實協議，以及減少與促進人工（gōng）智能開發和使（shǐ）用（yòng）的技術相關的漏（lòu）洞（dòng）也（yě）至關（guān）重（chóng）要。

主（zhǔ）要（yào）發現

（1）人工智能（néng）是一種變（biàn）革性（xìng）技（jì）術，很可能會廣泛應用於整（zhěng）個社（shè）會，包（bāo）括關（guān）鍵基礎設施。

（2）人工智（zhì）能可能會（huì）受到許多與其他信息（xī）時代技術相同的（de）因素（sù）的影響，例如網（wǎng）絡安全、保（bǎo）護知（zhī）識產權、確保關（guān）鍵（jiàn）數據保護（hù）以及保護（hù）專（zhuān）有方法和（hé）流程。

（3）人（rén）工（gōng）智能（néng）領域包（bāo）含許（xǔ）多技（jì）術，一旦可（kě）用（yòng），這（zhè）些技術（shù）將被（bèi）納（nà）入（rù）人工（gōng）智能係（xì）統（tǒng）中（zhōng）。因此，人（rén）工（gōng）智（zhì）能科學（xué）技術（shù）的成熟（shú）度將取決於（yú）幾個關鍵技術（shù）領（lǐng）域，包括高性能（néng）計算、先進半導體開（kāi）發和製造（zào）、機器人（rén）、機器學習、自（zì）然語言（yán）處理以及積累和保護關鍵技術的能力。

（4）為了（le）將人工智能置於（yú）當前（qián）的（de）成熟狀態（tài），劃（huá）分三個（gè）人工（gōng）智能類（lèi）別是（shì）有用的：狹（xiá）義人（rén）工智能（néng）（ANI）、通用人工智能和超（chāo）人工（gōng）智（zhì）能。到（dào）本（běn）次分（fèn）析的十年結束（shù）時，該技（jì）術很可（kě）能仍然隻（zhī）實（shí）現（xiàn）了（le）ANI。

（5）人工（gōng）智能將（jiāng）為（wéi）關鍵基礎設施（shī）和專用智（zhì）能城（chéng）市（shì）的最（zuì）終發展帶（dài）來（lái）機遇（yù）和挑戰（zhàn）。