SAS最新研究顯示：全球?qū)ι墒?AI 信任度大幅攀升，AI 保障措施仍待完善

2025-09-30 20:00

構(gòu)建可信 AI 體系的企業(yè)，AI 項目回報率翻倍概率高出60%，若忽視可信實踐則代價高昂

北卡羅來納州卡里市2025年9月30日 /美通社/ -- 數(shù)據(jù)與人工智能（AI）領(lǐng)域的領(lǐng)先者之一SAS今日公布了一項最新研究，聚焦AI的應(yīng)用場景、實際影響及可信度水平。該研究成果已收錄于由SAS委托IDC編制的《IDC數(shù)據(jù)與AI影響力報告：信任必要性》（IDC Data and AI Impact Report: The Trust Imperative）。報告指出，IT及業(yè)務(wù)領(lǐng)導(dǎo)者對生成式AI（GenAI ）的信任度，顯著高于其他各類AI。

Per new SAS and IDC study, trust in GenAI surges globally despite gaps in AI safeguards.

這項覆蓋全球的AI應(yīng)用與落地研究還發(fā)現(xiàn)，盡管優(yōu)先推進可信AI建設(shè)的組織，其AI項目投資回報率翻倍的概率高出60%，但僅有40%的企業(yè)會在治理機制、可解釋性及倫理保障措施方面進行投資，以提升AI系統(tǒng)的可信度。矛盾之處在于，雖然傳統(tǒng)AI是當前發(fā)展最成熟、最可靠且可解釋性最高的AI類型，但那些對可信AI系統(tǒng)投入最少的企業(yè)卻認為，生成式AI（如ChatGPT）比傳統(tǒng)AI（如機器學(xué)習(xí)）的可信度高出200%。

國際數(shù)據(jù)公司（IDC）AI與自動化實踐研究總監(jiān)Kathy Lange指出："我們的研究揭示了一個核心矛盾—無論實際可靠性或準確性如何，那些具備類人交互特性、且在社會層面更易被大眾熟知的AI類型，似乎更能贏得高度信任。作為AI領(lǐng)域的提供商、專業(yè)人士及個人用戶，我們必須直面兩個關(guān)鍵問題：雖然生成式AI獲得了信任，但它是否始終值得信賴？對于這一新興技術(shù)，行業(yè)領(lǐng)導(dǎo)者是否采取了必要的防護機制與AI治理措施？"

完整研究報告可通過以下鏈接獲取：http://sas.com/ai-impact.

該研究基于一項覆蓋全球的調(diào)研數(shù)據(jù)，共收集到來自北美、拉丁美洲、歐洲、中東及非洲、亞太地區(qū)的 2375名受訪者反饋。調(diào)研對象中，IT 專業(yè)人士與業(yè)務(wù)部門負責人占比均衡，從技術(shù)、業(yè)務(wù)兩大核心視角為研究提供了多元觀點支撐。

新興AI技術(shù)最受信任

總體而言，該研究發(fā)現(xiàn)，在各類AI應(yīng)用中，生成式AI、代理式AI（agentic AI,）等新興技術(shù)的受信任度顯著高于其它發(fā)展更為成熟的AI類型。近半數(shù)受訪者（48%）表示對生成式AI "完全信任"，還有三分之一（33%）的受訪者對代理式AI持 "完全信任" 態(tài)度。傳統(tǒng)AI則是受信任度最低的類別 —— 僅有不到五分之一（18%）的受訪者表示對其完全信任。

盡管受訪者對生成式AI和代理式AI的信任度較高，卻也表達了多方面的擔憂，具體包括數(shù)據(jù)隱私問題（62%）、透明度與可解釋性問題（57%），以及倫理應(yīng)用問題（56%）。

與此同時，量子AI（quantum AI）的受信任度正快速提升——盡管實現(xiàn)大多數(shù)量子AI應(yīng)用場景所需的技術(shù)尚未完全成熟。全球近三分之一的決策者表示熟知量子AI，且有 26% 的受訪者對該技術(shù)表示完全信任，即便目前其現(xiàn)實應(yīng)用仍處于早期階段。

AI防護措施滯后：削弱AI影響力，拉低投資回報率

研究顯示，AI的使用率正快速攀升——其中生成式AI的表現(xiàn)尤為突出，其關(guān)注度與應(yīng)用率（分別達到81%和66%）已迅速超越傳統(tǒng)AI。這一趨勢也引發(fā)了全新層面的風險與倫理擔憂。

IDC研究人員發(fā)現(xiàn)，在所有地區(qū)，企業(yè)對AI的信任程度與該技術(shù)實際具備的可信度之間均存在偏差。研究數(shù)據(jù)顯示，近八成（78%）企業(yè)聲稱完全信任AI，但其中僅有四成會通過采用AI治理、可解釋性優(yōu)化及倫理保障措施，使系統(tǒng)的可信度具備可驗證性。

此外，研究還指出，在AI項目落地運營過程中，可信AI相關(guān)措施的優(yōu)先級普遍較低。在受訪者列出的企業(yè)三大優(yōu)先級中，僅有2%的受訪者將"構(gòu)建AI治理框架"納入其中，而表示已制定可信任AI政策的受訪者占比則不足10%。然而，對可信AI措施的優(yōu)先級下調(diào)，或?qū)璧K這些企業(yè)在未來充分兌現(xiàn)AI投資的價值。

研究人員將受訪者劃分為"可信 AI 領(lǐng)先者" 與 "可信 AI 追隨者"兩類。領(lǐng)先者在相關(guān)實踐、技術(shù)及治理框架上投入最多，以提升其 AI 系統(tǒng)的可信度 —— 且顯然已從中獲得回報。數(shù)據(jù)顯示，這些可信 AI 領(lǐng)先者實現(xiàn) AI 項目兩倍及以上投資回報率的概率，是其他企業(yè)的 1.6 倍。

AI發(fā)展受制于數(shù)據(jù)基礎(chǔ)薄弱與治理缺失

隨著AI系統(tǒng)自主性不斷增強，并深度融入關(guān)鍵業(yè)務(wù)流程，數(shù)據(jù)基礎(chǔ)的重要性也隨之凸顯。數(shù)據(jù)的質(zhì)量、多樣性及治理水平直接影響AI的應(yīng)用成效。因此，智能化數(shù)據(jù)策略既是挖掘AI價值（如提升投資回報率、提高生產(chǎn)效率）的核心前提，也是規(guī)避相關(guān)風險的關(guān)鍵保障。

該研究指出，AI落地面臨三大主要障礙：數(shù)據(jù)基礎(chǔ)設(shè)施薄弱、治理機制不完善以及AI技能人才短缺。近半數(shù)（49%）企業(yè)表示，數(shù)據(jù)基礎(chǔ)未實現(xiàn)集中化管理，或云數(shù)據(jù)環(huán)境未完成優(yōu)化，是阻礙AI推進的主要瓶頸。緊隨其后的兩大痛點為：缺乏完善的數(shù)據(jù)治理流程（44%）和缺少AI專業(yè)技能人才（41%）。

在AI實施涉及的數(shù)據(jù)管理問題上，受訪者反饋的首要挑戰(zhàn)是難以獲取相關(guān)數(shù)據(jù)源（58%）。其他主要擔憂還包括數(shù)據(jù)隱私與合規(guī)問題（49%），以及數(shù)據(jù)質(zhì)量問題（46%）。

"無論對社會、企業(yè)還是員工而言，可信任的AI都至關(guān)重要，"SAS首席技術(shù)官Bryan Harris表示，"要實現(xiàn)這一目標，AI行業(yè)需提高技術(shù)落地的成功率，人類需對AI輸出結(jié)果進行審慎核查，而企業(yè)領(lǐng)導(dǎo)層則需借助AI為員工賦能。"

關(guān)于SAS

SAS是數(shù)據(jù)和人工智能領(lǐng)域的全球領(lǐng)導(dǎo)者。通過SAS軟件和行業(yè)特定的解決方案，企業(yè)能將數(shù)據(jù)轉(zhuǎn)化為值得信賴的決策。 SAS賦予您 "洞察的力量" (THE POWER TO KNOW®) 。