根據(jù)Gartner公司的數(shù)據(jù)，到2027年，超過40%的人工智能相關(guān)數(shù)據(jù)泄露將由跨境不當使用生成式人工智能（GenAI）造成。

終端用戶對GenAI技術(shù)的迅速采用已經(jīng)超過了數(shù)據(jù)治理和安全措施的發(fā)展，由于支持這些技術(shù)所需的集中計算能力，引起了對數(shù)據(jù)本地化的擔憂。

Gartner副總裁分析師Joerg Fritsch表示：“由于監(jiān)管不足，經(jīng)常會發(fā)生意外的跨境數(shù)據(jù)傳輸，特別是當GenAI集成到現(xiàn)有產(chǎn)品中而沒有明確的描述或公告時?！薄捌髽I(yè)正在注意到員工使用GenAI工具生成的內(nèi)容的變化。雖然這些工具可以用于經(jīng)批準的業(yè)務(wù)應(yīng)用程序，但如果將敏感提示發(fā)送到托管在未知位置的AI工具和API，則會帶來安全風(fēng)險?！?/p>

全球AI標準化差距導(dǎo)致運營效率低下

人工智能和數(shù)據(jù)治理缺乏一致的全球最佳實踐和標準，導(dǎo)致市場分化，迫使企業(yè)制定針對特定地區(qū)的戰(zhàn)略，從而加劇了挑戰(zhàn)。這可能會限制他們在全球范圍內(nèi)擴展業(yè)務(wù)并從人工智能產(chǎn)品和服務(wù)中受益的能力。

Fritsch表示：“由于本地化的人工智能策略，管理數(shù)據(jù)流和保持質(zhì)量的復(fù)雜性可能導(dǎo)致運營效率低下?！薄敖M織必須投資于先進的人工智能治理和安全，以保護敏感數(shù)據(jù)并確保合規(guī)性。這種需求可能會推動人工智能安全、治理和合規(guī)服務(wù)市場的增長，以及提高人工智能流程透明度和控制的技術(shù)解決方案?！?/p>

在AI治理成為全球使命之前，企業(yè)必須采取行動

Gartner預(yù)測，到2027年，人工智能治理將成為全球所有主權(quán)人工智能法律法規(guī)的要求。

Fritsch說：“無法整合所需治理模型和控制的組織可能會發(fā)現(xiàn)自己處于競爭劣勢，尤其是那些缺乏資源來快速擴展現(xiàn)有數(shù)據(jù)治理框架的組織?！?/p>

為了減輕AI數(shù)據(jù)泄露的風(fēng)險（尤其是跨境GenAI濫用），并確保合規(guī)性，建議企業(yè)采取以下幾項戰(zhàn)略行動：

• 加強數(shù)據(jù)治理：企業(yè)必須確保遵守國際法規(guī)，并通過擴展數(shù)據(jù)治理框架來監(jiān)控意外的跨境數(shù)據(jù)傳輸，以包括人工智能處理數(shù)據(jù)的指導(dǎo)方針。這包括在常規(guī)隱私影響評估中合并數(shù)據(jù)沿襲和數(shù)據(jù)傳輸影響評估。

• 建立治理委員會：成立委員會加強對人工智能的監(jiān)督，確保人工智能部署和數(shù)據(jù)處理的透明溝通。這些委員會需要負責技術(shù)監(jiān)督、風(fēng)險和合規(guī)管理以及溝通和決策報告。

• 加強數(shù)據(jù)安全：使用先進技術(shù)、加密和匿名化來保護敏感數(shù)據(jù)。例如，在特定地理區(qū)域驗證可信執(zhí)行環(huán)境，并在數(shù)據(jù)必須離開這些區(qū)域時應(yīng)用差異隱私等先進匿名化技術(shù)。

• 投資TRiSM產(chǎn)品：規(guī)劃和分配針對AI技術(shù)的信任、風(fēng)險和安全管理(TRiSM)產(chǎn)品和功能的預(yù)算。這包括人工智能治理、數(shù)據(jù)安全治理、及時過濾和修訂，以及非結(jié)構(gòu)化數(shù)據(jù)的合成生成。Gartner預(yù)測，到2026年，應(yīng)用AI TRiSM控制的企業(yè)將至少減少50%的不準確或非法信息，從而減少錯誤決策。