企業(yè)如何保證系統(tǒng)內部運行的人工智能技術是經過認證的,大模型是否穩(wěn)定可靠且沒有受到安全攻擊,人工智能決策會不會被他人劫持……在近日舉行的思科2025科技創(chuàng)新人工智能峰會上,與會專家們圍繞上述議題展開討論。
思科大中華區(qū)資深副總裁兼首席技術官侯勝利認為,近年來,隨著各大企業(yè)加速部署人工智能應用,大模型、技術架構、相關應用、基礎設施正在面臨新的安全攻擊。要想讓人工智能應用真正落地,除了需要考慮算力因素外,還應注意到安全隱患。
對此,侯勝利提出了構建“連接”和“守護”兩大能力體系的人工智能安全防護戰(zhàn)略。他介紹,以網絡連接為例,思科推出了三級架構解決方案,包括搭建智算中心網絡、分布式人工智能網絡以及云原生網絡平臺,通過多維度技術解決方案和管理體系提升全鏈路安全防護能力。
在數字化時代,人工智能安全是企業(yè)發(fā)展的重要基石,是保障企業(yè)數據資產安全的重要手段。思科全球副總裁兼大中華區(qū)首席執(zhí)行官黃志明表示,為了維護企業(yè)的人工智能安全,思科將從基礎設施、數據、產品、服務等方面提供安全保護。
“例如,圍繞基礎設施建設,我們將通過人工智能原生高密度交換設備、智能網絡管理、高性能光模塊等,為企業(yè)打造更快、更靈活、更安全的人工智能基礎網絡,并重塑數據中心運營,提升與人工智能負載的協(xié)同效率;圍繞數據建設,我們將與機器數據引擎平臺深度融合,助力客戶全面洞察網絡、安全、業(yè)務數據。”黃志明說。
近兩年來網絡安全最大的變化之一,就是生成式人工智能的普及。“技術革新也催生出了新的網絡攻擊形式,包括智能釣魚、自適應惡意軟件等。”思科大中華區(qū)副總裁兼安全事業(yè)部總經理卜憲錄說。
在他看來,企業(yè)難以應對人工智能安全的難點在于,人工智能應用系統(tǒng)往往分散部署在多個業(yè)務部門之間,涉及的數據鏈條復雜,使得統(tǒng)一管理難度加大。
針對企業(yè)如何系統(tǒng)性加強人工智能安全防護,卜憲錄給出了一個“三步走”的路線圖。第一步是“發(fā)現”,明確公司內部網絡中存在的人工智能應用種類,包括員工是否使用了未經授權的人工智能工具;第二步是“檢測”,識別這些人工智能系統(tǒng)可能存在的漏洞、風險點;第三步是“防護”,構建系統(tǒng)的安全機制,重點應對人工智能技術帶來的新型攻擊手法,比如提示詞攻擊、幻覺內容生成、敏感數據在對話中被無意泄露等。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2024 中國高新網chinahightech.comAll Rights Reserved.京ICP備14033264號-5
電信與信息服務業(yè)務經營許可證060344號主辦單位:《中國高新技術產業(yè)導報》社有限責任公司