新聞-中華看點

別讓AI助手成威脅國家安全的“隱形武器”

2025-07-16 07:59:27央視新聞客戶端

誤導公共輿論、竊取關鍵信息 別讓AI助手成威脅國家安全的“隱形武器”

記者從國家安全部了解到,數字化時代,人工智能(AI)正逐漸滲透到千行百業和日常生活中,推動經濟社會高質量發展。值得注意的是,AI工具若被不法分子利用,會對我國關鍵數據、基礎設施、社會秩序造成損害,成為威脅國家安全的“隱形武器”。

虛假信息的“投毒者”

AI技術中的“深度偽造(Deepfake)”能力是“深度學習”與“偽造”的結合,人工智能的深度學習算法能夠進行自動化的數據處理,從而實現圖片、音頻和視頻的智能模擬和偽造。該技術用於影視、遊戲、廣告等行業,可創作出更多逼真、有趣的虛擬角色和場景,翻新娛樂體驗。然而,一旦被濫用或惡意使用,將給個人合法權益、社會穩定和國家安全帶來諸多安全風險和挑戰。國家安全機關工作發現,某境外反華敵對勢力通過深度偽造技術生成虛假視頻,企圖向境內傳播,誤導輿論、製造恐慌,對我國家安全構成威脅。

關鍵信息的“竊密者”

從簡單的文字生成,到複雜的多模態創作,生成式AI的強大學習能力令人矚目。AI的學習和決策過程依賴於大量的數據,決定了AI工具可能收集並存儲用戶輸入的信息。據公開報道,因開源庫發生故障,某境外AI模型的部分用戶可以看到其他活躍用戶聊天記錄中的標題甚至是名字、支付地址等隱私信息,造成個人信息泄露。如果不注意防範,相關人員信息數據可能成為境外間諜情報機關實施拉攏策反、滲透破壞活動的指引,造成國家安全風險隱患。

上一頁1/3下一頁

相關閱讀

熱點新聞