AI 时代：警惕风险，守护安全
更新时间：2024-10-16 12:38 浏览量：1
人工智能技术的飞速发展为我们的生活带来了诸多便利与惊喜。在交通出行领域，智能辅助驾驶系统提升了驾驶的安全性，降低了交通事故的发生概率。家庭家居方面，智能互联家居可以根据用户的习惯自动调节环境，实现远程控制，让生活更加便捷舒适。例如，一句话就能打开音乐、空调等设备，极大地提高了生活效率。
在公共安全领域，人工智能结合生物特征识别和大数据，能够加强公安系统的管理和安全预测。智慧城市工程更是利用人工智能技术，对城市公共安全进行实时监测，降低了犯罪率，提高了城市的安全性。
在手机及互联网娱乐领域，人工智能的应用也十分广泛。手机的语音助手、实时翻译功能、图片文字智能识别提取等功能，为用户带来了极大的便利。听歌识曲、刷脸解锁、拍照优化等功能也丰富了用户的娱乐体验。
然而，人工智能在带来便利的同时，也存在着一系列风险隐患，可能危害国家安全。AI 工具可能泄露敏感数据，AI 生成的内容可能传播虚假信息，智能设备可能遭受网络攻击，AI 钓鱼攻击更加隐蔽复杂，个性化推荐可能暗藏信息陷阱。这些风险隐患如果不加以防范，可能会对个人隐私、财产安全乃至国家安全造成严重危害。
例如，伦敦大学等高校的研究人员开发的人工智能系统，可以通过听键盘声音窃取用户输入的内容，准确率高达 93 - 95%。微软 Copilot Studio AI 工具被曝存在安全漏洞，会泄露敏感云数据。这些案例都表明，人工智能技术在带来便利的同时，也给数据安全带来了巨大挑战。
AI 对话和文字创作等工具在为人们提供便捷服务的同时，也带来了巨大的安全隐患。微软 Copilot Studio AI 工具被曝存在安全漏洞，会泄露敏感云数据。据了解，研究人员利用该工具中的漏洞，能够发出外部 HTTP 请求，从而访问云环境中有关内部服务的敏感信息，并潜在影响多个租户。类似的安全漏洞可能存在于其他 AI 工具中，一旦被境外间谍情报机关利用，将对国家安全造成严重威胁。
AI 工具可收集并存储用户输入的信息，这些信息可能包含个人隐私、商业秘密甚至国家秘密。例如，一些涉密敏感人员在使用 AI 工具时，可能无意中输入敏感信息，而这些信息如果被 AI 工具收集存储，就有可能被境外间谍情报机关窃取。相关数据一旦被窃取，将造成国家安全风险隐患。
AI 具有快速生成大量高仿真文稿、图片和音视频的能力，这也为不法分子提供了可乘之机。不法分子利用相关技术进行诈骗或捏造、传播网络谣言和虚假有害信息等非法活动，可能对公众产生误导，对国家安全和形象造成损害。
例如，生成式人工智能被用于炮制假新闻，采用设定要求 — 输入部分素材 — 自动生成图文 / 视频的全自动化模式，对官媒新闻进行歪曲和篡改。此外，散播谣言也是常见的手段之一，制造假消息快且自动化、批量化传播扩散快，容易在互联网上引起广泛关注和讨论，而辟谣却困难重重。
美国联邦贸易委员会正在调查 OpenAI 是否违反消费者保护法，其中就包括要求 OpenAI 提供其 “生成有关真实个人的虚假陈述的能力” 等信息。这表明，AI 生成虚假信息带来的危害已经引起了监管机构的重视。
智能家居设备和智能网联汽车在给人们生活带来便利的同时，也面临着被黑客攻击的风险。一旦被黑客攻击掌握系统权限，黑客将通过监听、监视等手段，对通话、行程、周围地理信息等有关数据进行收集分析，造成个人隐私、财产安全乃至国家安全的现实危害。
腾讯安全玄武实验室发布的一项研究报告指出，攻击者可通过改写快充设备固件中的程序代码来控制充电行为，可造成被充电设备元器件烧毁甚至爆炸等严重后果。类似的攻击方式也可能应用于智能家居设备和智能网联汽车，给用户带来巨大的安全风险。
AI 技术使网络钓鱼攻击变得更加隐蔽、更具欺骗性。境外间谍情报机关利用 AI 技术对我国核心涉密企业、单位开展网络钓鱼攻击，手法更多样、手段更复杂。
识别和应对 AI 网络钓鱼攻击的 7 条准则中提到，目前 AI 在网络攻击方面最重要的应用就是欺诈性内容生成，凡是能使用 ChatGPT 的人都可以生成格式规范、以假乱真的文本。员工们再也不能依靠之前的经验来判断电子邮件是否恶意，图像、语音甚至视频都可以通过内容生成技术来伪造。
AI 推荐系统通过分析用户习惯，个性化推荐形成 “过滤气泡”，形成互联网回音壁效应，对个人思想观念等产生影响，使受众陷入信息茧房。境外敌对势力可能利用 AI 推荐系统对我国网民进行舆论引导和意识形态渗透。
例如，AI 可能通过分析大量数据和算法，识别人们的偏好和趋势，并根据这些信息产生定制化的内容。这种个性化的内容可能会影响人们的观点和决策，并最终影响到整个社会。如果被境外敌对势力利用，可能会对我国的国家安全造成威胁。
广大公民特别是核心涉密岗位人员，一定要牢记切勿将国家秘密、商业秘密或个人隐私等敏感信息输入 AI 工具。如今，AI 工具虽然为我们的生活和工作带来了诸多便利，但也存在着巨大的安全隐患。例如，据相关数据显示，每年因个人不慎将敏感信息输入 AI 工具而导致的信息泄露事件呈上升趋势。核心涉密岗位人员所接触的信息往往涉及国家安全，一旦泄露，后果不堪设想。同时，也不要用网络传播涉密内容，网络环境复杂多变，黑客攻击、数据窃取等风险随时存在。我们要时刻保持警惕，守护好国家和个人的敏感信息。
在面对 AI 生成的视听内容时，我们必须谨慎对待。在转发网络信息前，要多方验证信息的可靠性。如今，网络上的信息鱼龙混杂，AI 生成的内容更是真假难辨。我们不能仅仅因为内容看起来吸引人或者符合自己的观点就盲目转发。应以官方渠道发布的信息为准，官方渠道的信息经过严格审核，具有较高的可信度。例如，在一些重大事件中，官方媒体会及时发布准确的信息，我们可以通过关注官方媒体账号、浏览官方网站等方式获取可靠信息，避免被虚假信息误导。
使用智能家居和智能网联汽车时，有很多需要注意的地方。应定期检查并删除不再使用的智能设备的访问权限，这可以有效防止被黑客攻击。据统计，约有 30% 的智能家居设备被攻击事件是由于未及时删除不必要的访问权限导致的。必要时，还应关闭远程访问功能，降低被黑客远程控制的风险。同时，要及时更新智能家居设备和智能网联汽车的固件和软件，修复已知的安全漏洞。软件开发商会不断推出更新，以提高设备的安全性和稳定性，我们要及时安装这些更新，确保设备始终处于安全状态。
使用邮件过滤器和防病毒软件是防范可疑邮件的重要手段。这些软件可以自动拦截大部分可疑邮件，降低我们被网络钓鱼攻击的风险。当收到可疑信息时，应通过官方渠道核实，不轻易点击链接或提供个人信息。不要随意下载不明附件，特别是来自不信任或不熟悉的发件人的附件。重要行业从业者尤其要提高警惕，防止被针对性攻击。因为他们所接触的信息往往具有更高的价值，更容易成为攻击目标。例如，金融、科技等重要行业，一旦遭受网络攻击，可能会造成巨大的经济损失和社会影响。
在人工智能时代，我们既要充分发挥人工智能的优势，促进生产生活的发展，又要高度重视安全问题，共同维护国家安全。
一方面，人工智能为生产生活带来了巨大的变革和机遇。在工业领域，人工智能可以实现智能化生产，提高生产效率和产品质量。例如，通过智能机器人和自动化设备，可以完成危险和重复性高的工作，减少工人受伤的风险，同时提高生产速度。据统计，采用人工智能技术的工厂，生产效率平均提高了 30% 以上。在医疗领域，人工智能可以辅助医生进行疾病诊断和治疗方案制定。通过对大量医疗数据的分析，人工智能可以快速准确地识别疾病特征，为医生提供更科学的诊断依据。在交通领域，智能交通系统可以实时监测交通流量，优化交通信号控制，减少交通拥堵，提高出行效率。
另一方面，我们必须提高安全意识，采取有效措施防范人工智能带来的风险隐患。首先，要完善法律法规。聚焦人工智能重点领域安全应用、伦理道德约束等方面，制定更多更明确的法规政策、行业规范，保障人工智能研发和应用中的个人隐私与数据安全。例如，国家网信办等 7 部门联合发布的《生成式人工智能服务管理暂行办法》，明确提出不得生成虚假有害信息，为生成式人工智能划定了 “红线”。其次，要加强前瞻布局。支持以人工智能技术防范人工智能风险，积极发展用于人工智能治理的相关技术开发与应用。
奇安信集团董事长齐向东表示，要增强 “人工智能 + 安全” 的鉴伪能力，遏制 AI 生成虚假信息的泛滥。奇安信人工智能研究院在深度伪造、深度鉴伪等技术方面取得了重大突破，能够准确识别多种前沿 AI 伪造技术生成的虚假图片视频。再次，要坚决打击犯罪。依法打击利用人工智能进行危害国家安全的犯罪行为，并督促人工智能行业和用户个人自觉提升防范意识、遵守法律法规，履行维护国家安全主体责任。最后，要推动全球治理。积极发挥多边机制作用，拓展 “以人为本”、“智能向善” 共识，形成具有广泛共识的治理框架和标准规范，推动各国在人工智能治理中加强信息交流和技术合作，共同做好风险防范。
总之，在人工智能时代，我们要正确认识人工智能带来的机遇和挑战，既要用好人工智能促进生产生活，也要提高安全意识，共同维护国家安全。通过完善法律法规、加强前瞻布局、坚决打击犯罪、推动全球治理等多方面的努力，为人工智能的发展注入更多 “安全基因”，确保人工智能安全、可靠、可控，为国家的繁荣发展和人民的幸福生活保驾护航。