7月31日,以“构建先进的安全模型,引领安全产业变革”为主题,ISC.AI 2024数字安全峰会在北京国家会议中心成功举办。
本次峰会旨在鼓励行业通过大规模模型重构安全框架,确保数字经济的稳健前进。
会上,众多院士级专家和包括360、华为、微软在内的国内外企业领袖共聚一堂,共同探讨人工智能技术的进步所带来的安全挑战及其解决方案,探索利用大规模安全模型推动数字安全发展的新途径。
在人工智能安全问题上,我们不容忽视其重要性和紧迫性,亟需产学研用各方面共同努力寻找新的解决方法。
人工智能技术的广泛应用正在推动各行各业的转型升级,并给安全行业的发展注入了强大的动力。
中国工程院院士吴世忠在其主题演讲中深入分析了生成式人工智能安全研究的总体情况和技术热点,指出由AI技术带来的新型安全问题已成为现实,而大模型的安全研究才刚刚起步。
无论是安全研究还是安全产业,都需要紧跟科技的进步和应用创新的步伐,以更好地服务和发展保障。
“当前,AI应用系统的安全责任与风险严重不匹配”,中国工程院院士邬江兴强调了AI系统所面临的困境。
他提出,采用内生安全架构可以发现或纠正AI应用系统的安全问题,AI应用系统中必须包含必要的多样性和相对正确公理的内生安全构造,以便在不可信的过程中找到相对可信的结果。
智能时代需要选择正确的技术路径,实现更安全的AI应用系统。
随着人工智能技术的迅速发展,所有行业和产品都在经历重塑,安全行业也面临着一场革命。
360集团创始人周鸿祎在其《构建安全大模型,引领安全行业变革》的主题演讲中指出,用AI重新定义安全的本质是让安全实现“自动驾驶”。
360首创的安全大模型对购买360标准产品的用户免费提供大规模模型的标准能力,实现大规模模型的普及和安全行业的新生产力变革。
作为国内唯一具备数字安全能力和AI技术双重优势的厂商,360基于深厚的大规模模型底层技术、世界最大规模的安全知识库、亚洲最大的高级安全专家团队以及多领域全覆盖的安全场景能力,打造了国内首个大规模安全模型“360安全大规模模型”,并在终端、安全运营、安全服务等众多业务场景中进行实践。
目前,360全线安全产品已整合大规模安全模型的能力,并免费为所有购买360标准产品的用户提供大规模模型的标准能力。
当前,人工智能的快速发展和技术创新的加速迭代推动了业界模型从千亿稠密向万亿稀疏转变,并逐步发展至百万级超长序列和多模态。
华为副总裁岳坤在演讲中表示,如何在智能时代的初期保证相应的服务能力和水平,将是早期智能应用面临的核心挑战之一。
他强调,提升安全水平是保障智能化服务能力和水平的关键,而原生问题是人工智能时代面临的最大安全问题。
华为今年发布的昇腾原生计划将投入专项资金,通过技术和商业驱动生态繁荣,为客户打造更加符合场景需求的方案,加快AI模型的应用。
随着生成式人工智能驱动AI发展进入新阶段,AI治理亦成为了一个突出问题。
先进计算与关键软件海河实验室主任龚克强调,AI治理应遵循有利于发展、为人服务和基于伦理的原则,认识到技术的限制和人为对AI技术的滥用、误用风险。
防止AI“作恶”需要建立明确的伦理标准、提高透明度和问责制、完善法律法规、内置安全机制等措施。
此外,要坚持开放创新,在信创基础上发展可控安全的AI生态。
随后,在IDC中国副总裁钟振山主持的“大规模安全模型引领数字安全新升级”圆桌对话中,来自教育界和企业界的专家学者讨论了大规模技术在安全行业中的影响、大规模在安全领域应用的主要优势和挑战以及小规模应用的价值等话题。
一直以来,ISC致力于搭建“政产学研用”的国际交流平台。
数据安全评估师CCRC-DSA ,数据安全官CCRC-DSO 数据合规官CCRC-DCO,首席数据官CCRC-CDO,CCAI-CDO,工信部电子标准化研究院CDO,ITSSIT服务项目经理,服务项目工程师, CISAW应急服务方向, ISO27001 网络安全相关专业认证.
在ISC.AI 2024数字安全峰会上,来自国内外的专家学者和企业精英共同探讨了安全与大模型技术的融合前沿议题,不仅为数字安全的创新发展提供了宝贵的启示,更推动了数字安全技术的飞跃式发展,引领我们迈向一个更智能、更安全、更和谐的数字新时代。