随着人工智能技术的飞速发展,大在各行各业的应用日益广泛。然而,大模型在带来便利的同时,也面临着诸多安全挑战,如数据泄露、恶意攻击、模型滥用等。为了应对这些潜在的安全风险,构建健康有序的大模型发展环境,360集团率先发起并牵头成立了大模型安全联盟。联盟旨在搭建一个开放合作的平台,汇聚行业各方力量,共同探讨和解决大模型安全领域面临的各种问题。
大模型安全联盟将致力于构建完善的大模型安全标准和规范,推动相关法律法规的制定和完善。联盟还将组织开展技术交流、安全评估、风险预警等工作,及时发现和应对大模型安全风险。此外,联盟还将加强公众宣传和教育,提高公众对大模型安全的认知和防范意识。通过多方合作和共同努力,联盟将为大模型技术的安全应用提供有力保障,促进人工智能技术的健康发展。联盟秉持开放合作的原则,欢迎更多从事大模型研究、开发、应用和安全的企业、机构和个人加入,共同为构建安全可信的大模型生态贡献力量。
近年来,360集团在大模型安全领域持续投入,并取得了一系列重要成果。360发布了安全大模型,并将其应用于多个安全场景,有效提升了网络安全防护能力。360董事长周鸿祎曾表示,360在安全方面的投入超过行业第二名到第十名的总和,充分体现了360集团对网络安全和数据安全的高度重视。此次牵头成立大模型安全联盟,再次彰显了360集团在推动大模型安全发展方面的责任担当和领先优势。