360公司的创始人周鸿祎详细介绍了360大模型安全解决方案

在计算机安全学术交流会上,360公司的创始人周鸿祎详细介绍了360大模型安全解决方案。他提出,随着大模型的发展进入第二阶段,关键问题是如何构建真正安全且可用的大模型。

周鸿祎将安全风险分为三个阶段:短期、中期和长期。短期风险主要涉及大模型自身引发的网络安全、数据安全和生成内容安全等问题。中期风险包括人为恶意应用,例如利用AI换脸和AI换声技术进行诈骗。而长期风险则指随着更强大的人工智能的出现,可能会给人类生存带来安全挑战。360公司的创始人周鸿祎详细介绍了360大模型安全解决方案

为了解决这些问题,360公司打造了一个原生安全大模型“360智脑”,并遵循安全、向善、可信和可控的四大原则。这一解决方案旨在确保大模型在企业级场景中的安全应用。

此外,360公司还计划推出Agent框架,这是一种将人的能力赋予大模型的框架,既能提升大模型的性能,又能对其进行约束。周鸿祎表示,360的原生大模型安全解决方案能够以外挂式“360大模型安全管家”的形式,平移复制给有需求的行业合作伙伴和客户,提供网络与数据安全、内容护栏、搜索知识增强以及可视化数据监测等多项能力。

ai工具箱
ai导航
免费aigc导航
aigc工具
免费ai工具

© 版权声明

相关文章