控制系统模块 1768-L43S 调试方便

控制系统模块 1768-L43S 调试方便

工业大模型要遵循安全原则

工业场景有其特殊性，一方面工业制造业关乎国计民生，是经济和产业发展的基本盘。另一方面，这个领域极其复杂且细碎，目前国内规模以上工业企业数量超过40万家，覆盖41个工业大类、207个工业中类、666个工业小类，其中存在着大量的场景和业务痛点。工业安全的重要性毋庸置疑。

尤其是经过多年的发展，工业企业加速上云，完成了不少场景的智能化升级。大模型的到来，在为这个领域带来新机遇的同时也带来了更多安全挑战。

“工业级大模型应用可以解决安全生产力短缺的问题，但大模型技术是一把‘双刃剑’，需要以大模型应用安全作为生产力输出的前提和基础。然而，当前大多数大模型应用无法真正解决网络安全生产力问题。”吴云坤表示。

他建议，安全大模型达到工业级应用，需要满足三个关键条件。一是需要高质量知识数据、专家队伍、实战经验和场景支撑；二是必须基于多种安全任务的强化学习和专家的反馈训练；三是要面向安全生产场景中的任务和应用强化实战能力。像奇安信推出的大模型卫士，便可以防范大模型应用中数据投喂造成的敏感数据泄露、避免触发数据跨境安全监管红线、建立身份识别与溯源机制，对企业的大模型应用进行安全管控。

奇安信集团总裁吴云坤在2023世界互联网大会乌镇峰会上发表演讲

制造业是一个高度化的领域，且细分行业众多，不能简单地将一个通用大模型应用于生产环境。即便是引领技术潮流的GPT-4，也由于缺少知识、无法理解工业场景的具体需求，而无法准确回答制造行业的相关问题、识别常见的工业缺陷，或生成相关的业务流程和代码。

在工业安全场景中，更是需要有全面的工业知识和安全知识的结合，这对安全大模型本身也提出了更高的要求。腾讯安全科恩实验室安全研究员唐祺壹表示：“要跟实际的业务场景去做结合，通过场景数据微调的方式，以更低的训练适配成本和插件化的灵活性，去将大模型应用到不同的场景当中，发挥真正的价值。”

360创始人周鸿祎认为，大模型很热，但绝不是风口和泡沫，而是代表了一次工业革命的机会，将大幅提高生产力和生产效率。在构建企业级大模型的时候一定要遵循“安全原则”。安全是大模型发展的底线，也是未来大模型的核心竞争力。

控制系统模块 1768-L43S 调试方便