招聘岗位

工作地点:北京、深圳、西安、杭州、东莞 | 岗位投递邮箱:cloudsecurity@huawei.com

岗位名称

研究方向

岗位要求

AI安全大模型开发工程师/实习生

1、负责安全大模型LLM和智能体应用的安全分析、设计和开发;

2、AI模型在线微调/训练;

3、面向极致性能的AI推理任务调度管理;

4、智能时序数据建模与分析;

5、安全数据集自动化生产关键技术;

6、大规模数据/模型训练与验证平台。

1、熟悉智能体安全开发过程,熟悉在智能体规划、记忆存储,工具调用,工具执行各阶段的安全风险和防护方案;

2、精通Python、Java等语言,熟练使用Langchain,PyTorch、TensorFlow、Hugging Face等框架;

3、掌握网络安全、数据安全、内容安全的核心场景(如漏洞挖掘、恶意代码检测、隐私合规)。

AI大模型安全工程师/实习生

1、负责安全大模型LLM和智能体应用的安全分析、设计和开发,熟悉大模型/智能体的主流攻击类型和防护手段,了解提示词攻击、模型幻觉、有害内容、模型资产窃取、智能体滥用工具等安全分析和防护方案;

2、负责通过微调、蒸馏、RAG知识库来优化大模型应用的输出结果;

3、负责通过提示词工程,设计和优化输入提示词来引导大语言模型生成高质量输出;

4、负责跟踪大模型安全领域前沿动态,熟悉国内外安全标准(如欧盟AI法案),具备合规意识。

1、熟悉大模型全流程开发(数据清洗、预训练、微调、部署)及优化技术(如量化、剪枝、蒸馏);

2、精通Python、Java等语言,熟练使用Langchain,PyTorch、TensorFlow、Hugging Face等框架;

3、掌握网络安全、数据安全、内容安全的核心场景(如漏洞挖掘、恶意代码检测、隐私合规)。

开发工程师

从事安全微隔离防护工具软件开发,采用敏捷、Devops等先进的软件设计开发模式,接触最前沿的产品和软件技术,成为行业技术专家;你将参与华为产品的软件研发工作,包括但不限于如下工作 :

1、负责服务架构设计和特性开发、单元测试、API测试、静态检查、本地构建等工作;

2、与团队一起负责服务产品的技术竞争力构建,不断提升服务的业界竞争力;

3、负责微服务框架、微服务平台设计和开发,分布式事务、分布式任务调度等中间件产品的设计和开发。

1、熟悉Java/C++/Python/Go等编程语言中的一种,熟悉常用设计模式/数据结构/算法等,熟悉Spring Boot、Spring Cloud等前后端框架,有分布式系统、云/微服务开发经验者优先;

2、熟悉Web前端UI及交互页面开发,熟练html、css、js等前端技能及性能调优,有angular开发经验者优先;

3、主导/参与过大中规模软件的需求分析/设计/开发/测试/关键算法与技术攻关等研发活动;

4、有良好的团队合作意识和创新意识,对技术研究有热情,敢于面对各种技术挑战。

专业知识要求:

1、至少精通JAVA、C/C++、GO、Python、Angularjs、JavaScript等1种或多种主流编程语言,熟悉linux/Unix操作系统,能熟练使用各种软件研发工具、数据库及中间件;

2、精通计算机软件知识,熟悉云计算/大数据/DevOps/持续交付/软件算法/软件挖掘/配置管理/数学理论与建模/等某一特定领域的工程方法或工具;

3、熟悉软件设计、软件开发和测试方法;对敏捷、精益、DevOps等研发模式有深入了解和实践经验。

云安全开发工程师/专家

1、研究端到端加密、后量子密码、身份认证、可信计算、机密计算与隐私计算等技术,包括数字信封技术、抗量子混合密钥协商、基于证书的身份认证、同态加密以及可信执行环境等,提升数据保护和身份认证能力;

2、研究大模型自身的安全防护能力提升,包括大模型提示注入与越狱攻击等的防护。基于大模型使能安全能力,包括内容安全、研发安全能力增强等,提升安全研发和运营效率;

3、洞察和规划业界前沿的安全开发和安全运营工程能力,构筑安全竞争力。同时具备系统设计与核心代码开发能力,负责安全检测工具、安全运营工具以及安全组件的设计和开发工作。

1、熟悉安全领域知识背景和公有云业务知识背景,对密码学技术、可信计算技术、机密计算相关安全领域有深入理解;

2、熟悉Java/Python/C/C++等其中一门或多门语言,具有较好的IO、多线程、网络等方面的编程能力,熟练使用一个或多个主流开源开发框架(Spring、Mybatis或Django等),对其核心思想和原理有较好的理解;

3、熟悉Linux系统,对Shell有基本的掌握,精通数据库设计,优秀的SQL编写及调优能力,熟悉常见NoSQL存储;

4、熟悉大模型相关技术,具备AI安全、大模型安全、内容安全等相关工作经验。

网络安全与隐私测试工程师/专家

1、负责云服务安全评测,看护产品安全质量,提升产品安全竞争力;

2、规划、建设安全测试工程能力,解决痛点测试问题,塑造安全隐私测试品牌形象;

3、跟踪安全隐私标准与法规,洞察业界安全测试技术方向。

1、了解安全隐私规范、法规,掌握常见Web、OS、APP安全漏洞原理,熟练使用常见安全工具,具备通过工具或手工的方式挖掘合规及安全漏洞;

2、熟悉Linux系统和主流数据库,熟悉kubernetes、docker、containerd等常用操作,了解docker/containerd的网络、存储、安全特性;

3、掌握主流编程语言之一:Java/Python/C/C++/C#/Shell/Go等,了解常见加解密算法及其应用;

4、精通业界主流开发框架,熟悉云服务、公有云架构,具备产品端到端安全验证能力;

5、了解业界安全测试发展趋势与能力差异,可挑战解决安全测试工程能力建设难题。

云安全技术研究员

1、负责云安全攻防技术研究,包括但不限于Web安全、容器安全、二进制安全、虚拟化安全、AI安全等;

2、研究基于IAST,SAST,DAST,Fuzzing等安全测试技术,研究基于AI大模型的安全测试方法,提升漏洞发现的效率,实现批量化、自动化漏洞挖掘;

3、追踪业界前沿安全攻防技术,转化为内部工具、能力。

1、熟悉常见的Web/移动APP/容器安全漏洞及原理,熟练掌握漏洞挖掘工具;

2、具备良好的代码审计能力和丰富的漏洞挖掘经验,了解IAST,SAST,DAST以及Fuzzing技术,能够熟练使用Fortify、CppCheck、checkmark、 sonar、FL、peach、syzkaller其中一种;

3、熟悉编译和链接原理、逆向分析、软件加壳和脱壳技术,有恶意软件分析能力者优先;

4、了解主流的虚拟化技术,包括但不限于虚拟化管理平台、容器和容器编排引擎等,有虚拟化相关软件漏洞挖掘经验者优先;

5、了解AI安全基本原理,能够熟练使用常见的大模型,有使用AI用于安全研究经验者优先;

6、网络安全/信息安全/计算机等相关专业,有CTF比赛经验者、有云服务漏洞挖掘成果经验者、有云环境渗透测试经验者优先。

云安全架构师

1、负责将安全能力融入基础设施,实现云产品的默认安全,为云平台构建安全竞争力;

2、负责云产品安全架构设计、评估与实现,对业务团队提供安全咨询指导,并推动架构解决方案落地;

3、负责主导安全架构治理专项,设计符合业务现状的架构整改方案,并推动落地。

1、掌握安全攻防知识,了解主流安全风险原理及加固缓解方法,持续跟踪最新技术,有比较好的技术敏感度;

2、具有良好的沟通、团队协作能力,方案推动和落地能力;

3、下面条件满足其一即可:

a.具有5年以上安全团队工作经验,熟悉业界AWS、Azure等主流公有云架构,熟练掌握云计算知识。参与构建过公有云、私有云等场景下的云安全架构设计,或承担过中、大型企业的安全规划和建设;

b.熟悉掌握某一云上安全架构领域的知识及技能(云原生技术、虚拟化安全、云上身份与权限、密码学、云上网络架构、零信任)。

SDL安全工程师/专家

1、负责SDL流程&制度建设,包括安全开发制度、流程、标准的制定,推动安全编码、SDL安全设计、最佳实践的落地执行;

2、规划/参与/推进SDLC体系建设,负责/参与DAST/SAST/IAST/RASP/安全插件等自动化工具的规划和建设;

3、深入熟悉业务场景,并跟进安全评估、安全测试、漏洞修复、安全事件监控和应急响应,识别业务风险并输出安全解决方案;

4、熟悉安全编码规范,并可以组织安全编码培训,提高研发安全意识和编码水平;

5、追踪最新安全漏洞和技术,能够分析漏洞原理和实现PoC编写;

6、负责基础安全日常风险识别和治理工作,包括业务核心链路风险挖掘与治理、基础安全事件的监控与响应、事前事中事后方案的安全标准执行和管控等。

1、本科以上学历,计算机相关专业如计算机科学技术、信息系统、网络安全等相关专业;

2、3-5年及以上信息安全工作经验,有SDL流程建设经验、DevSecOps开发经验者优先;

3、具备代码审计及漏洞挖掘能力,熟练使用各种安全测试工具;

4、熟练使用java、python、perl、shell、go等一种及以上语言,能够独立编写各类小工具,提高工作效率;

5、熟悉OWASP Top10漏洞,/熟悉常见应用系统的代码漏洞/业务逻辑漏洞的测试和验证,并能指导开发人员进行修复;

6、具备SDLC技术基础和实践经验,对漏洞、业务风险有体系化梳理经验和治理经验等项目经验者优先;

7.具有较强的学习能力,文档编写能力。主动性强,具备良好的沟通协调能力。

测试工程师

1、参与云服务产品的测试活动,包括测试需求分析、测试方案设计、测试用例设计和测试结果分析,测试用例执行,涵盖软件功能测试和专项测试如性能测试、可靠性测试、安全测试、自动化测试等;

2、参与云服务产品补丁版本测试,制定和落实测试策略和计划、识别风险,制定改进措施并落地。

1、具有一定的测试设计或自动化测试技能,掌握常用测试工具;

2、掌握测试方案设计、测试用例设计、测试执行、自动化测试等;

3、具备问题分析和处理能力、一定的沟通协作能力和服务意识。

专业知识要求:

1、掌握一定的测试基础理论和测试设计方法,熟悉功能测试、自动化测试、性能测试、可靠性测试、安全测试等方法和流程;

2、掌握sql/Java/Python/Shell语言中至少一种;

3、拥有1-2年的软件测试经验,具备独立编写代码和调测的能力。

运维工程师

1、负责云服务的运维工作,包括现网保障、事件处理,可用性、运维自动化、监控告警能力构筑等工作;

2、负责重大问题处理及快速恢复能力、运维能力构筑,保障服务高可用目标达成;

3、践行运维驱动研发,通过运维数据分析发现业务问题,驱动SRE和网络产品持续改进;

4、构建网络运维监控告警能力、高可用能力和自动化能力等。

1、熟悉业界数据中心网络的技术发展方向,了解云计算数据中心网络相关服务能力和技术方案;

2、具有中大型网络架构设计、交付、运维等相关经验;

3、了解或熟悉运维流程规范、各类运维场景及实施活动;

4、有良好的计划、沟通、组织协调、语言表达能力,较强的逻辑分析和应变能力,具有良好的团队合作精神。

专业知识要求:

1、了解数据中心虚拟网络主流技术与相关协议,如:VPC、ELB、NAT等,对传统交换机/路由器等网络设备和配置有一定的了解;

2、参与过运维平台关键能力及流程构建,具备重大问题解决能力和流程关键事件回溯分析、重大复杂方案评审保障等能力。

AI安全大模型开发工程师/实习生

研究方向

1、负责安全大模型LLM和智能体应用的安全分析、设计和开发;

2、AI模型在线微调/训练;

3、面向极致性能的AI推理任务调度管理;

4、智能时序数据建模与分析;

5、安全数据集自动化生产关键技术;

6、大规模数据/模型训练与验证平台。

岗位要求

1、熟悉智能体安全开发过程,熟悉在智能体规划、记忆存储,工具调用,工具执行各阶段的安全风险和防护方案;

2、精通Python、Java等语言,熟练使用Langchain,PyTorch、TensorFlow、Hugging Face等框架;

3、掌握网络安全、数据安全、内容安全的核心场景(如漏洞挖掘、恶意代码检测、隐私合规)。

AI大模型安全工程师/实习生

研究方向

1、负责安全大模型LLM和智能体应用的安全分析、设计和开发,熟悉大模型/智能体的主流攻击类型和防护手段,了解提示词攻击、模型幻觉、有害内容、模型资产窃取、智能体滥用工具等安全分析和防护方案;

2、负责通过微调、蒸馏、RAG知识库来优化大模型应用的输出结果;

3、负责通过提示词工程,设计和优化输入提示词来引导大语言模型生成高质量输出;

4、负责跟踪大模型安全领域前沿动态,熟悉国内外安全标准(如欧盟AI法案),具备合规意识。

岗位要求

1、熟悉大模型全流程开发(数据清洗、预训练、微调、部署)及优化技术(如量化、剪枝、蒸馏);

2、精通Python、Java等语言,熟练使用Langchain,PyTorch、TensorFlow、Hugging Face等框架;

3、掌握网络安全、数据安全、内容安全的核心场景(如漏洞挖掘、恶意代码检测、隐私合规)。

开发工程师

研究方向

从事安全微隔离防护工具软件开发,采用敏捷、Devops等先进的软件设计开发模式,接触最前沿的产品和软件技术,成为行业技术专家;你将参与华为产品的软件研发工作,包括但不限于如下工作 :

1、负责服务架构设计和特性开发、单元测试、API测试、静态检查、本地构建等工作;

2、与团队一起负责服务产品的技术竞争力构建,不断提升服务的业界竞争力;

3、负责微服务框架、微服务平台设计和开发,分布式事务、分布式任务调度等中间件产品的设计和开发。

岗位要求

1、熟悉Java/C++/Python/Go等编程语言中的一种,熟悉常用设计模式/数据结构/算法等,熟悉Spring Boot、Spring Cloud等前后端框架,有分布式系统、云/微服务开发经验者优先;

2、熟悉Web前端UI及交互页面开发,熟练html、css、js等前端技能及性能调优,有angular开发经验者优先;

3、主导/参与过大中规模软件的需求分析/设计/开发/测试/关键算法与技术攻关等研发活动;

4、有良好的团队合作意识和创新意识,对技术研究有热情,敢于面对各种技术挑战。

专业知识要求:

1、至少精通JAVA、C/C++、GO、Python、Angularjs、JavaScript等1种或多种主流编程语言,熟悉linux/Unix操作系统,能熟练使用各种软件研发工具、数据库及中间件;

2、精通计算机软件知识,熟悉云计算/大数据/DevOps/持续交付/软件算法/软件挖掘/配置管理/数学理论与建模/等某一特定领域的工程方法或工具;

3、熟悉软件设计、软件开发和测试方法;对敏捷、精益、DevOps等研发模式有深入了解和实践经验。

云安全开发工程师/专家

研究方向

1、研究端到端加密、后量子密码、身份认证、可信计算、机密计算与隐私计算等技术,包括数字信封技术、抗量子混合密钥协商、基于证书的身份认证、同态加密以及可信执行环境等,提升数据保护和身份认证能力;

2、研究大模型自身的安全防护能力提升,包括大模型提示注入与越狱攻击等的防护。基于大模型使能安全能力,包括内容安全、研发安全能力增强等,提升安全研发和运营效率;

3、洞察和规划业界前沿的安全开发和安全运营工程能力,构筑安全竞争力。同时具备系统设计与核心代码开发能力,负责安全检测工具、安全运营工具以及安全组件的设计和开发工作。

岗位要求

1、熟悉安全领域知识背景和公有云业务知识背景,对密码学技术、可信计算技术、机密计算相关安全领域有深入理解;

2、熟悉Java/Python/C/C++等其中一门或多门语言,具有较好的IO、多线程、网络等方面的编程能力,熟练使用一个或多个主流开源开发框架(Spring、Mybatis或Django等),对其核心思想和原理有较好的理解;

3、熟悉Linux系统,对Shell有基本的掌握,精通数据库设计,优秀的SQL编写及调优能力,熟悉常见NoSQL存储;

4、熟悉大模型相关技术,具备AI安全、大模型安全、内容安全等相关工作经验。

网络安全与隐私测试工程师/专家

研究方向

1、负责云服务安全评测,看护产品安全质量,提升产品安全竞争力;

2、规划、建设安全测试工程能力,解决痛点测试问题,塑造安全隐私测试品牌形象;

3、跟踪安全隐私标准与法规,洞察业界安全测试技术方向。

岗位要求

1、了解安全隐私规范、法规,掌握常见Web、OS、APP安全漏洞原理,熟练使用常见安全工具,具备通过工具或手工的方式挖掘合规及安全漏洞;

2、熟悉Linux系统和主流数据库,熟悉kubernetes、docker、containerd等常用操作,了解docker/containerd的网络、存储、安全特性;

3、掌握主流编程语言之一:Java/Python/C/C++/C#/Shell/Go等,了解常见加解密算法及其应用;

4、精通业界主流开发框架,熟悉云服务、公有云架构,具备产品端到端安全验证能力;

5、了解业界安全测试发展趋势与能力差异,可挑战解决安全测试工程能力建设难题。

云安全技术研究员

研究方向

1、负责云安全攻防技术研究,包括但不限于Web安全、容器安全、二进制安全、虚拟化安全、AI安全等;

2、研究基于IAST,SAST,DAST,Fuzzing等安全测试技术,研究基于AI大模型的安全测试方法,提升漏洞发现的效率,实现批量化、自动化漏洞挖掘;

3、追踪业界前沿安全攻防技术,转化为内部工具、能力。

岗位要求

1、熟悉常见的Web/移动APP/容器安全漏洞及原理,熟练掌握漏洞挖掘工具;

2、具备良好的代码审计能力和丰富的漏洞挖掘经验,了解IAST,SAST,DAST以及Fuzzing技术,能够熟练使用Fortify、CppCheck、checkmark、 sonar、FL、peach、syzkaller其中一种;

3、熟悉编译和链接原理、逆向分析、软件加壳和脱壳技术,有恶意软件分析能力者优先;

4、了解主流的虚拟化技术,包括但不限于虚拟化管理平台、容器和容器编排引擎等,有虚拟化相关软件漏洞挖掘经验者优先;

5、了解AI安全基本原理,能够熟练使用常见的大模型,有使用AI用于安全研究经验者优先;

6、网络安全/信息安全/计算机等相关专业,有CTF比赛经验者、有云服务漏洞挖掘成果经验者、有云环境渗透测试经验者优先。

云安全架构师

研究方向

1、负责将安全能力融入基础设施,实现云产品的默认安全,为云平台构建安全竞争力;

2、负责云产品安全架构设计、评估与实现,对业务团队提供安全咨询指导,并推动架构解决方案落地;

3、负责主导安全架构治理专项,设计符合业务现状的架构整改方案,并推动落地。

岗位要求

1、掌握安全攻防知识,了解主流安全风险原理及加固缓解方法,持续跟踪最新技术,有比较好的技术敏感度;

2、具有良好的沟通、团队协作能力,方案推动和落地能力;

3、下面条件满足其一即可:

a.具有5年以上安全团队工作经验,熟悉业界AWS、Azure等主流公有云架构,熟练掌握云计算知识。参与构建过公有云、私有云等场景下的云安全架构设计,或承担过中、大型企业的安全规划和建设;

b.熟悉掌握某一云上安全架构领域的知识及技能(云原生技术、虚拟化安全、云上身份与权限、密码学、云上网络架构、零信任)。

SDL安全工程师/专家

研究方向

1、负责SDL流程&制度建设,包括安全开发制度、流程、标准的制定,推动安全编码、SDL安全设计、最佳实践的落地执行;

2、规划/参与/推进SDLC体系建设,负责/参与DAST/SAST/IAST/RASP/安全插件等自动化工具的规划和建设;

3、深入熟悉业务场景,并跟进安全评估、安全测试、漏洞修复、安全事件监控和应急响应,识别业务风险并输出安全解决方案;

4、熟悉安全编码规范,并可以组织安全编码培训,提高研发安全意识和编码水平;

5、追踪最新安全漏洞和技术,能够分析漏洞原理和实现PoC编写;

6、负责基础安全日常风险识别和治理工作,包括业务核心链路风险挖掘与治理、基础安全事件的监控与响应、事前事中事后方案的安全标准执行和管控等。

岗位要求

1、本科以上学历,计算机相关专业如计算机科学技术、信息系统、网络安全等相关专业;

2、3-5年及以上信息安全工作经验,有SDL流程建设经验、DevSecOps开发经验者优先;

3、具备代码审计及漏洞挖掘能力,熟练使用各种安全测试工具;

4、熟练使用java、python、perl、shell、go等一种及以上语言,能够独立编写各类小工具,提高工作效率;

5、熟悉OWASP Top10漏洞,/熟悉常见应用系统的代码漏洞/业务逻辑漏洞的测试和验证,并能指导开发人员进行修复;

6、具备SDLC技术基础和实践经验,对漏洞、业务风险有体系化梳理经验和治理经验等项目经验者优先;

7.具有较强的学习能力,文档编写能力。主动性强,具备良好的沟通协调能力。

测试工程师

研究方向

1、参与云服务产品的测试活动,包括测试需求分析、测试方案设计、测试用例设计和测试结果分析,测试用例执行,涵盖软件功能测试和专项测试如性能测试、可靠性测试、安全测试、自动化测试等;

2、参与云服务产品补丁版本测试,制定和落实测试策略和计划、识别风险,制定改进措施并落地。

岗位要求

1、具有一定的测试设计或自动化测试技能,掌握常用测试工具;

2、掌握测试方案设计、测试用例设计、测试执行、自动化测试等;

3、具备问题分析和处理能力、一定的沟通协作能力和服务意识。

专业知识要求:

1、掌握一定的测试基础理论和测试设计方法,熟悉功能测试、自动化测试、性能测试、可靠性测试、安全测试等方法和流程;

2、掌握sql/Java/Python/Shell语言中至少一种;

3、拥有1-2年的软件测试经验,具备独立编写代码和调测的能力。

运维工程师

研究方向

1、负责云服务的运维工作,包括现网保障、事件处理,可用性、运维自动化、监控告警能力构筑等工作;

2、负责重大问题处理及快速恢复能力、运维能力构筑,保障服务高可用目标达成;

3、践行运维驱动研发,通过运维数据分析发现业务问题,驱动SRE和网络产品持续改进;

4、构建网络运维监控告警能力、高可用能力和自动化能力等。

岗位要求

1、熟悉业界数据中心网络的技术发展方向,了解云计算数据中心网络相关服务能力和技术方案;

2、具有中大型网络架构设计、交付、运维等相关经验;

3、了解或熟悉运维流程规范、各类运维场景及实施活动;

4、有良好的计划、沟通、组织协调、语言表达能力,较强的逻辑分析和应变能力,具有良好的团队合作精神。

专业知识要求:

1、了解数据中心虚拟网络主流技术与相关协议,如:VPC、ELB、NAT等,对传统交换机/路由器等网络设备和配置有一定的了解;

2、参与过运维平台关键能力及流程构建,具备重大问题解决能力和流程关键事件回溯分析、重大复杂方案评审保障等能力。

博士后研究课题

合作咨询请联系:zhangxiaofeng45@huawei-partners.com

课题名称

课题内容

工作地点

基于大模型防火墙推理阶段安全的关键技术创新研究

课题背景:

大模型火爆程度愈发显著,安全性问题同样备受关注。大模型面临很多新型攻击安全威胁,其威胁不仅仅是内容审核,还带来更多维度风险。比如提示词注入攻击(精心构造大模型输入、操纵大语言模型,导致LLM执行设计之外的操作)、不安全输出、模型拒绝服务(攻击者引发LLM资源密集型操纵,导致服务质量下降或高成本。会引发LLM需要大量计算资源,以及用户不可预测性进一步放大)、敏感信息泄露(LLM输出内容泄露机密数据,导致未经授权的数据访问、隐私侵权和安全入侵等)、不安全插件(LLM插件可能具有不安全的输入或者不充分的访问控制,攻击者利用此漏洞,导致远程代码执行)、过度代理和过度依赖等。本课题主要覆盖推理阶段安全,应用领域在大模型防火墙

主要研究内容:

(1)基于Promt容量耗尽性攻击检测:比如容量耗尽性提示词注入攻击检测。其中容量耗尽性提示词攻击检测识别大量GPU资源消耗的prompt,防止LLM资源过度代理被打穿;

(2)话题一致性检测:运行一系列检测规则,确保提示词相关主题停留在模型所有者定义的边界内,禁止超出提示词之外响应;

(3)AI Agent异常检测:基础模型智能体调度时,会形成一个DAG有向无环图调用链路。外调API时会存在APIURL恶意域名,URL内敏感数据,以及未经授权的API调用等。此场景需构建Agent信任域动态规划引擎,结合深度学习动态行为基线检测小模型协同构建。

商业价值:

华为云作为云厂商首创大模型防火墙,打造关键技术竞争力创新和研究。赋能到大模型防火墙产品体系中。聚焦输入输出内容合规、提示词注入攻击、话题一致性限制和AI Agent异常阻断等关键技术,大幅提升大模型防火墙安全产品竞争力,为客户提供更智能、更精准、更高效大模型安全防护体系

北京、深圳、西安、杭州、东莞

基于大模型的智能数据分类分级、安全威胁分析与内容安全审核研究

课题背景:数据分类分级和安全威胁分析是数据安全的两大支柱能力。数据分类分级是数据安全的基础,传统的人工为主的分类分级方式效率低下,难以应对海量数据的处理需求,基于关键字/正则匹配的分类分级方式存在误报率高的问题,而基于深度学习的预训练语言模型又只能识别特定范围内的数据类型,不具备泛化能力。数据安全威胁分析诣在从海量的操作日志中及时精准地发现数据泄露等风险并进行响应处置,而传统的依赖规则库和特征匹配的方式误报/漏报率高,且无法应对新型攻击和未知威胁。大模型具备强大的自然语言处理、数据分析和推理能力。它能够从海量数据中快速识别敏感信息,精准分类分级,同时可进行复杂的多模态分析推理。这一能力与数据安全领域当前核心的分类分级、威胁分析、审计溯源等需求高度契合,为数据安全能力升级提供了强大的技术支撑。同时像DeepSeek这样的大模型将推理成本和效率优化到了极致,为大模型与传统数据安全产品融合提供了无限可能。

另一方面,随着互联网和社交媒体的快速发展,内容生产和传播的速度呈指数级增长,内容安全问题日益突出。传统的内容安全审核方式依赖于人工审核和规则引擎,效率低下且难以应对海量内容的实时处理需求。AI大模型(如GPT、DeepSeek等)在自然语言处理、图像识别等领域取得了显著进展,为内容安全运营提供了新的技术手段。


主要研究内容:基于AI大模型强大的推理分析和泛化处理能力,研究将大模型应用于数据分类分级、智能威胁分析、智能内容审核等核心需求的可能,并与现有的数据安全产品和安全运营体系深度融合,为客户提供更智能、更精准、更高效的数据安全产品,构建智能化、高效的内容安全运营能力。具体包括:(1)基于自研规则引擎+大模型的敏感内容推理能力,实现对海量数据中敏感内容的精准识别、分类分级智能推荐和自动打标;(2)结合多模态推理分析能力,实现对数据安全事件的深度挖掘和关联分析,精准识别针对数据的异常操作,并提供数据链路还原的能力;(3)针对金融、汽车、数据要素等行业和场景,通过蒸馏等方式获取针对性的数据安全大模型,进一步优化模型性能和推理效率,降低推理成本;(4)基于AI大模型的智能内容审核:研究利用AI大模型对文本、图像、视频等多模态内容进行自动化审核,识别其中的敏感信息、虚假内容、恶意言论等;(5)大模型生成内容的风险识别与评估:研究AI大模型生成内容中的潜在风险(如虚假信息、偏见、Prompt攻击等),开发多维度检测模型,实现对生成内容的自动化风险识别与防护;(6)个性化内容安全策略优化:基于AI大模型分析用户行为与内容互动数据,构建个性化的内容安全策略。


商业价值:一方面,将大模型的智能能力深入融合到当前的数据安全产品体系中,聚焦数据分类分级、智能威胁分析等核心场景,大幅提升华为云数据安全产品的竞争力,为客户提供更智能、更精准、更高效的数据安全防护体系。另一方面,通过AI大模型的技术赋能,构建一套智能化、高效化的内容安全运营体系,为监管侧合规、国家护网等重点场景提供技术支撑。

北京、深圳、西安、杭州、东莞

基于大模型防火墙推理阶段安全的关键技术创新研究

课题内容

课题背景:

大模型火爆程度愈发显著,安全性问题同样备受关注。大模型面临很多新型攻击安全威胁,其威胁不仅仅是内容审核,还带来更多维度风险。比如提示词注入攻击(精心构造大模型输入、操纵大语言模型,导致LLM执行设计之外的操作)、不安全输出、模型拒绝服务(攻击者引发LLM资源密集型操纵,导致服务质量下降或高成本。会引发LLM需要大量计算资源,以及用户不可预测性进一步放大)、敏感信息泄露(LLM输出内容泄露机密数据,导致未经授权的数据访问、隐私侵权和安全入侵等)、不安全插件(LLM插件可能具有不安全的输入或者不充分的访问控制,攻击者利用此漏洞,导致远程代码执行)、过度代理和过度依赖等。本课题主要覆盖推理阶段安全,应用领域在大模型防火墙

主要研究内容:

(1)基于Promt容量耗尽性攻击检测:比如容量耗尽性提示词注入攻击检测。其中容量耗尽性提示词攻击检测识别大量GPU资源消耗的prompt,防止LLM资源过度代理被打穿;

(2)话题一致性检测:运行一系列检测规则,确保提示词相关主题停留在模型所有者定义的边界内,禁止超出提示词之外响应;

(3)AI Agent异常检测:基础模型智能体调度时,会形成一个DAG有向无环图调用链路。外调API时会存在APIURL恶意域名,URL内敏感数据,以及未经授权的API调用等。此场景需构建Agent信任域动态规划引擎,结合深度学习动态行为基线检测小模型协同构建。

商业价值:

华为云作为云厂商首创大模型防火墙,打造关键技术竞争力创新和研究。赋能到大模型防火墙产品体系中。聚焦输入输出内容合规、提示词注入攻击、话题一致性限制和AI Agent异常阻断等关键技术,大幅提升大模型防火墙安全产品竞争力,为客户提供更智能、更精准、更高效大模型安全防护体系

工作地点

北京、深圳、西安、杭州、东莞

基于大模型的智能数据分类分级、安全威胁分析与内容安全审核研究

课题内容

课题背景:数据分类分级和安全威胁分析是数据安全的两大支柱能力。数据分类分级是数据安全的基础,传统的人工为主的分类分级方式效率低下,难以应对海量数据的处理需求,基于关键字/正则匹配的分类分级方式存在误报率高的问题,而基于深度学习的预训练语言模型又只能识别特定范围内的数据类型,不具备泛化能力。数据安全威胁分析诣在从海量的操作日志中及时精准地发现数据泄露等风险并进行响应处置,而传统的依赖规则库和特征匹配的方式误报/漏报率高,且无法应对新型攻击和未知威胁。大模型具备强大的自然语言处理、数据分析和推理能力。它能够从海量数据中快速识别敏感信息,精准分类分级,同时可进行复杂的多模态分析推理。这一能力与数据安全领域当前核心的分类分级、威胁分析、审计溯源等需求高度契合,为数据安全能力升级提供了强大的技术支撑。同时像DeepSeek这样的大模型将推理成本和效率优化到了极致,为大模型与传统数据安全产品融合提供了无限可能。

另一方面,随着互联网和社交媒体的快速发展,内容生产和传播的速度呈指数级增长,内容安全问题日益突出。传统的内容安全审核方式依赖于人工审核和规则引擎,效率低下且难以应对海量内容的实时处理需求。AI大模型(如GPT、DeepSeek等)在自然语言处理、图像识别等领域取得了显著进展,为内容安全运营提供了新的技术手段。


主要研究内容:基于AI大模型强大的推理分析和泛化处理能力,研究将大模型应用于数据分类分级、智能威胁分析、智能内容审核等核心需求的可能,并与现有的数据安全产品和安全运营体系深度融合,为客户提供更智能、更精准、更高效的数据安全产品,构建智能化、高效的内容安全运营能力。具体包括:(1)基于自研规则引擎+大模型的敏感内容推理能力,实现对海量数据中敏感内容的精准识别、分类分级智能推荐和自动打标;(2)结合多模态推理分析能力,实现对数据安全事件的深度挖掘和关联分析,精准识别针对数据的异常操作,并提供数据链路还原的能力;(3)针对金融、汽车、数据要素等行业和场景,通过蒸馏等方式获取针对性的数据安全大模型,进一步优化模型性能和推理效率,降低推理成本;(4)基于AI大模型的智能内容审核:研究利用AI大模型对文本、图像、视频等多模态内容进行自动化审核,识别其中的敏感信息、虚假内容、恶意言论等;(5)大模型生成内容的风险识别与评估:研究AI大模型生成内容中的潜在风险(如虚假信息、偏见、Prompt攻击等),开发多维度检测模型,实现对生成内容的自动化风险识别与防护;(6)个性化内容安全策略优化:基于AI大模型分析用户行为与内容互动数据,构建个性化的内容安全策略。


商业价值:一方面,将大模型的智能能力深入融合到当前的数据安全产品体系中,聚焦数据分类分级、智能威胁分析等核心场景,大幅提升华为云数据安全产品的竞争力,为客户提供更智能、更精准、更高效的数据安全防护体系。另一方面,通过AI大模型的技术赋能,构建一套智能化、高效化的内容安全运营体系,为监管侧合规、国家护网等重点场景提供技术支撑。

工作地点

北京、深圳、西安、杭州、东莞

提示

您即将访问非华为云网站,请注意账号财产安全