华为 Atlas 300I Pro 推理卡

一、概述
Atlas 300I Pro 推理卡融合“通用处理器、AI Core、编解码” 于一体，提供超强AI推理、、目标检索等功能，具有超强算力、超高能效、高性能特征检索、安全启动等优势，可广泛应用于OCR识别、语音分析、搜索
推荐、内容审核等诸多AI应用场景
二、产品特点
超强算力
· 单卡最大提供140 TOPS INT8算力，为数据中心推理提供更强大支持
· 支持 8 core * 1.9 GHz CPU计算能力
超高能效
· 提供 2 TOPS / W 超高能效比，达到业界2.1倍，节省机房部署成本
安全启动
· 设备启动链完整，启动状态确定，防止后端植入
三、典型应用场景
Atlas 300I Pro 推理卡典型应用场景为搜索推荐、内容审核和OCR系统。
搜索推荐系统主要根据用户输入（用户画像、搜索词等），通过召回和排序算法，在内容池中筛选出最终推荐的素材（视频、文本等）。主要应用在互联网等领域。
搜索推荐系统如图3-1所示，主要部件有推理服务器、客户端信息化系统软件组成，Atlas 300I Pro 推理卡部署在推理服务器中，主要实现用户数据类别召回、排序、重排序等推理功能。
图3-1 搜索推荐系统架构图

内容审核系统主要采用了数据评级打分算法，实现了视频，图像，语音，文本等审核功能。主要应用在互联网等领域。
内容审核系统如图3-2所示，主要部件有NLP服务器、中心管理服务器、信息化系统软件组成。Atlas 300I Pro 推理卡部署在NLP服务器中，主要实现视频、图像、语音、文本的审核校验等推理功能。
图3-2 内容审核系统架构图

OCR系统主要采用了文本检测和文本识别算法，实现了身份证实名认证、票据识别、档案资料和信息录入、电子签名识别等功能。主要应用在智慧政务、智慧金融等领域。
OCR系统架构如图3-3所示，主要部件有扫描仪、OCR服务器、中心管理服务器、信息化系统等软件组成。Atlas 300I Pro 推理卡部署在OCR服务器中，主要实现图片预处理、文本检测、文本识别、后处理校验等推理功能。
图3-3 典型的OCR系统架构图

四、产品规格

华为NPU卡 Atlas 300I Pro 推理卡 1*Ascend 310P 8Core 1.9GHz（8个AI核+8个自研CPU核心）,24GB,204.8GB/s,72W,FP16-70TOPS INT8-140TOPS,单宽半高半长

HPE/惠普服务器

H3C/华三服务器

Lenovo/联想服务器

公司信息/Company Info

Copyright @ 2000 - 2023 NetLand All Rights Reserved. 版权所有【慧点服务器网】京ICP备05019925号-3

华为NPU卡 Atlas 300I Pro 推理卡 1*Ascend 310P 8Core 1.9GHz（8个AI核+8个自研CPU核心）,24GB,204.8GB/s,72W,FP16-70TOPS INT8-140TOPS,单宽半高半长

HPE/惠普服务器

H3C/华三服务器

Lenovo/联想服务器

公司信息/Company Info

Copyright @ 2000 - 2023 NetLand All Rights Reserved. 版权所有 【 慧点服务器网 】 京ICP备05019925号-3

Copyright @ 2000 - 2023 NetLand All Rights Reserved. 版权所有【慧点服务器网】京ICP备05019925号-3