GPU使用

如何在GPU上运行模型

SmartJavaAI 默认使用CPU执行推理，如果希望使用 GPU 提升性能，需要在创建模型时手动指定设备：

FaceModelConfig config = new FaceModelConfig();
config.setModelEnum(FaceModelEnum.RETINA_FACE);//人脸模型
config.setDevice(DeviceEnum.GPU);//指定GPU
FaceModel faceModel = FaceModelFactory.getInstance().getModel(config);

启用 GPU 所需条件：

1、安装CUDA v12.4及cuDNN v8.9.7

2、删除系统环境变量 PATH 中所有已有的 CUDA 路径，避免冲突（Windows 环境）

3、将SmartJavaAI的CUDA缓存路径加入到PATH中（Windows 环境）

Windows 示例：

注意事项：

人脸模型：SeetaFace6 暂不支持GPU（我们会尽快兼容）