在 Android 10 中,神经网络 API (NNAPI) 引入了一些函数,使机器学习框架库和应用能够获取有关可用设备的信息,并指定在哪些设备上执行模型。提供有关可用设备的信息后,应用可以获取设备上驱动程序的准确版本,以避免已知的不兼容问题。通过让应用能够指定在哪些设备上执行模型的不同部分,可以针对应用部署的产品对应用进行优化。
NN HAL 1.2 实现必须支持设备发现和分配。
实现
为了支持 NNAPI 中的设备发现和分配功能,请在 getType
和 getVersionString
中实现 IDevice.hal
,以允许框架获取设备类型和驱动程序版本。
对于每个设备,请按照 DeviceType
中的规定,将类型指定为以下类别之一,如 types.hal
中所述。
OTHER
: 不属于任何其他类别的设备,包括异构接口(即管理多个设备(可能属于不同类型)的单个IDevice
接口)。具有异构接口的驱动程序还应公开与各个设备对应的单独IDevice
接口,以便应用可以从这些设备中进行选择。CPU
: 单核或多核 CPU。GPU
: 可以运行 NNAPI 模型并加速图形 API(如 OpenGL ES 和 Vulkan)的 GPU。ACCELERATOR
: 专用神经处理单元 (NPU)。
在 IDevice.hal
中实现 getVersionString
,以获取设备实现的版本字符串。此方法必须返回人类可读的字符串。字符串的格式是供应商特定的。对于驱动程序的每个新版本,版本字符串都必须不同。
IDevice
接口的名称必须遵循 {VENDOR}-{DEVICE_NAME}
格式。