设备发现和分配

在 Android 10 中,神经网络 API (NNAPI) 引入了一些函数,使机器学习框架库和应用能够获取有关可用设备的信息,并指定在哪些设备上执行模型。提供有关可用设备的信息后,应用可以获取设备上驱动程序的准确版本,以避免已知的不兼容问题。通过让应用能够指定在哪些设备上执行模型的不同部分,可以针对应用部署的产品对应用进行优化。

NN HAL 1.2 实现必须支持设备发现和分配。

实现

为了支持 NNAPI 中的设备发现和分配功能,请在 getTypegetVersionString 中实现 IDevice.hal,以允许框架获取设备类型和驱动程序版本。

对于每个设备,请按照 DeviceType 中的规定,将类型指定为以下类别之一,如 types.hal 中所述。

  • OTHER 不属于任何其他类别的设备,包括异构接口(即管理多个设备(可能属于不同类型)的单个 IDevice 接口)。具有异构接口的驱动程序还应公开与各个设备对应的单独 IDevice 接口,以便应用可以从这些设备中进行选择。
  • CPU 单核或多核 CPU。
  • GPU 可以运行 NNAPI 模型并加速图形 API(如 OpenGL ES 和 Vulkan)的 GPU。
  • ACCELERATOR 专用神经处理单元 (NPU)。

IDevice.hal 中实现 getVersionString,以获取设备实现的版本字符串。此方法必须返回人类可读的字符串。字符串的格式是供应商特定的。对于驱动程序的每个新版本,版本字符串都必须不同。

IDevice 接口的名称必须遵循 {VENDOR}-{DEVICE_NAME} 格式。