工程师讲解如何用Vulkan快速搭建AI框架

集微网消息，4月23日，开放标准行业协会Khronos Group与芯原股份（VeriSilicon）携手举办的技术研讨会在上海举行，ax株式会社数据科学部AI工程师胡筠发表了以《如何用Vulkan快速搭建AI框架》为题的演讲。

胡筠指出，ax株式会社目前主要产品是对ailia SDK的开发和销售，这是一个利用GPU进行高速推断的AI框架，通过Vulkan对ONNX格式的AI模型，实现高速推断。另外，ax还提供120多种已训练完的模型，不需要训练即可方便的加载到客户的应用程序中，客户也可以任意选择加载自主训练的模型。

据胡筠介绍，ailia SDK是一个专门用于推断的AI框架，特别具有高速推断，跨平台支持，多语言支持及UX最优化开发的特点。对于高速推断，使用Vulcan和Compute Shader进行优化以及通过层融合进行图优化，保证了推断的实时性。跨平台支持实现了在任意操作系统和设备上的运行，不论是服务器，PC端，移动端或单板机，以及定制化开发的FPGA，AI芯片或嵌入式设备，均能运行。多语言支持实现了通过任何编程语言的推断。另外，UX最优化开发保证了模型在所有平台上的一致性，并都通过统一的API运行。

胡筠表示，ailia SDK提供了一个您可以轻松地通过示例尝试各种AI模型的环境。通常在尝试引入AI模型时，必须首先调查搜索适合应用场景的AI模型，构建评估环境，匹配框架版本，评估速度和性能等。另外，如果要在边缘计算环境中运行，则需要实现模型转换以及预处理和后处理。ailia SDK则可以通过提供120多种经验证和训练完成的AI模型作为评估示例，在引入AI模型时显着减少研发和评估所需的时间和人力物力。

最后，胡筠还列举了多个关于ailia SDK的应用案例，包括Celsys公司的Clip Studio Paint工具使用Vulkan在Android终端上实现了高速推断，与Blaize公司合作整合了Blaize的AI处理技术到ailia AI框架等。