Categories
程式開發

用 WebAssembly 賦能 AI 硬件丨GMTC


硬件加速的神經網絡芯片可以極大提高AI 應用的用戶體驗,如今,市場上的中低端手機大多已經預裝AI 加速的芯片,但是傳統瀏覽器與App 開發工具並不能直接觸達這樣的芯片層硬件功能。

WebAssembly 技術能讓廣大用戶與開發者真正從 AI 加速獲益。 WebAssembly 是一個在前端設備上有廣泛支持,為性能優化的虛擬機。通過 WASI 擴展接口,我們可以使用它支持的20多種編程語言直接調用硬件接口,WebAssembly 的模塊化安全設計保證了虛擬機硬件調用的安全。

我將會為大家介紹與演示 Second State 與 Qualcomm(高通)公司合作的開源 WebAssembly 虛擬機 SSVM。 SSVM 與高通驍龍處理器的神經網絡加速器結合,讓中端手機也可以快速在本地完成圖像識別與人臉識別等重度 AI 工作。

當然,硬件加速的AI芯片不只應用於手機終端。在數據中心與服務端的AI應用也越來越多。 SSVM 可以在雲原生的服務端提供 Serverless 的 AI 微服務。

內容大綱:

1、WebAssembly 的介紹

2、用 Rust 寫 WebAssembly 應用程序

3、WASI 的介紹

4、高通驍龍神經網絡加速器的編程實踐

5、WebAssembly 在服務端的應用與示例

聽眾收益:

1、WebAssembly 的基礎知識

2、Rust 的編程入門

3、開源 WebAssembly SSVM 的安裝與使用

4、用高級語言通過 SSVM 調用 AI 加速器

  1. 用 RPC 調用服務端的 WebAssembly 微服務