TVM: Satış noktası Autotune

Satış noktası Autotune

Bu projeyi yeni duydum. Bir Python makine öğrenimi derleyicisi, c,cuda ve opencl kernelleri derliyor ve istenirse sonradan kullanmak üzere AOT derleme yapıyor. Yapısında bir template motoru kullanıyor.

Cuda ve Opencl Kernel fonksiyonları üretmeyi kolaylaştırıyor.

Kodlar üretildikten sonra "autotune" yapabiliyor.

https://docs.tvm.ai/index.html

Hey c++ aşıkları bu eklentiye bir bakın. Makine öğrenimi modellerini alıp c programlama diline, opencl ve cuda kernellerine çeviriyor. Sonrasında mobil dahil cross-platform autotuning yapıyor. Sonuçta kodlar AOT derlenip, Python apiden eser kalmıyor.

Oluşturulan model tvm - nnvm derleyicisinden geçerek llvm ile opencl kodlarına çevriliyor ve ANDROID cihaz için optimize ediliyor ve eklenebilir hazır dosya olarak sunuluyor.

Bu tvm eklentisi üretilen kodları android için bile otomatik en iyi hale getiriyor.

Lütfen örneklere bakın.

https://docs.tvm.ai/deploy/index.html

Örnek: https://github.com/tkat0/chainer-nnvm-example/blob/5b97fd4d41aa4dde4b0aceb0be311054fb5de451/run_mobile.py#L64