TL;DR
AWS wypuściło TorchNeuron, narzędzie integrujące PyTorch z własnymi układami Trainium. Obietnica jest odważna: migracja aplikacji może wymagać zmiany jednej linii konfiguracji, bez przepisywania kodu i uczenia się nowego środowiska. PyTorch stoi za mniej więcej 85% aplikacji AI, więc to uderzenie w sam rdzeń przewagi Nvidii opartej na CUDA.
Jako dowód podawany jest przykład Deepgram, który po przejściu na Trainium przetwarza o 70% więcej audio na każdego wydanego dolara, zachowując jakość na produkcji. Amazon współpracuje też ze społecznością PyTorch nad usunięciem z frameworka kodu zależnego od sprzętu. Warto przeczytać, jeśli liczycie koszty trenowania i inferencji.
Amazon Web Services udostępnił TorchNeuron, narzędzie, które ma ułatwić uruchamianie aplikacji AI na autorskich układach Trainium. Dzięki integracji z PyTorch programiści będą mogl...
Czytaj cały wpis u źródła
