Przykłady użycia Savanta
Ogłoszono premierę nowej wersji Savanta 0.2.7 zawiera kilka poprawek błędów i cztery nowe wersje demonstracyjnei inne ulepszenia, w tym dokumentacja i testy porównawcze.
Osoby niezaznajomione z frameworkiem powinny o tym wiedzieć zajmuje się całą pracą z GStreamerem lub FFmpeg, co pozwala skupić się na tworzeniu zoptymalizowanych potoków danych wyjściowych przy użyciu składni deklaratywnej (YAML) i funkcji języka Python.
Nauczyli ukrywa wszystkie elementy wewnętrzne Gstreamera przed deweloperem i zapewnia praktyczne narzędzia do wdrażania strumieniowych aplikacji AI w prawdziwym życiu. Wykorzystuje standardowy model Nvidia PeopleNet do wykrywania ludzi i ich twarzy a zwłaszcza w miejscach, gdzie obowiązują przepisy dotyczące prywatności, framework umożliwia śledzenie i zamazywanie twarzy
Główne nowości w Savant 0.2.7
Ta nowa wersja Savanta 0.2.7 zawiera szereg ważnych funkcji, z których iIntegracja Prometeusza, dzięki czemu adapter potoku i bufora może teraz eksportować metryki wykonania do Prometheus i Grafana, poprawiając obserwowalność i monitorowanie wydajności oraz tryb wykonania „Tylko kompilacja”. w którym moduły mogą teraz kompilować modele wywnioskowane na podstawie TRT bez uruchamiania potoku, co poprawia przewidywalność wdrażania potoku.
Zaimplementowano także adapter buforowy, który implementuje trwały bufor transakcyjny na dysku dla danych przesyłanych pomiędzy adapterami i modułami, umożliwiając tworzenie solidnych potoków odpornych na impulsy ruchu.
Poza tym, Teraz Savant 0.2.7 oferuje nowe API, wśród których wyróżnia się ckontroler „Shutdown w PyFunc”, które jest nowym API ułatwiającym prawidłowe zarządzanie operacjami zamknięcia rurociągu w celu zwolnienia zasobów i powiadomienia systemów zewnętrznych o zakończeniu, oraz także API wykorzystania kolejki dla PyFunc za pomocą którego Savant umożliwia dodawanie kolejek pomiędzy PyFuncs w celu wdrożenia przetwarzania równoległego i zarządzania ruchem seryjnym.
Ponadto pojawił się także w Savant 0.2.7 la dodanie czterech nowych dem, które poszerzają możliwości i wszechstronność platformy:
- Model detekcji RT-DETR: To demo prezentuje zastosowanie modelu detekcji RT-DETR w czasie rzeczywistym w rozwiązaniu Savant. Chociaż model ten może być nieco wolniejszy niż standardowy YOLOV8, otwiera nowe możliwości widzenia komputerowego w czasie rzeczywistym, ponieważ jest oparty na transformatorze.
- Przetwarzanie końcowe oparte na CuPy: Savant 0.2.7 wprowadza skrót do tensorów mapowanych przez GPU i ulepszone funkcje, które konwertują te tensory pomiędzy różnymi formatami, takimi jak OpenCV GpuMat, PyTorch i CuPy. To ulepszenie jest szczególnie przydatne w przypadku modeli obejmujących duże tensory i złożone przetwarzanie końcowe.
- Integracja z PyTorchem: Savant demonstruje teraz integrację PyTorch ze swoim potokiem, umożliwiając wykonywanie przyspieszanych przez GPU wnioskowań i przetwarzania końcowego w czystym Pythonie bez nadmiernych przełączeń między procesorem a procesorem graficznym.
- Zorientowane ramki ograniczające: Platforma obsługuje teraz zorientowane ramki ograniczające, co ułatwia korzystanie z niej w aplikacjach wymagających wykrywania obiektów pod kątem obrotu.
z inne wyróżniające się cechy tej nowej wersji:
- Filtrowanie klatek wejściowych i wyjściowych: Savant umożliwia teraz filtrowanie danych, aby uniknąć niepotrzebnego przetwarzania klatek wideo.
- Post-processing modelu na GPU: Savant umożliwia bezpośredni dostęp do tensorów wyjściowych modelu z pamięci GPU, poprawiając wydajność przetwarzania dużych tensorów.
- Funkcje renderowania pamięci GPU: Dostępne są funkcje umożliwiające efektywną konwersję buforów pamięci pomiędzy różnymi formatami na GPU.
- Zaawansowane operacje modyfikacji atrybutów obiektów: Zaimplementowano nowe operacje ułatwiające modyfikację atrybutów obiektów w Savant.
Na koniec warto o tym wspomnieć Savant 0.2.7 to najnowsza wersja funkcji gałęzi 0.2.X. Następujące wydania gałęzi 0.2.X będą wydaniami konserwacyjnymi i poprawiającymi błędy. Rozwój funkcji przenosi się do gałęzi 0.3.X opartej na DeepStream 6.4 i wspomniano, że tak nie jest będzie wspierać rodzinę Jetson Xavier, ponieważ Nvidia nie obsługuje ich z DS 6.4.
w końcu jeśli jesteś chcesz dowiedzieć się więcej na ten temat o nowej wersji możesz sprawdzić szczegóły W poniższym linku.