
GS Caltex łączy modelowanie bez kodu z planowanym wnioskowaniem wsadowym
Według studium przypadku AWS firma GS Caltex podzieliła pracę nad modelami między inżynierów procesowych i inżynierów ML. Inżynierowie procesowi budują i walidują modele bez pisania kodu w Amazon SageMaker Canvas. Inżynierowie ML konfigurują następnie Amazon SageMaker Pipelines, aby zwalidowane modele mogły zostać wdrożone i wykorzystane do planowanego wnioskowania.
Przekazanie pracy między tymi rolami jest zautomatyzowane i ponownie wykorzystuje zasoby utworzone w Canvas. Nie usuwa ono jednak potrzeby konfiguracji produkcyjnej. Inżynierowie ML nadal definiują produkcyjne ścieżki danych, ustawienia modelu, przetwarzanie wstępne i zadania wnioskowania. Automatyzacja przenosi więc zwalidowane zasoby do kolejnego etapu, natomiast techniczna odpowiedzialność za wykonanie produkcyjne pozostaje wyraźna.
Od zwalidowanego modelu do zasobu produkcyjnego
Proces wdrożenia rejestruje zwalidowaną wersję modelu z Canvas w Model Registry. Następnie sprawdza, czy pakiet modelu został zatwierdzony, i tworzy zasób modelu SageMaker, do którego może odwołać się Batch Transform. Model Registry służy w architekturze referencyjnej także do zarządzania wersjami modeli.
Implementacja ponownie wykorzystuje również przepływ przetwarzania wstępnego z Data Wrangler. Jest on eksportowany przez SageMaker Processing, a krok potoku zostaje skonfigurowany przy użyciu wynikowych ustawień zadania przetwarzania i odpowiedniego pliku .flow. W ten sposób zwalidowany przepływ przetwarzania wstępnego trafia do planowanego procesu produkcyjnego.
Pięć kroków przepływu wnioskowania
Przykładowy przepływ wnioskowania obejmuje pięć określonych kroków:
- przygotowanie danych wejściowych,
- zastosowanie przetwarzania wstępnego,
- usunięcie kolumny docelowej,
- uruchomienie wnioskowania wsadowego,
- złożenie wyników.
Przy każdym planowanym wykonaniu przepływ przygotowuje dane wejściowe z Amazon S3, przeprowadza przetwarzanie wstępne, uruchamia SageMaker Batch Transform i zapisuje wyniki w S3. Na potrzeby monitorowania można sprawdzać stan poszczególnych kroków oraz dzienniki Amazon CloudWatch.
Szczególnej obsługi wymaga różnica między danymi treningowymi a danymi do wnioskowania. Dane do wnioskowania nie zawierają kolumny docelowej użytej podczas treningu. Implementacja referencyjna tymczasowo dodaje więc przed przetwarzaniem zastępczą wartość docelową o zgodnym typie i położeniu, a następnie usuwa tę kolumnę. Metoda nie jest odpowiednia bez dodatkowych działań, jeżeli cel wpływa na wartości cech albo transformacje.
Harmonogram i jego ograniczenia
Amazon EventBridge może uruchamiać potok za pomocą wyrażenia częstotliwości co 30 minut. Oznacza to 48 planowanych uruchomień na dobę. Sam harmonogram nie gwarantuje jednak, że jedno wykonanie zakończy się przed rozpoczęciem następnego. Czas działania i możliwość nakładania się wykonań trzeba zatem ocenić osobno przed uruchomieniem produkcyjnym.
GS Caltex informuje, że wdrożenie modelu zajmuje obecnie kilka godzin zamiast około tygodnia. Firma wykonuje również wnioskowanie wsadowe co 30 minut i podaje, że rezygnacja ze stale działających punktów końcowych znacząco obniżyła koszty wnioskowania. Są to wyniki raportowane przez GS Caltex, a nie niezależnie zweryfikowane pomiary.
Kontrole przed uruchomieniem produkcyjnym
Przed włączeniem cyklicznych wykonań produkcyjnych należy sprawdzić spójność schematu i danych wyjściowych. Walidacja powinna również potwierdzić prawidłowe powiązanie każdego rekordu źródłowego z odpowiadającą mu predykcją.
Testy powinny obejmować zachowanie w razie awarii, całkowity czas działania oraz koszt. Trzeba także uwzględnić równoległe lub nakładające się wykonania oraz możliwość dwukrotnego przetworzenia tego samego okna danych wejściowych. Częstotliwość 30 minut określa chwile rozpoczęcia zadań, lecz sama nie potwierdza ukończenia ich w ciągu 30 minut ani nie zapobiega duplikacji.
Architektura referencyjna łączy zatem bezkodowe tworzenie modeli, zarządzanie wersjami, ponowne wykorzystanie przetwarzania wstępnego, wykonanie wsadowe, dane wejściowe i wyniki w S3 oraz harmonogram EventBridge. Działanie produkcyjne nadal zależy od konfiguracji przygotowanej przez inżynierów ML, zatwierdzenia zarejestrowanego pakietu modelu i zwalidowania przepływu w warunkach docelowego harmonogramu.