AWS predstavuje referenčnú architektúru vizuálnej kontroly so SageMaker Python SDK v3, ktorá aktualizuje vzor z roku 2023. Nahrádza zastaraný SageMaker Edge Manager službou SageMaker Neo na optimalizáciu pre okrajové zariadenia a infraštruktúru nasadzuje cez AWS CDK. Článok opisuje ukážkové riešenie; jeho výsledky nie sú nezávislým overením prevádzky vo výrobnej flotile.

Jeden postup, modely pre jednotlivé kamery

Ukážka používa jeden SageMaker Pipeline s 13 krokmi a parametrom určujúcim kameru. Predspracuje obrazy, vyhľadá najnovšie schválené modely danej kamery a trénuje dve vetvy: konvolučný autoenkóder na detekciu anomálií a doladený ResNet18 na klasifikáciu chýb. Klasifikátor vychádza z váh ImageNet a má výstup pre dve triedy. WeightedRandomSampler vyvažuje tréningové dávky vzorkovaním podľa prevrátenej početnosti tried; stratová funkcia zostáva bez váh.

Každá vetva má spoločnú skupinu balíkov modelov. Balíky nesú identifikátor kamery a hodnotiace metriky. Keďže ListModelPackages nedokáže filtrovať zákaznícke metadáta na strane servera, vyhľadávanie prechádza schválené balíky od najnovších a hľadá príslušnú kameru. Prvý beh používa váhy ImageNet pre klasifikátor a náhodnú inicializáciu autoenkódera; ďalšie behy nadväzujú na predchádzajúci model kamery.

Kontrola kvality pred kompiláciou

Hodnotenie prebieha na exportovaných artefaktoch ONNX. Vetva anomálií potrebuje AUROC aspoň 0,8. Klasifikátor musí dosiahnuť vyváženú presnosť aspoň 0,6 a zároveň záchyt chýb aspoň 0,5. Prahy možno meniť pri každom spustení. Neúspešná vetva svoj model nezaregistruje, no druhá vetva môže uspieť samostatne. Kamera naďalej používa svoj predchádzajúci schválený model.

Poradie v oboch vetvách je kontrola kvality, kompilácia cez Neo a registrácia. Kompilácia prebalí export do archívu tar obsahujúceho iba ONNX a nastaví veľkosť dávky na 1. Názov kompilačnej úlohy sa odvodzuje od identifikátora vykonania pipeline, takže opakovaný pokus môže pokračovať v sledovaní existujúcej úlohy.

Cieľ Neo je parametrom pipeline. Predvolená platforma je LINUX/X86_64; medzi pomenovanými zariadeniami sú jetson_xavier a rasp4b. Kompilovaný balík obsahuje compiled.so a runtime DLR. Repozitár má aj skript na kompiláciu registrovaných modelov pre ďalšie typy zariadení bez nového tréningu.

Model Registry eviduje prenosné artefakty ONNX, zatiaľ čo S3 uchováva zostavy skompilované cez Neo, ktoré načítava DLR. Záznamy registra odkazujú na tréningový obraz a sú určené pre následné doručovanie artefaktov zariadeniam, nie na nasadenie cez CreateEndpoint. Samotná ukážka doručovanie artefaktov ani inferenčné endpointy neimplementuje.

Riadenie požiadaviek a zavedenie SDK v3

Požiadavky na opätovný tréning vstupujú do frontu SQS FIFO. Lambda pre každú spustí vykonanie Step Functions. Semafor v DynamoDB atómovo obmedzuje počet súbežných vykonaní pipeline, predvolene na päť; pri plnej kapacite vykonania čakajú a skúšajú to znovu. Kapacita sa uvoľňuje pri dokončení aj zlyhaní. Dokončenia a prevádzkové chyby sa oznamujú cez SNS, pričom chyby sa preposielajú cez EventBridge.

SDK v3 rozdeľuje funkcie do modulárnych balíkov a tréningovú konfiguráciu vkladá do typovaných objektov pre ModelTrainer. V tejto ukážke CDK vyžaduje živé overenie roly IAM počas syntézy dvojfázové nasadenie a konkrétne ARN roly. AWS tiež uvádza, že simulácia oprávnení ECR vo validátore v3 potrebuje širšie oprávnenie než prevádzková politika obmedzená na jediný repozitár.

Čo ukazujú dáta a náklady

Predvolene sa generujú syntetické obrazy výrobnej linky. AWS uvádza približne 15 minút pre celý 13-krokový beh vrátane dvoch kompilácií Neo a asi 0,07 USD za účtovaný čas ml.m5.xlarge pri cenách na požiadanie z júla 2026 v regióne US East (Ohio). Náklady orchestrácie pri rozsahu ukážky sú podľa článku výrazne pod 0,10 USD mesačne. Neo samotné kompiláciu nespoplatňuje, no spracovanie a úložisko S3 náklady majú. Tieto údaje sa nevzťahujú všeobecne na produkčné flotily, iné regióny, hardvér či obdobia cien.

Repozitár ponúka aj stiahnutie 364 anotovaných obrazov krvných náterov BCCD, rozdelenie podľa kamier a nahratie tréningových archívov. Prítomnosť krvných doštičiek mapuje na triedu chyby. Sprievodný notebook spúšťa pipeline a porovnáva inferenciu ONNX na normálnych a anomálnych vzorkách. Článok výslovne označuje toto mapovanie za ilustráciu výroby, nie za klinické tvrdenie.