TensorFlow Extended (TFX) Pusheri komponent on TFX-i torustiku põhiosa, mis tegeleb koolitatud mudelite juurutamisega erinevatesse sihtkeskkondadesse. TFX-i Pusheri komponendi juurutamise eesmärgid on mitmekesised ja paindlikud, võimaldades kasutajatel juurutada oma mudeleid erinevatele platvormidele sõltuvalt nende konkreetsetest nõudmistest. Selles vastuses uurime mõningaid Pusheri komponendi levinumaid eesmärke ja anname igaühe kohta põhjaliku selgituse.
1. Kohalik juurutamine:
Pusheri komponent toetab kohalikku juurutamist, mis võimaldab kasutajatel juurutada oma koolitatud mudeleid kohalikus masinas. See on kasulik testimise ja arendamise eesmärgil, kus mudelit saab juurutada ja hinnata, ilma et oleks vaja hajutatud süsteemi või välist infrastruktuuri. Kohalik juurutamine saavutatakse, määrates lihtsalt kohaliku tee, kuhu mudeli artefaktid salvestatakse.
Näide:
python pusher = Pusher( model=trainer.outputs['model'], model_blessing=evaluator.outputs['blessing'], push_destination=pusher_pb2.PushDestination( filesystem=pusher_pb2.PushDestination.Filesystem( base_directory='/path/to/local/deployment' ) ) )
2. Google Cloud AI platvorm:
Pusheri komponent toetab ka juurutamist Google Cloud AI Platformile, hallatavale teenusele, mis pakub masinõppemudelite käitamiseks serverita keskkonda. See võimaldab kasutajatel hõlpsasti oma mudeleid pilves juurutada ning kasutada ära Google Cloudi pakutavat mastaapsust ja töökindlust. Google Cloud AI platvormile juurutamiseks peavad kasutajad esitama projekti ID, mudeli nime ja versiooni nime.
Näide:
python pusher = Pusher( model=trainer.outputs['model'], model_blessing=evaluator.outputs['blessing'], push_destination=pusher_pb2.PushDestination( ai_platform_push=pusher_pb2.PushDestination.AIPlatformPush( project_id='my-project', model_id='my-model', version_id='v1' ) ) )
3. TensorFlow serveerimine:
TensorFlow Serving on avatud lähtekoodiga teenindussüsteem masinõppemudelite juurutamiseks. TFX-i Pusheri komponent toetab TensorFlow Servingi juurutamist, võimaldades kasutajatel juurutada oma mudeleid hajutatud teenindusinfrastruktuuri. See võimaldab suure jõudlusega ja skaleeritavat mudelite teenindamist, muutes selle sobivaks tootmiseks. TensorFlow Servingus juurutamiseks peavad kasutajad esitama TensorFlow Serving mudeli serveri aadressi ja pordi.
Näide:
python pusher = Pusher( model=trainer.outputs['model'], model_blessing=evaluator.outputs['blessing'], push_destination=pusher_pb2.PushDestination( tensorflow_serving=pusher_pb2.PushDestination.TensorFlowServing( tags=['serve'], server='localhost:8500' ) ) )
4. Muud kohandatud juurutuse eesmärgid:
TFX-i Pusheri komponent on loodud laiendatavaks, võimaldades kasutajatel määrata oma kohandatud juurutamise sihtmärgid. See annab kasutajatele paindlikkuse oma mudelite juurutamiseks mis tahes keskkonnas või süsteemis, mis võib kasutada TensorFlow mudeleid. Kasutajad saavad rakendada oma kohandatud PushDestinationi alamklassi ja registreerida selle Pusheri komponendis, et võimaldada juurutamist oma sihtkeskkonda.
Näide:
python class MyCustomPushDestination(pusher_pb2.PushDestination): def __init__(self, my_custom_arg): self.my_custom_arg = my_custom_arg pusher = Pusher( model=trainer.outputs['model'], model_blessing=evaluator.outputs['blessing'], push_destination=MyCustomPushDestination(my_custom_arg='custom_value') )
TFX-i Pusheri komponent toetab mitmesuguseid juurutamise sihtmärke, sealhulgas kohalikku juurutamist, Google Cloud AI platvormi, TensorFlow Servingit ja kohandatud juurutamise sihtmärke. See paindlikkus võimaldab kasutajatel juurutada oma koolitatud mudeleid erinevatesse keskkondadesse, olenevalt nende konkreetsetest vajadustest ja infrastruktuuri seadistusest.
Muud hiljutised küsimused ja vastused selle kohta Hajutatud töötlemine ja komponendid:
- Mis on TFX-i hindaja komponendi eesmärk?
- Mis on kahte tüüpi SavedModels, mida Trainer genereerib?
- Kuidas tagab Transformi komponent koolitus- ja teeninduskeskkondade järjepidevuse?
- Milline on Apache Beami roll TFX-i raamistikus?