TensorFlow Extended (TFX) Pusher komponents ir būtiska TFX konveijera daļa, kas nodrošina apmācītu modeļu izvietošanu dažādās mērķa vidēs. Pusher komponenta izvietošanas mērķi TFX ir daudzveidīgi un elastīgi, ļaujot lietotājiem izvietot savus modeļus dažādās platformās atkarībā no viņu īpašajām prasībām. Šajā atbildē mēs izpētīsim dažus populārākos Pusher komponenta izvietošanas mērķus un sniegsim visaptverošu skaidrojumu par katru.
1. Vietējā izvietošana:
Komponents Pusher atbalsta vietējo izvietošanu, kas ļauj lietotājiem izvietot savus apmācītos modeļus vietējā mašīnā. Tas ir noderīgi testēšanas un izstrādes nolūkos, kur modeli var izvietot un novērtēt bez nepieciešamības pēc sadalītas sistēmas vai ārējas infrastruktūras. Lokālā izvietošana tiek panākta, vienkārši norādot lokālo ceļu, kurā tiek glabāti modeļa artefakti.
Piemērs:
python pusher = Pusher( model=trainer.outputs['model'], model_blessing=evaluator.outputs['blessing'], push_destination=pusher_pb2.PushDestination( filesystem=pusher_pb2.PushDestination.Filesystem( base_directory='/path/to/local/deployment' ) ) )
2. Google Cloud AI platforma:
Pusher komponents atbalsta arī izvietošanu Google Cloud AI platformā — pārvaldītā pakalpojumā, kas nodrošina vidi bez servera mašīnmācīšanās modeļu darbināšanai. Tādējādi lietotāji var viegli izvietot savus modeļus mākonī un izmantot Google mākoņa piedāvātās mērogojamības un uzticamības priekšrocības. Lai izvietotu Google Cloud AI platformā, lietotājiem ir jānorāda projekta ID, modeļa nosaukums un versijas nosaukums.
Piemērs:
python pusher = Pusher( model=trainer.outputs['model'], model_blessing=evaluator.outputs['blessing'], push_destination=pusher_pb2.PushDestination( ai_platform_push=pusher_pb2.PushDestination.AIPlatformPush( project_id='my-project', model_id='my-model', version_id='v1' ) ) )
3. TensorFlow apkalpošana:
TensorFlow Serving ir atvērtā pirmkoda apkalpošanas sistēma mašīnmācīšanās modeļu izvietošanai. Pusher komponents TFX atbalsta izvietošanu TensorFlow apkalpošanā, ļaujot lietotājiem izvietot savus modeļus sadalītā apkalpošanas infrastruktūrā. Tas nodrošina augstas veiktspējas un mērogojamu modeļu apkalpošanu, padarot to piemērotu ražošanas izvietošanai. Lai izvietotu TensorFlow apkalpošanu, lietotājiem ir jānorāda TensorFlow apkalpošanas modeļa servera adrese un ports.
Piemērs:
python pusher = Pusher( model=trainer.outputs['model'], model_blessing=evaluator.outputs['blessing'], push_destination=pusher_pb2.PushDestination( tensorflow_serving=pusher_pb2.PushDestination.TensorFlowServing( tags=['serve'], server='localhost:8500' ) ) )
4. Citi pielāgoti izvietošanas mērķi:
TFX komponents Pusher ir izstrādāts tā, lai tas būtu paplašināms, ļaujot lietotājiem definēt savus pielāgotos izvietošanas mērķus. Tādējādi lietotāji var elastīgi izvietot savus modeļus jebkurā vidē vai sistēmā, kas var patērēt TensorFlow modeļus. Lietotāji var ieviest savu pielāgoto "PushDestination" apakšklasi un reģistrēt to Pusher komponentā, lai iespējotu izvietošanu savā mērķa vidē.
Piemērs:
python class MyCustomPushDestination(pusher_pb2.PushDestination): def __init__(self, my_custom_arg): self.my_custom_arg = my_custom_arg pusher = Pusher( model=trainer.outputs['model'], model_blessing=evaluator.outputs['blessing'], push_destination=MyCustomPushDestination(my_custom_arg='custom_value') )
TFX komponents Pusher atbalsta dažādus izvietošanas mērķus, tostarp vietējo izvietošanu, Google mākoņa AI platformu, TensorFlow apkalpošanu un pielāgotus izvietošanas mērķus. Šī elastība ļauj lietotājiem izvietot savus apmācītos modeļus dažādās vidēs atkarībā no viņu īpašajām vajadzībām un infrastruktūras iestatījuma.
Citi jaunākie jautājumi un atbildes par Izplatīta apstrāde un komponenti:
- Kāds ir TFX komponenta Evaluator mērķis?
- Kādi ir divi SavedModels veidi, ko ģenerē Trainer komponents?
- Kā pārveidošanas komponents nodrošina konsekvenci starp apmācību un apkalpošanas vidi?
- Kāda ir Apache Beam loma TFX sistēmā?