Uso De Sagemaker Neo Para Optimizar La Inferencia Enaws Deeplens; Compilación De Un Modelo De Aws Deeplens - AWS DeepLens Guia

Uso de SageMaker Neo para optimizar la inferencia
enAWS DeepLens
Un modelo entrenado podría no estar optimizado para ejecutar la inferencia en su dispositivo. Antes de
implementar un modelo entrenado en suAWS DeepLensEn el caso de, puede
optimizarlo para ejecutar la inferencia en elAWS DeepLenshardware. El proceso implica estos pasos:
1. Compile el modelo.
2. Importe el modelo compilado en la consola de AWS DeepLens.
3. Implemente el modelo compilado en su dispositivo AWS DeepLens.
4. Cargue el modelo compilado en el tiempo de ejecución de Neo del motor de inferencia.
Se recomienda usar modelos compilados por Neo para mejorar el rendimiento de la inferencia, siendo
mínimo el esfuerzo requerido por su parte.
Temas
• Compilación de un modelo de AWS DeepLens (p. 92)
• Importación de un modelo compilado en la consola de AWS DeepLens (p. 93)
• Carga del modelo compilado en el motor de inferencia de AWS DeepLens (p. 93)
Compilación de un modelo de AWS DeepLens
Para usar Neo para compilar un modelo, puede utilizar la AWS CLI para crear y ejecutar un trabajo de
compilación. Primero cree un archivo de configuración de trabajo en JSON para especificar lo siguiente: El
bucket de Amazon S3 desde el que cargar los artefactos del modelo sin formato, el formato de los datos de
capacitación y el marco de aprendizaje automático, que indica cómo es el trabajo para ejecutarlo.
El siguiente archivo JSON de ejemplo muestra cómo especificar la configuración del trabajo. Como
ejemplo, el archivo se llama neo_deeplens.json.
{
"CompilationJobName": "deeplens_inference",
"RoleArn": "arn:aws:iam::your-account-id:role/service-role/AmazonSageMaker-
ExecutionRole-20190429T140091",
"InputConfig": {
"S3Uri": "s3://your-bucket-name/headpose/model/deeplens-tf/train/model.tar.gz",
"DataInputConfig":
"Framework": "TENSORFLOW"
},
"OutputConfig": {
"S3OutputLocation": "s3://your-bucket-name/headpose/model/deeplens-tf/compile",
"TargetDevice": "deeplens"
},
"StoppingCondition": {
"MaxRuntimeInSeconds": 300
}
}
El valor de la propiedad InputConfig.S3Uri especifica la ruta de S3 a los artefactos de modelos
entrenados. El valor de la propiedad S3OutputLocation especifica la carpeta de S3 donde se incluirán
los artefactos de modelos compilados por Neo. El formato de datos de entrada especificado en el valor
de la propiedad DataInputConfig debe ser coherente con el formato de datos de capacitación original.
Para obtener más información acerca de los valores de la propiedad de configuración del trabajo de
compilación, consulte CreateCompilationJob.
AWS DeepLens Guía para desarrolladores
Uso de Neo para optimizar la inferencia
"{\"data\": [1,84,84,3]}",
92
utilizarSageMaker NeoPara