BLOG

Amazon SageMaker, 이제 Apache MXNet 1.4 및 Model Server 지원
작성일: 2019년 8월 7일

Apache MXNet 은 딥 뉴럴 네트워크를 교육 및 배포하는데 사용되는 오픈 소스 딥 러닝 소프트웨어 프레임 워크입니다. 데이터 과학자 및 기계 학습(ML) 개발자는 딥 러닝 모델을 구축할 때 유연성과 효율성을 갖춘 MXNet을 선호합니다. Amazon SageMaker는 MXNet을 포함한 모든 ML 프레임 워크 및 라이브러리에 대한 고객 경험을 개선하기 위해 노력하고 있습니다. 최신 버전의 MXNet 1.4를 사용하면 MXNet 컨테이너를 인터넷이 없는 환경에서도 사용할 수 있으며 Apache MXNet(MMS) 용 Model Server를 사용하여 추론을 위한 딥 러닝 모델을 배포 할 수 있습니다.

 

Apache MXNet(MMS) 용 Model Server는 추론을 위한 딥 러닝 모델 배포 작업을 단순화하는 오픈 소스 도구 집합입니다. MMS를 사용하면 MXNet 및 기타 프레임 워크 모델을 쉽고 빠르게, 대규모로 제공 할 수 있습니다. 자세한 정보 는 Apache MXNet v1.0 릴리스용 Model Server를 참고해 주시기 바랍니다.

 

MXNet 1.4 업데이트에는 네트워크 격리, Julia 바인딩, 실험 제어 흐름 연산자, JVM 메모리 관리, 그래프 최적화 및 양자화 및 유용성 향상을 포함한 몇 가지 새로운 기능이 있습니다. 변경 로그 정보는 Apache MXNet (인큐베이팅) 1.4.0을 확인해 주십시오.

 

Amazon SageMaker 교육 및 배포된 추론 컨테이너는 기본적으로 인터넷을 사용합니다. 하지만 새로운 MXNet 컨테이너를 사용하면 인터넷이 없는 모드에서도 컨테이너를 사용하여 안전하고 격리된 환경에서 교육 작업을 실행할 수 있습니다. 교육 작업 또는 모델을 생성할 때 네트워크 격리를 활성화하면 Amazon SageMaker가 교육 또는 추론 컨테이너에 외부 네트워크 액세스를 제공하지 못하도록 할 수 있습니다.

 

MXNet 1.4 업데이트는 Python 3.6 지원과 함께 제공됩니다. MXNet 프레임 워크로 딥 뉴럴 네트워크를 구축 및 배포할 때 Python 3.6을 사용할 수 있습니다. 자세한 내용은 Python 3.6의 새로운 기능을 살펴봐 주시기 바랍니다.

 

최신 릴리스에서 MXNet 용 Keras 버전은 현재 2.2.4.1입니다. Keras 2.2.4.1에는 Keras 2.2.3 릴리스에서 도입된 API 완성도 및 유용성 개선 기능 외에도 버그 및 유용성 수정 기능이 추가되었습니다. 릴리스 노트는 Keras 2.2.4  GitHub 레포를 참고해 주십시오.

 

또 다른 업데이트는 ONNX 1.4.1 릴리스입니다. 1.4.1은 대형 모델 지원, 외부 데이터 저장, 흐름 연산자 제어 등 몇 가지 큰 기능을 제공합니다. 또한 C ++ 테스트가 가능한 ONNXIFI 용 테스트 드라이버도 추가되었습니다.

 

최적화된 BLAS (Basic Linear Algebra Subprograms) 라이브러리인 OpenBlas는 더 이상 MXNet 1.4에서 사용할 수 없습니다. MXNet은 이제 Intel 하드웨어에서 실행될 때 훨씬 빠른 MKL pip 패키지를 제공합니다.

 

MKL BLAS를 사용하면 모델의 연산 부하에 따라 가변 범위만큼 성능이 향상됩니다. MKL DNN은 내부적으로 BLAS 라이브러리를 사용하며 추가 성능을 위해 MKLML 또는 MKL과의 링크를 지원합니다. 자세한 정보는 ‘MKL-DNN으로 MXNet 구축 및 설치하기’ 페이지에서 확인 가능합니다.

 

 

Amazon SageMaker 시작하기

빌트인 컨테이너의 새로운 기능은 Amazon SageMaker를 이용할 수 있는 모든 AWS 리전에서 사용 가능합니다. 해당 MXNet 및 MMS 릴리스를 사용하려면 Python SDK 버전을 업데이트해주는 것이 좋습니다. 업데이트는 다음 명령을 통해 수행할 수 있습니다.

pip install –upgrade sagemaker

 

Amazon SageMaker에서 미리 구성된 컨테이너를 사용하는 방법에 대해 더욱 자세히 알고 싶으시다면 ‘Amazon SageMaker에서 Apache MXNet 사용하기’ 페이지를 확인해 주십시오. 또한 Amazon SageMaker에서 MXNet 서빙을 위한 Docker 이미지를 생성하는 방법은 SageMaker MXNet Serving Container의 GitHub 페이지를 방문해 주시기 바랍니다.

 

 

원문 URL: https://aws.amazon.com/ko/blogs/machine-learning/support-for-apache-mxnet-1-4-and-model-server-in-amazon-sagemaker/

 

** 메가존 클라우드 TechBlog는 AWS BLOG 영문 게재 글 중에서 한국 사용자들에게 유용한 정보 및 콘텐츠를 우선적으로 번역하여 내부 엔지니어 검수를 받아서, 정기적으로 게재하고 있습니다. 추가로 번역 및 게재를 희망하는 글에 대해서 관리자에게 메일 또는 SNS 페이지에 댓글을 남겨주시면, 우선적으로 번역해서 전달해드리도록 하겠습니다.