BLOG

[re:Invent 2019] How To Build High-Performance ML Solution At Low Cost, Featuring Aramex
작성일: 2019-12-05

* 세션명 : How To Build High-Performance ML Solution At Low Cost, Featuring Aramex
* 일자 : 2019/12/04 11:30~12:30
* 장소 : MGM Level 3 Premier Ballroom 319

 

규모화에 따른 Cost-Effective ML 니즈에 대해서 설명을 들을 수 있었습니다. ML은 크게 세 관점의 사람들이 모여서 구성하게 되며, 첫번째는 Data scientist이며 이들은 새로운 아이디어를 빠르게 시도하고, 인프라 등에 신경쓰지 않고 Model에 집중하고 싶어합니다. 두번째는 운영엔지니어인데, Ops engineer인 이들은 데이터의 보완, 최고 용량의 모델개발과 트레이닝과 배포 플랫폼을 위한 최고의 컴퓨터를 원하며, 마지막으로는 Business leaders들인데, 이들은 어떻게 사업화를 하고 성과를 얻는 것에 집중하며 이들은 늘 원가를 낮추기를 바라는 그룹입니다. 이러한 각 입장을 고려하여 우리가 AWS에서 ML을 사용할 수 있는 방법은 두 가지가 있습니다.

첫번째가 인스턴스에 ML플랫폼을 구성하는 것이다. 두번째는 SageMaker를 사용하는 것입니다. ML을 구성하는 것에는 많은 모델링과 많은 예측 등의 과정을 거쳐야 하고 비용이 많이 듭니다. 전반적인 ML의 TCO는 AWS SageMaker를 사용할 때에 96%까지 낮아질 수 있으며, 더불어 개발 효율성도 10배나 높아질 수 있습니다.

SageMaker를 통한 secure training의 구조는 다음과 같으며, 주요 compliance는 soc, iso, FedRAMP, HIPAA, FIPS, PCI/DSS, GDPR을 준수합니다.

ML 플랫폼을 만들고 운영하는 것은 어려운 일입니다. Build, Train, Deply를 반복하며 적용하기 위한 환경을 구성하는 것은 복잡하지만, AWS에서 준비된 서비스를 활용하여 이 과정과 환경의 구성을 보다 수월하게 진행할 수 있습니다.

아래의 그림은 2019년 리인벤트에서 출시된 SageMaker의 ML을 위하여 출시된 제품과 ML구성 환경입니다.  Build와 Train, Deploy에 필요한 요소들을 관리형 서비스로 사용하여 결과를 도출해 낼 수 있습니다.

ML cost를 줄이기 위하여 managed 서비스로 준비된 SageMaker를 사용하면 됩니다. 아래의 그림은 단계별로 필요한 업무와 이에 해당하는 AWS 서비스(노란색)

SageMaker를 쉽게 사용할 수 있도록 Autopilot을 사용할 수 있으며, 목표를 설정하고 모델들을 만들고 실행하며 노트북을 소스코드와 함께 확인할 수 있습니다. 그리고 모델을 발전시키기 위한 추천과 최적화를 제공합니다.