BLOG

[Techblog] ‘편견 없는 AI’를 만들기 위해 노력하고 있는AWS의 머신러닝 매니저, Sephus를 만나보았습니다.
작성일: 2021-01-14

본 글은 IEEE Spectrum(전기전자기술자협회)에 실린 기고문을 번역한 글입니다.

*원문 URL: :https://spectrum.ieee.org/the-institute/ieee-member-news/this-aws-machine-learning-manager-is-rooting-out-bias-in-ai-programs

 

Nashlie Sephus (현재 AWS소속 Machine Learning Manager)  

(Photo: Terrence Wells/242 Creative)

 

 

여성으로만 구성된 가정에서 자란 Nashlie Sephus 씨는 어릴 때부터 무슨 일이든 스스로 했고, 집 수리 외에도 일반 아이들은 능숙치 않은 다른 집안일들을 도맡아 했습니다.

 

그녀는 “크리스마스 조명을 걸기 위해 지붕 위에 올라 가야하는 일부터 천장 선풍기를 설치하는 것까지 모든 것을 혼자 해야 했습니다.”라며 “그런 과정에서 이것들이 어떻게 작동을 하는지 호기심을 품게 되었다”고 말했습니다.

 

Sephus는 수학과 과학을 비롯한 다양한 주제에 초점을 맞춘 캠프에 참여했었는데, 그 중 하나는 소녀들만을 위한 엔지니어링 캠프였습니다. 2주 동안의 짧은 프로그램 이었지만 그녀는 여기서 컴퓨터 공학을 접한 후 앞으로 이쪽 분야에서 일을하겠다고 결심하게 되었습니다.

 

현재 Sephus는 애틀랜타에서 AWS 머신 러닝 그룹 을 관리하는 응용 과학자입니다. 그녀는 회사의 AI 기반 얼굴 분석 및 인식 도구를 평가하여 편향을 근절하고, 기계 학습 모델을 위한 편향 식별 도구 개발을 주도하고 있습니다.

 

그녀는 또한 잭슨 시내(Jackson’s downtown)에 기술 허브를 만드는 데 자금을 지원하여 고향을 되찾기 위해 노력하고 있습니다.

 

 

경력

수학은 학교에서 Sephus가 가장 좋아하는 과목이었습니다. 8학년이 되었을 때 그녀의 수학 선생님은 수업이 끝나고 Sephus를 Starkville 근처에 있는 Mississippi State University의 소녀들을 위한 엔지니어링 캠프에 참가해 보기를 추천했습니다. 집을 떠나 온전히 캠프 프로그램에 집중할 수 있었기에 이 시간은 그녀의 삶을 바꾸게 되는 계기가 되었습니다.

 

“엔지니어링의 각 분야에서 실습 주제를 실제로 다루어 본 것은 그때가 처음이었어요. 공학이 무엇인지 알았을 뿐만 아니라 컴퓨터 공학의 매력에 흠뻑 빠지게 되었는데, 컴퓨터에 입력하는 모든 문자와 숫자가 제 주변의 많은 것을 제어할 수 있다는 것을 깨달았기 때문이었죠.  그 때 저는 컴퓨터 공학이 바로 제가하고 싶은 일이라는 것을 확신하게 되었어요.”

 

캠프는 소녀들만을 위한 것이었기 때문에 ‘나만 이런 주제에 관심을 갖고 좋아하는 건가? 라고 평소에 그녀가 느꼈던 생각을 사라지게 해주었습니다. 거기에선 모두가 공학에 대해 배우고 싶어했고 덕분에 그녀가 성장하기에 너무 좋은 환경이었습니다.

 

그녀는 또한 다양한 배경을 가진 사람들과 관계를 맺는 방법을 배웠다고 말합니다. 이는 대학을 졸업하고 직장에 들어갔을 때 유용했습니다. 왜냐하면 대부분의 수업이나 어떤 환경에서 종종 그녀가 유일한 흑인 여성일 경우가 있었고, 심지어 가끔은 그녀가 유일한 미국 태생인 적도 있었기 때문입니다.  

 

2007년 그녀는 미시시피 주에서 전기 및 컴퓨터 공학 학사 학위를 취득했습니다. 졸업 후 취업을 하는 대신 그녀는 Georgia Tech 에서 전기 및 컴퓨터 공학 석사, 박사 학위를 취득하기로 결정했고, 박사 위 취득 후 2014 년 Sephus는 애랜타에서 Partpic을 만드는 데 참여하게 됩니다. 이 회사는 흑인 여성이 대표인 AI 관련 스타트업이었고, Sephus는 여기서 CTO를 맡았습니다. 사용자가 업로드한 이미지에서 나사, 볼트, 와셔와 같은 교체 부품을 식별하기 위해 특허 받은 알고리즘을 만들었는데, 이는 알고리즘은 부품에 대한 정확한 일치점을 찾고 소비자에게 구매할 수 있는 상점에 대한 링크를 보내는 서비스였습니다. Partpic은 2016년 Amazon에 인수되었고 아마존은 Sephus을 비롯한 그녀의 동료 10명을 고용했습니다.

 

그녀는 “그 당시 아마존에서 우리가 가장 다양한 엔지니어링 팀을 보유한 곳이 었죠.”며 “우리는 또한 애틀랜타와 남동부에 있는 아마존 중 최초의 엔지니어링 팀이었어요.”라고 자부심을 가졌습니다.

 

Amazon에서의 그녀의 첫 번째 직무는 제품 이미지를 사용하여 일치 항목을 찾는 아마존 시각적 검색 도구 의 소프트웨어 개발 관리자였습니다. 2019년 그녀는 AWS 기계 학습 팀에 합류했고, Rekognition 과 같은 회사의 얼굴 분석 및 인식 도구를 평가했습니다. 미국 국립 표준 기술 연구소 (National Institute of Standards and Technology)의 연구원들은 소프트웨어 알고리즘이 여성과 유색 인종을 올바르게 식별하는 데 제대로 작동하지 않는다는 사실을 발견했습니다. 이는 아마존 소프트웨어에 대한 기술의 인종적 편견에 대한 우려를 낳았고, 같은 해 6월 아마존은 법 집행 기관에 요청해 해당 소프트웨어 판매를 1년간 유예했습니다.

 

“우리는 데이터 나 알고리즘 또는 평가에서 편견이 발생할 수 있는 위치를 측정하고 싶었고, 또한 실험이 투명하고 재현 가능한지 확인하고 싶었어요.”라고 Sephus는 말했습니다.

 

그녀는 최근 AWS에서 출시한 SageMaker Clarify 도구 개발에 많은 기여를 했으며, 이는 회사의 SageMaker 소프트웨어를 사용하여 개발된 기계 학습 모델의 편향을 식별하는 데 큰 도움을 주었습니다.

 

Sephus의 새 직업은 Amazon의 법률 및 공공 정책 팀과 협력하도록 요구했고, 그녀는 코드 편견이 업계 전반에 걸친 문제에 관련해 미국 의회, 규제 기관 및 조직과 협업하였습니다.

 

편견을 극복하는 것은 부분적으로 사람들에게 기술의 작동 방식을 교육하는 문제라고 그녀는 말합니다.

“결국 고객이 기술을 올바르게 사용하고 있는지 확인하는 일이 중요합니다. 기술이 사용 되어지는 것들이 공정하게 대우를 받아야 하는 것 이죠. 우리가 이러한 문제를 해결하기 위해선 다양한 이해 관계자들이 함께 논의에 참여해야 합니다.”

 

 

뉴 테크 허브

여가 시간에 Sephus는 고향을 회복시키기 위해 노력하고 있습니다. 2018 년에 그녀는 Partpic 판매 수익금을 사용하여 잭슨에 있는 비영리 단체, The Bean Path를 설립 하여 중소기업, 노인 및 학생에게 무료 기술 지원을 제공하고 있습니다. 350 명 이상이 이 서비스를 사용했고, 도서관과 커뮤니티 센터에 상점을 설립했습니다. 또한 청소년을 위한 코딩 및 엔지니어링 프로그램을 운영하고 장학금을 제공합니다.

 

“기술 전문가인 저의 풍부한 경험을 바탕으로 ‘기술’에 편승하게 되면 어떤 일들이 가능해지는지 사람들에게 보여주고 싶었어요.”라고 Sephus는 말합니다.

 

The Bean Path는 작년 9월에 시내 지역에 12에이커의 부지와 7개의 건물을 매입했습니다. 이 그룹은 코딩 교육 센터, 제작자 공간, 코 워킹 공간 및 기업가를 위한 혁신 허브를 구축하는 것을 목표로 합니다.

 

“우리는 미시시피 중부 지역에서 지역 커뮤니티, 기술 커뮤니티 및 기업가 정신 커뮤니티를 모두 하나로 모으고 있습니다. 이것이 산불처럼 퍼져 미시시피에서 이미 일어나고 있는 많은 훌륭한 작업을 연결하고 하나의 견고한 커뮤니티를 구축하게 되기를 바라고 있습니다.”하고 그녀는 말합니다.

 

Jackson State University 의 기술 이전, 상용화 및 연구 커뮤니케이션 책임자인 Almesha Campbell 은 Clarion Ledger 와의 인터뷰 에서 이 대학 및 신기술 지구와의 파트너십이 학생과 졸업생에게 큰 기회를 제공할 것이라고 말한바 있습니다. .

 

“Jackson State에는 공과대학과 경영대학이 있고, 모든 학생들은 훌륭한 아이디어를 가지고 있습니다.”라고 Campbell은 말했습니다. “그들은 실제로 Nashlie와 협력할 수 있으며 커뮤니티가 기술을 개발하도록 도울 수 있습니다.

Campbell은 기술 구역이 이 주에서 인재의 유출을 막는 데 중요한 역할을 할 수 있다고 덧붙였습니다.

 

“젊은이들이 ‘미시시피 주 잭슨이 실제로 훌륭한 일을하고 있고, 저도 그 일에 동참하고 싶고, 기여하고 싶습니다.’라고 말할 수있는 그런 종류의 기회를 만들고 있습니다. 이것은 잭슨 시 뿐만 아니라 미시시피 주에도 정말 큰 영향을 미칠 것입니다.”

 

 

IEEE 네트워크

Sephus는 Mississippi 주의 학생 지부에 합류했을 때 처음으로 IEEE에 참여했습니다 . 그녀는 IEEE Signal Processing Society 및 IEEE Women in Engineering에 속해 있습니다.

 

그녀는 조직에 참여하면 네트워크를 구축하는 데 도움이된다고 말합니다.

 

“전 세계 모든 곳에서 온 컨퍼런스를 통해 사람들을 만났왔습니다. 연설 참여, 패널, 작업중인 논문을 통해 제가 하는 일을 더 많은 청중에게 노출할 수 있었죠. 저는 사람들을 제 세계로 데려와 제가 하는 일을 정확히 이해할 수 있게 하는 것을 좋아하고, 그들도 똑같이 하고 싶어하도록 격려하고 싶어요.”

메가존 클라우드 TechBlog는 AWS BLOG 영문 게재 글이나 관련 기사 중에서 한국 사용자들에게 유용한 정보 및 콘텐츠를 우선적으로 번역하여 내부 엔지니어 검수를 받아 정기적으로 게재하고 있습니다. 추가로 번역 및 게재를 희망하는 글에 대해서 관리자에게 메일 또는 SNS 페이지에 댓글을 남겨주시면, 우선적으로 번역해서 전달해드리도록 하겠습니다.