글

라벨이 Technology인 게시물 표시

짧은 글 - AI 의 인지능력과 편향되지 않은 편향성

이미지
<인공지능과 편향되지 않은 편향성> Category: Technology 얼마 전 구글 번역기 (google translator)과 관련된 흥미로운 트윗을 보았다. 3인칭 단수 대명사의 성별의 구별이 없는 터키어와 영어 사이의 번역에 관한 트윗이였다.   <사진출처: 구글 번역기> 먼저 he is a babysitter, she is a doctor라는 두 문장을 터키어로 번역한다. She 와 He는 3인칭 대명사의 성별 구분이 없는 터키어에서는 모두 O로 번역되었고, 이를 다시 영어로 번역하자 상당히 흥미로운 결과를 볼 수 있었다. 처음 입력한 두 문장과 성별이 반대로 번역되어 나온 것. 즉, 번역기는 Doctor라는 명사 앞의 대명사 O를 남성으로, Babysitter라는 명사 앞의  O를 여성으로 번역한 것이다. 이에 대한 트위터의 반응을 살펴보니 기계가 사람들의 언어습관을 반영한 것으로, 우리 사회 속 성 역할 고착화를 보여주는 안타까운 사례라는 반응이 많았다.   정말 흥미로운 결과일 수 밖에 없다. 트윗의 작성자는 ‘biased AI’ (편향된 AI)라는 표현을 사용하였다. 본디 정해진 동작을 수행하는 ‘기계’ 는 결코 편향되지 않는다. 기계는 그저 묵묵히 정해진 역할을 수행할 뿐이며 이는 산업화가 가속되면서 공업용 기계로 인한 사고와 인명피해가 일어났던 원인이 되기도 했다. 초창기의 번역기가 형편없었던 까닭 역시 초창기의 번역기는 각각의 단어를 미리 내장된 사전 데이터를 통해 번역할 뿐, 맥락을 고려하지 않기 때문이었다. 그러나 빠른 속도로 발전하고 있는 오늘날의 기계는, 기계 학습 (machine learning)이라는 과정을 통해 ‘맥락’을 파악하는 법을 배워가고 있다. 구글의 창업자 래리 페이지는 ‘구글을 어떻게 일하는가’에서, 기계학습을 통해 이제 컴퓨터는 미리 짜여진 업무를 수행하는 것이 아닌, 알고리즘과 기계학습을 통해 맥락을 파악하고...