인공지능에 방울 달기, 알고리즘 투명성·설명권 보장으로

글로벌 기술 기업들의 ‘착한 인공지능(AI)’ 선언이 잇따른다. 인공지능을 이용해 의료와 교육, 환경에서 인류가 직면한 문제들을 해결할 수 있다는 장밋빛 내용이다. 인공지능을 사람을 차별하거나 군사적인 목적으로 사용하지 않겠다는 내용도 빠지지 않는다. 

하지만 현실에선 선언과 실천의 불일치가 보인다. 마이크로소프트는 2018년 12월 발표한 얼굴인식 기술과 관련한 6가지 원칙에서 “자유를 위기에 빠트리는 방식으로 쓰지 않겠다”, “차별을 낳는 방식으로 사용하지 않겠다”고 약속했다. 하지만 실제에선 팔레스타인 사람을 감시할 목적으로 얼굴인식 기술을 개발하는 이스라엘의 ‘애니비전’사에 자금을 지원했다.

아마존은 인공지능으로 작업자의 성과 달성률을 측정하고 기준에 미달할 시 자동으로 계약을 종료한다. 지난해 10월 미국 뉴욕대의 ‘AI NOW’ 재단이 주최한 심포지엄에서 공개된 증언에 따르면 아마존 물류창고의 직원들은 알고리즘이 설정한 생산성에 하루에 세 번 미달할 경우 해고된다. 회사를 위해 얼마나 오랜 기간 일했는지, 작업 중에 실수하게 된 사정 같은 것은 고려되지 않는다. 이런 상황에서 직원들은 생산성 유지를 위해 용변마저 포기하게 된다.

원문보기:
http://news.khan.co.kr/kh_news/khan_art_view.html?art_id=202002151423001#csidxab1c5bdc47e8f3c9c59c9675b66dd0c 

인공지능에 방울 달기, 알고리즘 투명성·설명권 보장으로