최근 인공지능(AI) 및 인공지능 알고리즘 시스템이 비약적으로 발전함에 따라 그 활용영역과 범위가 행정, 의료, 서비스, 교육, 법률 등 사회 전분야로 확대되어 생활의 편의를 높여주고 있으나, 반면, 인공지능 결정의 불확실성, 인지적 한계 문제 등 기술적·관리적 한계로 인해 발생하는 인권침해적이고 민주주의에 역행하는 문제들도 드러나고 있다.
1. 인공지능기술의 발전이 인권침해를 발생시키는 국내외 사례들을 알아보고
2. 인공지능과 민주주의의 관계에 대해 관련 논문 등을 참고하여 간략하게 정리하고,
3. 인공지능의 이러한 위험성과 한계를 통제하기 위해 제시되고, 또 시행되고 있는 국내적, 국제적 제도, 원칙, 정책 및 법률 등을 정리하면서, 본인의 생각을 밝히시오.


- 목 차 -

I. 서 론

II. 본 론
1. 인공지능기술이 인권침해를 발생시키는 국내외 사례
2. 인공지능과 민주주의의 관계에 관한 논문 요약
3. 인공지능의 위험성과 한계관련 국내적, 국제적 제도, 원칙, 정책 및 법률, 본인의 생각

III. 결 론

참고문헌


** 함께 제공되는 참고자료 한글파일 **
1. 국내적, 국제적 제도, 원칙, 정책 및 법률.hwp
2. 국내적, 국제적 제도, 원칙, 정책 및 법률2.hwp
3. 나의 의견.hwp
4. 나의 의견2.hwp
5. 인공지능과 민주주의의 관계.hwp
6. 인공지능과 민주주의의 관계2.hwp
7. 인공지능기술의 발전이 인권침해를 발생시키는 국내외 사례들.hwp
8. 인공지능기술의 발전이 인권침해를 발생시키는 국내외 사례들2.hwp
9. 서론 작성시 참조.hwp
10. 결론 작성시 참조.hwp
11. 서론 작성시 참조2.hwp
12. 결론 작성시 참조2.hwp

I. 서 론

인공지능(AI, Artificial Intelligence)에 대하여 널리 알게 되었던 계기는 2016년 이세돌 9단과 인공지능 알파고의 세기적 바둑 대결이다. 인공지능은 기계가 인간에 가깝게 생각하고 판단할 수 있게 하는 시스템을 말한다. 여기서 주의할 사항은 인공지능 시스템은 인간처럼 사고하는 시스템이 아니라는 것이다. 인공지능은 인간에 못 미치는 사고력을 가질 수 있고 인간을 뛰어넘을 수도 있다.
인공지능 기술의 발달로 인권 존중의 주체가 국가에서 기업과 자본으로 빠르게 영역을 확장하고 있다. 알고리즘과 인권 사이의 관계를 정의하고 이를 가이드라인으로 만드는 시도가 이어지고 있다. 기업 인권 실사 과정에서도 인공지능 기업의 인권 위험에 대한 검토가 이루어지고 있다.
이 레포트는 1. 인공지능기술의 발전이 인권침해를 발생시키는 국내외 사례들을 알아보고 2. 인공지능과 민주주의의 관계에 대해 관련 논문 등을 참고하여 간략하게 정리하고, 3. 인공지능의 이러한 위험성과 한계를 통제하기 위해 제시되고, 또 시행되고 있는 국내적, 국제적 제도, 원칙, 정책 및 법률 등을 정리하면서, 본인의 생각을 기술하였다.


II. 본 론

1. 인공지능기술이 인권침해를 발생시키는 국내외 사례

1) 이루다는 스타트업 스캐터랩이 2020년 12월 말 출시한 '딥러닝' 방식의 20대 여성 대학생 AI 챗봇이다. 하지만 이루다가 이용자와 대화하며 여성과 동성애, 장애인에 대한 혐오 메시지나 흑인 등을 대상으로 한 인종차별적 메시지를 전송한다는 등의 문제가 식별되며 3주 만에 서비스가 중단됐다 연합뉴스, 고도화·보편화하는 AI…인권침해 방지 관련법은 부재, 2022, 6, 22.
. ‘이루다’는 피진정인 스캐터랩이 개발한 알고리즘에 따라 대화를 하는 인공지능 서비스라는 점에서 ‘이루다’로 발생하는 차별 및 혐오 표현의 책임은 알고리즘의 개발자이자 서비스의 제공자인 주식회사 스캐터랩에 있을 수밖에 없다. 따라서 ‘이루다’가 인격체가 아니므로 조사대상이 아니라는 인권위의 판단은 인공지능과 책임에 대한 기본적 이해가 없는 부당 판단이며, 나아가 조사를 하지 않기 위한 면피성 판단이 아닌가 의심된다.
이루다의 혐오와 차별적 메시지는 인공지능 시대에 발생할 수 있는 혐오와 차별의 결과를 보여줄 수 있는 대표 사례이다. 인공지능과 관련한 법률을 마련할 경우, 인공지능과 인권 문제는 설계와 개발단계에서 인권 존중 관련 원칙을 두는 것이 강조될 필요가 있다.

2) 유튜브를 통해 배포되는 영상 중에서 딥페이크(DeepFake)를 활용한 영상들이 자주 보인다 소프트웨어정책연구소, 인공지능의 악용 사례, 딥페이크 기술과 과제, 2022, 7, 25.
. 이들은 단순히 재미와 유머를 목적으로 하는 예도 있지만, 정치·사회 영역에서 가짜 뉴스를 퍼트려 혼란을 유발하거나, 특정 인물을 콘텐츠로 활용하여 음해하는 등 심각한 부작용을 초래한다. 이미 악의적으로 인스타그램의 여성 사진을 누드로 편집(Deep porn)하는 AI가 등장한 지 오래이며, 유명 인사(트럼프, 오바마, BTS 등)를 다른 사람으로 편집하는 인권침해 사례도 다수 발생하고 있다. 최근에는 러시아와 전쟁을 겪고 있는 우크라이나의 젤린스키 대통령이 등장하는 가짜 영상이 공개되어 화제가 된 바 있다. 이처럼 딥페이크, 페이크 페이스(Fakeface)와 같이 인공지능(AI)을 활용하여, 진짜 같은 가짜를 만드는 이미지 합성 기술은 악의적인 기만행위로 사회 및 국가적인 혼란을 야기하고 있다.

3) 2019년 중국의 선도적인 인공지능기업 인허수이디(银河水滴)는 세계 최초로 ‘스텝 인식 인터커넥트 시스템’인 “수이디혜안(水滴慧眼)”을 개발하여 상용화하는데 성공했다 김형섭, AI기술의 부패방지와 인권 침해의 논의 - 홍콩 사례(복면금지법)를 중심으로 -, 한국부패학회보, 25(2), 2020, 5-27.
. 수이디혜안(水滴慧眼)은 발걸음 정보 인식 기술에 기초하여, 발걸음 데이터 설정․발걸음 인식․발걸음 검색․넓은 범위 추적 등의 기능을 데이터로 집약하고 카메라로 인식한 발걸음과 실시간 스마트 상호접속이 가능하도록 실현하는 프로그램이다. 현재 홍콩에서 일어나고 있는 반정부 시위는 중국 정부의 ‘범죄인 인도 법안(송환법)’에서 시작했지만, 궁극적으로 중국정부의 공권력 행사로부터 자유롭고 싶은 홍콩인의 열망이 표출되는 시위라 할 수 있으며, 시위 참여자 검거 및 과격 행위자 색출을 위해 ‘홍콩 국가보안법’, ‘복면금지법’과 ‘생체인식 AI 프로그램’을 이용하면서 격화되고 있다. 신기술의 이용은 정부 측면에서 시위 참여자를 쉽게 판단할 수 있다는 측면에서 긍정적이나 다른 한편에서는 부패된 AI(인공지능)기술로 홍콩시민들의 인권과 표현의 자유를 침해한다고 지적할 수 있다. 표현(表現)의 자유는 민주체제에 있어서 불가결의 본질적인 자유이다. 앞으로 AI(인공지능)의 등장에 따른 새로운 기술의 도입과 활용은 그 동안 고민하지 못한 부분에서 우리의 기본권을 침해할 수 있다. 중국에서 활용하고 있는 수이디혜안(水滴慧眼)과 수이디신감(水滴神鉴), 홍콩의 복면금지법 도입 등 새롭게 등장하는 문제를 바탕으로 헌법이 보호하는 기본권⋅인권보호와 기술 발전의 균형을 위한 제도적 발전과 대안, 그리고 AI기술의 부패방지를 위해 고민해야 할 것이다.


- 중략 -