소장자료

인공지능이 일으킨 피해와 혜택은 누구의 책임인가?
인공지능은 권리를 가져야 하는가?
인공지능의 윤리적 규범은 어떻게 설정되고 실행
되어야 하는가?

우리의 답은 규범을 쓰는 것이 아니다. 이 역할에 맞는
제도와 메커니즘의 청사진을 제공하는 것이다.

인공지능을 어떻게 통제하고 인간 사회에 적응시킬 것인가. 인공지능은 이전까지 인류가 창조했던 모든 기술과 다르다. 인공지능의 선택과 결정이 설계자가 계획하거나 예상했던 방식이 아니라 독자적인 행위일 수도 있기 때문이다. 인공지능은 큰 혜택을 가져다줄 수 있다. 하지만 인공지능을 규제하기 위해 인류는 빨리 행동해야 한다.
인공지능은 인류의 경제, 사회 그리고 삶에 더더욱 통합되고 있다. 인공지능 통제 규정이 마련되지 않는다면 국가별, 지역별, NGO별 그리고 사기업별로 각각 고유의 표준을 만들 것이다. 결국 인공지능은 통제되지 않고 무계획적으로 발전할 것이다.

다가올 10~20년 후의 문제는 인공지능의 인류 파괴가 아니다.
인류가 인공지능과 어떻게 함께 살 것인가이다.

법이란 무엇인가? 왜 필요한 것인가?
누가 만드는가? 적용 대상의 범위는 어디까지인가?
법과 정의의 관계는 무엇인가? 정의란 무엇인가? 윤리와 정의의 관계는 어떠한가?
정의는 개인의 권리와 자유를 존중하면서도, 사회적인 균형과 공공의 이익을 고려하여 불평등을 해결하려는 노력이다. 이는 개인과 집단 간의 관계, 자원의 분배, 법과 사회 제도, 사회적 차별 등 다양한 문제와 관련이 있다. 정의의 개념은 문화, 시대, 사회적인 가치관에 따라 다양하게 해석될 수 있으며, 철학적인 이론과 사회적 실천 모두에서 중요한 개념이다.
윤리는 어떤 행동이 옳은지, 어떤 가치가 우선해야 하는지, 어떤 의무와 책임을 가지고 행동해야 하는지 등을 다룬다. 윤리적인 판단과 행동은 도덕적인 원칙과 가치, 윤리적인 이론 등을 참고하여 이루어진다.
이런 정의와 윤리의 필요에 따라 인류에게 법규가 일상화된 후 인간과 같이 사는 동물, 그리고 새로 만들어진 사물에 적용하는 법규가 등장했다. 그러나 인간처럼 스스로 선택하며 행동할 수 있는, 게다가 그것을 애초에 설계한 사람조차 통제할 수 없게 된, 그리고 인간이 감당할 수 없는 가공할 능력을 가진 인공지능 또는 로봇이 눈앞의 현실로 다가온 지금, 법규의 필요성이 논의되고 있다. 그것도 아주 시급한 문제로.

[ 인공지능이 새로운 도전을 제기할 세 가지 주요 분야 ]
1. 책임: 인공지능이 피해를 일으키거나 이로운 뭔가를 만든다면, 누가 책임이 있는가?
2. 권리: 인공지능에게 법적인 보호와 책임을 부여하는 도덕적이거나 실용적인 근거가 있는가?
3. 윤리: 인공지능은 어떻게 중요한 선택을 해야 하는가, 그리고 하지 않아야 하는 어떤 결정이 있는가?

‘인공지능 효과’라고 부르는 것은 인공지능의 발전을 끌어온 중요한 동인이었다. 즉 우리가 목표로 한 어떤 특별한 기능이나 목적을 컴퓨터 프로그램을 작성해 해결하면 또다른 과제가 보이고 그 해결을 위해 프로그램을 확장 발전시키는 반복적인 과정을 의미한다. 이 인공지능 효과는 지평선을 끝없이 쫓아가는 우리의 모습을 닮았다. 이런 인공지능 효과를 선제적은 아니더라도 크게 뒤처지지 않도록 법규로 정리해갈 필요는 당연해 보인다.
특이점(singularity)의 지점을 조만간 지나갈 것으로 예상되는 작금에 로봇을 어떻게 통제하며 인간 사회에 적응시킬 것인지, 그리고 인공지능과 인류가 어떻게 공존할 것인지는 전 인류가 함께 풀어가야 할 과제이다.
이 책은 이런 시급한 로봇 법규라는 이슈를 구체적 예와 더불어 각국의 개별적·국제적 노력을 망라한 이야기를 담고 있다. 챗 GPT, 바드 등의 등장으로 뜨거워진 생성형 인공지능 로봇 시대에 짚고 넘어가야 하는 주제이다.
각 장의 내용

2장은 인공지능이 법적 현상으로서 왜 독특한지를 밝히고 법률 전부는 아니라도 대부분의 시스템에 걸친 근본적인 가정들에 의문을 던진다. 3장은 인공지능이 피해를 야기하거나 뭔가 이로운 일을 할 때 누가 또는 무엇이 책임이 있는가를 정립하는 다양한 메커니즘을 분석한다. 4장은 인공지능에게 도덕적 관점에서 언제 권리가 부여되어야 하는지 논의한다. 5장은 인공지능에게 법인격 부여를 찬성하거나 반대하는 실용적인 주장들을 검토한다. 6장은 필요한 새로운 법률과 규정의 유형들을 만드는 국제적 시스템을 어떻게 설계할 수 있는지 밝힌다. 7장은 인공지능의 인간 제작자에 대한 통제를 들여다보고, 마지막으로 8장에서는 인공지능 자체에 규칙을 넣거나 가르치는 가능성을 논의한다.

1장 들어가기
1. 인공지능의 기원 ╻ 2. 협의/일반 인공지능 ╻ 3. 인공지능 정의 ╻ 4. 인공지능, 어느 곳에나 인공지능 ╻ 5. 초지능 ╻ 6. 낙관주의자, 비관주의자와 실용주의자 ╻ 7. 지금이 아니면, 언제? ╻ 8. 로봇 법규

2장 인공지능의 특성
1. 새로운 것에 대한 회의론: 말 그리고 HTTP ╻ 2. 근본적 법적 개념들 ╻ 3. 근본적 법적 개념에 문제가 되는 인공지능의 특성들 ╻ 4. 인공지능의 독특한 특성의 결론

3장 인공지능의 책임
1. 사법과 형법 ╻ 2. 사법 ╻ 3.형법 ╻ 4. 유익한 행위에 대한 책임: 인공지능과 지적 재산권 ╻ 5. 언론 자유와 증오 ╻ 6. 인공지능의 법적 책임에 대한 결론

4장 인공지능의 권리
1. 권리란 무엇인가? ╻ 2. 동물: 인간의 가장 친한 친구 ╻ 3. 인간은 어떻게 권리를 얻었는가? ╻ 4. 왜 로봇은 권리를 가져야 하나? ╻ 5. 인공지능 권리에 대한 결론

5장 인공지능의 법인격
1. 잃어버린 연결? ╻ 2. 인공지능의 법인격은 가능한가? ╻ 3. 인공지능에게 법인격을 허락해야 하는가? ╻ 4. 남은 과제들 ╻ 5. 인공지능의 법인격에 대한 결론

6장 규제 기관 만들기
1. 법을 쓸 수 있기 전에 왜 제도를 설계해야 하는가? ╻ 2. 인공지능 법규는 범산업적으로 만들어져야 한다 ╻ 3. 인공지능을 위한 새로운 법들은 판사가 아닌 입법에 의해 만들어져야 한다 ╻ 4. 정부 측 인공지능 규정의 현재 추세 ╻ 5. 국제적 규제 ╻ 6. 국가들은 어째서 세계 법령에 동의할까? ╻ 7. 인공지능에 국제법 적용하기 ╻ 8. 인공지능 법의 시행과 집행 ╻ 9. 규제 기관 설립의 결론

7장 제조자 통제
1. 제조자 그리고 제작물 ╻ 2. 도덕적 규제자: 정당성 추구 ╻ 3. 협력적 법 제정 ╻ 4. 제안된 규제 강령 ╻ 5. 주제와 추세 ╻ 6. 사용 허가와 교육 ╻ 7. 대중을 규제하기: 인공지능에 대한 면허 ╻ 8. 제작자 통제에 대한 결론

8장 제작 통제
1. 신원법 ╻ 2. 설명 법칙 ╻ 3. 편향성에 대한 법 ╻ 4. 인공지능 활용 한계에 대한 제약 ╻ 5. 정지 스위치 ╻ 6. 제작물 통제의 결론

9장 에필로그