어떻게 인간과 공존하는 인공지능을 만들 것 인가(스튜어트 러셀)
제목:어떻게 인간과 공존하는 인공지능을 만들 것 인가
원제:Human Compatible:Artificial Intelligence and the Problem of Control
저자:스튜어트 러셀
역자:이한음
출판사:김영사
독서일:2021.12.31.~2022.1.5.
소장여부:대출
2021년 12월 31일은 금요일이었다.
새해에는 좀 더 많은 책을 읽자라고 마음을 먹고,
도서관 홈페이지에서 읽을 만한 책을 살펴보았다.
연관 추천되는 책으로 스튜어트 러셀의
《어떻게 인간과 공조하는 인공지능을 만들 것인가》가 표시되었다.
“스튜어트 러셀이 누구더라?“라는 생각이 지나갔다.
유명하고 어느 책인가 저자였던 것 같은데 하고 저자 검색을 하니,
《인공지능: 현대적 접근방식》의 저자였다.
몇 년 전에 대학원과 자격증 공부를 할 때, 제법 재밌게 읽었던 책이었다.
《인공지능:현대적 접근방식》은 일반 교양서적은
아니고 거의 대학 전공서적에 가까운 책이다.
(우리가 기대하는 인간을 대체하고, 인간보다 뛰어난) 인공지능을
구현하기 위한 기본 원리와 기술을 설명하고 있는 책이다.
관련 분야 학생, 종사자라면 한번 읽어볼 가치가 있는 책이라고 생각한다.
저자를 알게 되니, 장서 번호를 챙겨서 적었다.
그리고 리처드 도킨슨의 《영혼이 숨 쉬는 과학》도 대출 가능해서
같이 장서번호를 적고, 대출받아 왔다.
《어떻게 인간과 공존하는 인공지능을 만들 것인가》는
《인공지능:현대적 접근방식》가 다른 교양서적이다.
‘스튜어트 러셀’은 미국 UC버클리 대학의 인공지능 교수이자 권위자다.
이공계 교수로서 책에서 ‘인공지능’의 원리와 구현 방법, 발생 가능한 문제, 저자의 생각을
글로 풀어 설명하고 있다.
책은‘인공지능(AI)’의 원리와 구현보다는
각종 인간과의 관계에서 발생할 문제(Problem)와 해결 방법(저자의 생각)에 대해서 설명한다.
정량적 지식과 구조화가 아닌, 정성적 사고와 합의가 필요하다고 이해하였다.
인공지능의 기본 원리/개념과 인간의 철학적인 개념과 사회적 규칙을
적절히 설명하는 방식이다.
교과서나 전공기술서적처럼 수식과 정형적인 설명만 존재하는
《인공지능:현대적 접근방식》와는 다른 느낌이다.
‘Human Compatible：Artificial Intelligence and the Problem of Control’의 원제목처럼
인간과의 호환성: 인공지능과 통제의 문제’를 논의하려면 인공지능에 대한 통제가 필요할 것이다.
처음에는 인간에게 도움이 되고, 편리를 위한 인공지능으로 시작하겠지만,
인공지능(AI)이 발전할수록 효율과 편리의 최대화를 위해,
인간이 배제되고 통제되는 상황이 올 수 있다.
흔히 알고 있는, 인공지능의 발달로 인류의 지능을 능가하는 시점(Singularity Point)이
도달하게 되면 인공지능은 인간의 통제를 벗어나려고 할 것이다.
인류의 능력보다 더 우수한 (인공) 지적 개체가 인간의 통제를 받을 이유는 없을 것이다.
영화 〈매트릭스〉나 〈터미네이터〉 등에서 기계(인공지능)에 의한 인간 통제는 잘 표현되어 있다.
저자는 이런 인공지능 발전에 대한 막연한 불안감과 위기감에 대해서 기술적, 논리적으로 설명하고 있다.
저자는 생각보다 인공지능의 Singularity Point 도달 시점이 느리고,
기술적으로 더 많은 발전이 필요하다고 이야기하고 있다.
우리가 생각하는 인공지능과 로봇 수준(모든 면에서 인간을 능가하는 휴머노이드)과
실제 구현, 서비스되고 있는 인공지능·로봇 수준(특정 목적, 한정된 분야의 에이전트)은
차이가 있고, 이를 연계하여 인간 전체를 대체하기 어렵다고 보고 있다.
물론 저자도 -핵연쇄 반응은 당시 기술적 관점에서는 불가능할 것이라
학회 발표가 있었던 오후에 레오 실라르드가가 번뜩이는 착상으로 핵 연쇄 반응을 창안한(P.120)-
1930년대의 핵연쇄 반응 연구의 사례처럼 인공지능 연구도 퀀텀 점프(Quantum Jump)가
일어나 갑자기 돌파구가 마련될 수도 있다고 말을 한다.
저자는 인공지능에 대한 통제를 계속 강조한다.
결국 -인간의, 인간에 의한, 인간을 위한(of the human, by the human, for the human)-
인공지능을 개발·이용하기 위해서는 통제권을 가져야 한다.
통제권은 쉽게 말해서 전원 종료 기능이다.
인간이 최악의 경우 인공지능의 전원 종료가 가능해야 한다.
인공지능은 자신의 생존을 위해(인간 전체에게 이롭다고 포장하고)
인간의 전원 종료권을 무력화하려고 도전할 거란 생각이 든다.
인간이 어떻게 인공지능에 대한 우위(생사여탈권)를 계속 유지할지도 생각해봐야 한다.
저자는 또 인공지능이 인간을 이롭게 하는 것도 어떻게 정의할 것인지 물어보고 있다.
이 부분은 철학과 연결되는 부분이다.
‘공리주의’로 인간 다수의 최대 이익만 좇게 되면 인간적 가치를 잃게 될 것이다.
‘자유주의’로 인간 사이 행동에 최소한으로 관여하거나,
소유주 최우선의 행동을 하게 되어도 문제이다.
인공지능에게 어떻게 인간적 가치와 사회적·도덕적 합의를 가르치냐도 문제가 된다.
이 부분에서 최근에 읽었던 《정의란 무엇인가》(마이클 센델), 《자유론》(존 스튜어트 밀)이 생각났다.
결국 진정으로 인간을 위한 인공지능을 만들기 위해서는, 우리 인간의 문제를 해결해야 할 것이다.
최근 여러 가지 IT기기와 IT서비스가 개인 삶에 영향을 많이 끼친다고 생각한다.
인터넷을 끊고, 스마트폰을 꺼버리고, 동영상 스트리밍 서비스를 찾지 않고,
온라인 쇼핑몰과 간편 결제를 이용하지 않는 걸 실행하기는 쉽지 않다.
굳이 그렇게 하고 싶지도 않다.
이런 IT서비스에 이미 종속성이 생겼는지 모른다.
만약 이런 것보다 더 발달되고 편리한 서비스를
인공지능이 무료 또는 합리적 비용으로 해준다면 마다하기 힘들 것이다.
편의와 이익에 물들기 전에
스스로 인공지능에 대한 현황과 이슈를 알고 생각해보는 것도 좋은 것 같다.
| 여기서도 공유지의 비극이 작동한다. 개인이 보기에는 기계가 이미 지니고 있는 지식과 기술을 습득하기 위해 여러 해 동안 열심히 공부하는 것이 무의미해 보인다. 모두가 그런 식으로 생각한다면, 집단수준에서 인류는 자율성을 잃을 것이다. 이 문제의 해결책은 기술적인 것이 아니라, 문화적인 듯 하다. 우리에게는 자율성, 행위 주체, 능력을 지향하고 자기탐닉과 의존성을 멀리하도록 우리의 이상과 선호를 재편하는 문화 운동이 필요할 지도 모른다. (P. 372) 어린 아이를 둔 부모라면 누구나 이 과정에 익숙하다. 일단 아이가 무력한 단계를 넘어서면, 육아 과정은 아이를 위해 모든 일을 하는 것과 아이 스스로 알아서 하게 놔 두는 것 사이에 끊임 없이 진화하는 균형 상태와 다르지 않다. 어느 단계에 이르면 아이는 부모가 자신의 신발끈을 완벽하게 묶어 줄 수 있겠지만, 그렇게 하지 않는 쪽을 택 한다는 것을 이해하게 된다. 이것이 인류의 미래일까? 훨씬 우월한 기계에게 영구히 아이처럼 취급 받는 것이? 나는 그렇지 않다고 본다. 무엇보다도 아이는 부모의 전원을 끌 수 없다.(고맙게도!) 게다가 우리는 반려동물이나 동물원에 사는 동물이 되지 않을 것이다. 사실 현재 세계에는 미래의 이로운 지적 기계와 우리가 맺을 관계를 유추하여 판단할 만한 것이 전혀 없다. 최종 게임이 어떻게 펼쳐질 지는 두고 봐야 한다. (P.373) |
'0500_독서' 카테고리의 다른 글
| 모비딕(허먼 멜빌) (0) | 2022.02.05 |
|---|---|
| 영혼이 숨 쉬는 과학(리처드 도킨스) (0) | 2022.01.16 |
| 하루키의 언어(나카무라 구니오, 도젠 히로코) (0) | 2021.12.31 |
| 자유론(존 스튜어트 밀) (0) | 2021.12.26 |
| 소년과 두더지와 여우와 말(찰리 맥커시) (0) | 2021.12.19 |