우리 삶을 둘러싼 테크놀로지에 어떻게 대응해야 하는지 말하기 위해, UCLA에서 컴퓨터과학 형평성 프로젝트를 진행하는 교육 연구자 진 J. 류(류진선)과 제인 마골리스가 이 책을 썼습니다. 차별과 편견이 스며든 빅데이터가 만들어낸, ‘평균’은 알아도 ‘평등’은 알지 못하는 인공지능과 컴퓨터과학에 맞서기 위해서요.

『파워 온: 평등하고 공정한 AI 시대를 위하여』의 주인공들은 각각 다양한 소수자 집단을 대표합니다. 네 명의 청소년은 컴퓨터과학이 모두에게 공정한지 질문을 던집니다. 스스로를 지키고, 컴퓨터과학자들이 기술뿐 아니라 사람을 되돌아보게 하기 위해서입니다.

우리는 컴퓨터과학 기술 속에서 살고 있지만, 그것들이 어떻게 만들어지고 작동하는지는 잘 모릅니다. 기술에 이용당하지 않고 기술을 만들어나가기 위해, 컴퓨터과학의 미래를 주도적으로 이끌어가기 위해 목소리를 높이는 청소년들과 함께해보면 어떨까요?

한국 독자들에게 | 책을 내면서
1. 엉망진창
2. 여름방학
3. 고등학교 생활 시작
4. 컴퓨터과학을 배워야 하는 이유
5. 나와 같은 누군가
6. 우리 스스로가 곧 우리가 바라는 변화
7. 학생들이 주도하다: 모두를 위한 컴퓨터과학
작가의 말
감사의 말
청소년들이 만들어갈 앞으로의 여정을 위해 | 옮긴이의 말

진 J. 류, 제인 마골리스 (지은이), 채리스 JB (그림), 김효원 (옮긴이)

■공정하고 현명한 인공지능?

chatGPT(openAI에서 개발한 인공지능 챗봇)에 대한 관심이 뜨겁습니다. 중학교 독후감 숙제 정도는 간단히 써낼 뿐 아니라, 변호사 시험에서 상위 1%의 성적을 받아낸다는 이 인공지능 챗봇은 출시 반 년도 되지 않아 일상으로 녹아들었지요. 특히 학생들 사이에서 인기가 많아요. 리포트 작성이나 번역을 손쉽게 해치울 수 있는 데다, 각종 학술 데이터베이스를 포함한 ‘빅데이터’에서 나오는 정보니까 믿을 수 있기 때문입니다.

그런데 얼마 전 유럽연합이 한 법안을 통과시켰습니다. 인공지능이 무엇을 학습했는지 공개하도록 하고, 인종과 성별 정보를 이용해 사람을 점수 매기지 못하게 하는 법이지요. 인공지능은 감정도 오류도 없고 아는 것은 엄청나게 많은데, 왜 믿음직한 인공지능의 발전을 가로막으려 할까요?

인공지능이 받아들이는 ‘빅데이터’ 모두가 윤리적이고 올바른 사실은 아니기 때문입니다. 예를 들어 ‘가짜 뉴스’가 그렇죠. 서울대 언론정보연구소에서 2020년 보도한 내용에 따르면, 국내 코로나19 관련해 언론이 주목한 136건 중 전혀 사실이 아닌 뉴스가 61건, 대체로 사실이 아닌 것이 50건이었다고 합니다. 사례의 80% 이상이 의도했든 그렇지 않든 ‘가짜 뉴스’였다는 겁니다. 가짜 뉴스뿐만이 아닙니다. 차별과 편견을 담은 정보 역시 인공지능의 빅데이터 안에 차곡차곡 쌓입니다.

■삶을 통제하는 컴퓨터과학

유나이티드헬스 그룹에서 개발한 의료용 AI 옵텀(Optum)은 흑인보다 백인 환자에게 더 많은 의료 서비스를 제공하도록 유도해 논란이 됐습니다. 건강 상태가 같더라도 (보통 치료에 돈을 덜 쓰는) 흑인에게는 추가 치료가 필요하지 않다고 판단한 것이지요. 대출이나 채용 심사에도 인공지능이 활용되면서 인종·성차별하는 인공지능‘들이 눈에 띄기 시작했습니다. 빅데이터에 섞여든 차별과 편견이, ’평균‘은 알아도 ‘평등’은 알지 못하는 인공지능을 만들었어요.

차별과 편견 위에 세워진 기술은 인공지능 시대에도 불평등과 불공정이 이어지게 합니다. 『파워 온: 평등하고 공정한 AI 시대를 위하여』에서는 공정한 미래를 바라는 네 명의 청소년이 미래를 바꿔나가려고 노력합니다. 인공지능 시스템의 실수 때문에 경찰에게 총격당한 흑인 뉴스를 본 뒤, 네 청소년은 ‘불공평한 컴퓨터과학’에 맞서기 위해 일어나지요. 모두를 위한 컴퓨터과학 교육을 만들기 위해서요.

“이 책의 백미는 등장인물인 십 대 청소년들 스스로 이런 문제를 해결하기 위해 노력하는 모습에 있다. 새로운 컴퓨터과학 교육정책을 고민하고, 이를 널리 알리기 위해 목소리를 높인다.”
_전승민, 『The AI』 편집국장, 『십 대가 알아야 할 인공지능과 4차 산업혁명의 미래』 저자

첨단 컴퓨터과학 기술 속에서 살고 있지만, 그것들이 어떻게 만들어졌고 어떤 부작용을 가지는지 이해하는 사람은 많지 않습니다. 네 명의 청소년은 컴퓨터과학의 빛과 어둠을 모두가 알아야 한다고 생각합니다. 친구와 어른들을 인터뷰하고, 주변 학교들에 전화를 걸어 컴퓨터 수업 지도를 만들고, 위원회 앞에서 새로운 교육정책을 발표합니다.

■사람을 배려하는 테크놀로지 다양성을 존중하는 컴퓨터 과학

『파워 온: 평등하고 공정한 AI 시대를 위하여』는 이미 우리 삶을 둘러싼 테크놀로지에 우리가 어떻게 대응해야 하는지 말합니다. 우선 컴퓨터과학이 무엇인지 알아가는 것부터지요. 모든 사람이 시대와 기술의 흐름을 볼 수 있게 하는 것입니다. 나아가서 테크놀로지를 만들어가는 빅테크 기업들이 새로운 기술뿐 아니라 사람을 되돌아볼 수 있도록 해야 한다고 설득합니다.

캘리포니아대학교 로스앤젤레스(UCLA)에서 교육학을 전공하고 UCLA 다양성 프로젝트를 책임지고 있는 진 J. 류(류진선), 마찬가지로 UCLA의 교육 연구자로 컴퓨터과학 교육에서 불평등을 끝내기 위해 노력해온 제인 마골리스가 이 책을 썼습니다. 인종과 성차별 등의 문제를 다루는 흑인 혼혈의 라틴계 예술가 채리스 JB가 그림을 맡았고요. 미국 다문화 사회에서 살아오면서 더 좋은 삶의 터전을 만들고자 노력해온 지은이들이 미시시피와 로스앤젤레스에서 마주친 실제 청소년 네 명이 이 책 주인공들의 모델입니다.

『파워 온』에 등장하는 네 명의 주인공은 각각 다양한 소수자 집단을 대표합니다. 한국계 어머니와 엘살바도르 불법 이민자 아버지를 가진 크리스틴, 성소수자인 존, 히스패닉계 이혼 가정에서 사는 안토니오와 아프리카계 미국인 가정의 테일러가 등장합니다. 유튜브를 비롯한 SNS에서는 물론이고 우리가 살아가는 일상 속에서 마주하는 아주 다양한 사람들을 생각해보세요. 불평등과 차별을 극복하려는 주인공들의 노력이 지금 우리 현실과 맞닿아 있다는 걸 알 수 있을 겁니다.

■기술에 이용당하기보다는 기술을 만들어가길

컴퓨터과학과 인공지능 기술이 세상에 미치는 영향을 알아차리고, 인간만이 꿈꿀 수 있는 가치를 알고리즘에 반영하려는 노력이 청소년들에게도 전해지기를 바라면서 『파워 온』이 쓰였답니다. 컴퓨터과학과 인공지능이 과연 모두에게 공정한지 질문을 던지고, 기술에 이용당하기보다는 기술을 만들어가기를 바라면서요. 기술이 이끌어가는 미래를 준비하기 위해, 청소년들이 주도권을 잡기를 바라면서요.

“빅테크 기업의 본고장인 미국에선 사회적 우려가 쏟아지고 있지만 한국 사회는 한 박자 늦게 인공지능 기술을 마주하고 있다. 『파워 온: 평등하고 공정한 AI 시대를 위하여』는 우리가 직면하고 있는, 그리고 조만간 직면하게 될 문제의 유형과 대응 방법을 구체적으로 전달해주는 책이다.”
_금준경, 『미디어오늘』 기자, 『미디어 리터러시 쫌 아는 10대』 저자

『파워 온』의 지은이들은 선생님들과 학부모님들을 위한 교육 자료들을 따로 준비해 두었습니다. 아래 사이트에서 청소년과 지도자들을 위한 영어판 교육 자료들을 찾아보세요.
www.poweronbook.com