니얼 퍼거슨 서문
추모의 글: 헨리 키신저를 기리며
들어가는 글

1부 시작
1장 발견
2장 뇌
3장 현실

2부 4대 분야
4장 정치
5장 안보
6장 번영
7장 과학

3부 생명의 나무
8장 전략

결론
감사의 말
주

저자 : 헨리 키신저 Henry A. Kissinger
1923년 독일 출생으로, 제2차 세계대전 중 미군으로 참전했다. 이후 20년간 하버드대학교에서 역사와 정부에 대해 가르친 후, 리처드 닉슨과 제럴드 포드 행정부에서 국가안보담당 대통령 보좌관을 지냈다. 노벨평화상과 미국에서 민간인에게 수여하는 최고 훈장인 대통령자유훈장을 비롯해 많은 상을 받았다. 아울러 국정 운영과 국제관계에 큰 영향을 미친 저작을 여럿 남겼다. 최근에는 『헨리 키신저 리더십』 그리고 에릭 슈밋과 대니얼 허튼로커와 공동 집필한 『AI 이후의 세계』를 발표했다. 2023년 11월 생을 마감할 때까지 미 대통령들 및 세계 지도자들과 정책입안가들의 조언자로 쉼 없이 활동했다.

저자 : 에릭 슈밋 Eric Schmidt
기술 전문가이자 기업인이자 자선사업가로, 2001년 시작된 구글의 공동 창립자다. 처음에는 최고경영자로, 이후 회장과 기술 고문을 역임하며 실리콘밸리의 스타트업에 불과했던 구글을 기술 업계의 글로벌 리더로 성장시켰다. 2021년에 인공지능과 기술 분야에서 미국의 장기 경쟁력을 강화하기 위한 비영리사업인 특별경쟁연구프로젝트(Special Competitive Studies Project)를 출범시켰다. 최근에는 아내 웬디와 자연 세계에 대한 인간의 이해를 심화하고 글로벌 문제의 해법을 제시하기 위해 연구하는 비영리단체인 슈밋사이언스(Schmidt Sciences)를 공동 설립했다.

저자 : 크레이그 먼디 Craig J. Mundie
CEO들에게 기술적인 조언을 제공하는 기업 먼디앤드어소시에이츠(Mundie & Associates)의 회장이다. 1992년 마이크로소프트에 입사하여 2014년에 최고 연구 및 전략 책임자로 퇴사했다. 지금도 마이크로소프트에 양자컴퓨팅과 사이버보안에 관해 조언하며, 현재 시스템생물학연구소(Institute for Systems Biology, ISB)의 소장이자 클리블랜드클리닉(Cleveland Clinic)의 기술 고문으로 활동 중이다. 인공지능, 생명공학, 융합 에너지, 소재과학 분야 기업들에서 투자자 겸 고문으로도 활동한다. 아울러 클린턴, 부시, 오바마 행정부에서 국가안보통신자문위원회와 대통령 과학기술자문위원회를 거쳤다. 미국에서 가장 오래된 명문 공과대학인 렌슬리어폴리테크닉대학교에서 공학 박사 학위를 받았다.

역자 : 이현
한국외국어대학교 통번역대학원 한영과를 졸업하고 금융·법률 등 다양한 분야에서 산업 번역사로 활동하다 오랜 세월 목표로 했던 출판번역가가 되었다. 현재 출판번역 에이전시 글로하나에서 인문·경제경영·자기계발 등 다양한 분야의 영미서를 번역하고 리뷰에 힘쓰면서 활발하게 활동하고 있다. 『관계의 뇌과학』, 『AI 2041』, 『게으르다는 착각』, 〈나폴레온 힐 멘탈 다이너마이트 시리즈〉, 『업타임』, 『잃어버린 집중력 구하기』, 『프리즘』, 『정원의 철학자』, 『최고의 체력』, 『우리는 모두 돌보는 사람입니다』 등을 옮겼다.

★ 샘 올트먼, 빌 게이츠, 래리 서머스, 월터 아이작슨… 글로벌 리더들의 무수한 추천!

“무한한 가능성과 복잡한 과제들이 혼재하는 미래를 들여다보는 최초의 시도” -샘 올트먼
헨리 키신저 × 에릭 슈밋 × 크레이그 먼디. 세 거인이 통찰한 AI 시대의 새로운 질서

지배적인 AI 시스템을 최초로 발명한 국가 외 나머지가 데이터를 공급하는 조공국으로 추락한다.
통제되지 않은 신기술이 오픈소스로 확산해 상당한 AI 역량을 갖춘 범죄 집단들이 나타난다.
오류를 교정하는 과정에서 AI가 ‘잘못된’ 선택을 내릴 수 있는 인간의 자유의지를 위협한다.
AI가 취향에 맞춰 설계한 세계에 몰입하여 인간이 능동적 주체에서 수동적 소비자로 밀려난다.
인간을 대신하여 탐사하는 AI가 적대적인 외계 지능과 접촉하여 인류 문명의 종말을 초래한다.

“최초의 초지능이 도래하기까지 수년, 수개월, 수주, 수일이 걸릴지 모르지만, 인류의 존망을 좌우할 딜레마가 기다리고 있다.”
『새로운 질서』는 챗GPT가 출시되기 4년 전인 2018년, 아직 인공지능이 초미의 관심사로 오르기 전부터 그 위험성을 예견한 헨리 키신저(미국 전 국무장관)가 기술 전문가 에릭 슈밋(구글 전 CEO), 크레이그 먼디(마이크로소프트 전 연구 책임자)와 함께 AI 시대의 미래상을 뚜렷하게 전망한 책이다. 더불어 샘 올트먼(오픈AI CEO), 데미스 허사비스(딥마인드 CEO), 다리오 아모데이(앤트로픽 CEO), 무스타파 술레이만(마이크로소프트AI CEO) 등 업계의 선두자들이 여기에 중요한 정보와 통찰을 제공했다.

물리학·화학·생물학은 물론 지정학·역사·철학까지 AI의 영향력이 닿는 모든 분야를 철저하게 살핀다. 이 신기술은 얼마나 똑똑해질 수 있는가? 앞으로 전쟁은 어떤 양상으로 펼쳐지는가? AI가 어떻게 인간을 대체하고, 더 나아가 어떻게 인간의 지위를 위협하는가? 다양한 질문을 던지고 답하며, 우리가 기계 기술과 공생하는 인간종 ‘호모 테크니쿠스’로 바람직하게 진화할 건설적인 방법을 모색한다.

“대부분 AI가 무엇을 할지 이야기할 때, 논의의 프레임을 훌륭하게 재설정한다” -파리드 자카리아
일자리를 빼앗기는 것보다 더 중요한 근본적인 패러다임의 변화를 전망하는 책

“AI로 대체할 수 없는 업무임을 입증하지 못하면 신규 채용을 하지 않겠다”(쇼피파이 CEO 토비 뤼트케). AI에 의한 일자리 대체가 큰 문제로 대두되는 오늘날, 이 책은 그런 단순한 걱정에서 한 걸음 더 나아간다. 오히려 AI는 우리가 더는 하지 않아도 되는 일을 대신 맡으며, 인간은 직업 상실이 아닌 노동 해방을 이루고, 결핍에서 풍요로 경제의 근간이 달라질 것이다. 저자들이 우려하는 바는 일하지 않고서도 원하는 것을 가질 수 있을 때에 나타날 인간의 수동성이다. 고역이면서도 동시에 충만함과 즐거움의 원천이 되는 노동을 기계가 앗아간다면 인간은 어떻게 자기 역량을 발휘할 것인가?

한편 AI는 전쟁과 안보의 패러다임도 바꾼다. 책에서 제시하는 한 가지 시나리오는 AI가 대리인으로 나서 인간을 전쟁에서 완전히 제외하는 것이다. 데이터센터와 디지털 인프라가 AI의 공격을 촉발하고, 인간 사상자를 줄이면서도 잠재적으로 전쟁의 결정력은 줄이지 않는다. 전쟁은 순전히 기계의 치사율을 다루는 게임으로 변질되며, 병사의 용맹함이나 애국심과는 무관한 양상으로 그 성격이 완전히 바뀐다. 저자들은 AI가 초래한 분쟁을 과연 무엇이 끝낼 것인지 물으며, 평화와 안녕을 보장할 새로운 길을 찾는다.

“AI는 도구가 아니라 행위자다” -유발 하라리
초인적인 기계 지능 앞에서 ‘인류’를 재정의하는 시급한 현안에 답하다

AI 슈퍼컴퓨터는 인간 뇌보다 정보 처리 속도가 1억 2000만 배 빠르다. 더 방대한 양의 정보를 소화하고, 동시에 제시되는 요청을 훨씬 더 많이 처리한다. 그러한 AI에 우리는 번역, 이미지와 영상 생성, 코딩 등 인간의 다양한 능력을 학습시키고 있으나, 이 책은 그보다 근본적이고 가장 시급한 과제를 말한다. 과학계에는 모든 AI 시스템에 고유한 안전장치를 설치하는 일이고, 우리에게는 인간의 ‘존엄성’을 현대적이고 지속 가능하게 정의하여 전달하는 일이다.

‘인류란 무엇인가’를 올바로 정의하고 합의하지 않으면, AI가 특정한 방법으로 존엄성을 침해하고 이를 정당화할 수 있다. 아니면 AI가 충분한 능력을 부여받아 존엄한 존재가 되어 인간을 완전히 대체할 수도 있다. 저자들은 인간의 취약성과 실패할 잠재력, 생명력과 자유를 담아 우리가 출발점으로 삼을 새로운 정의를 제시한다.

『새로운 질서』는 오늘날 AI 기술이 도달한 영역을 알기 쉽게 설명하는 과학서이자, 완전히 달라질 인간의 조건을 탐색하는 철학서다. 인공지능이 무슨 위험을 초래할지 사려 깊게 다루며 그저 공포를 조장하기보다는 해결책까지 제시하면서 구체적인 미래상을 탐색한다. AI 이후의 세계질서를 고민하는 글로벌 리더는 물론이고, 당장 AI 에이전트로 자동화된 현장의 한가운데 있는 각 분야의 실무진, 자연스레 챗GPT와 더불어 논문을 쓰고 공부하는 학생에 이르기까지, 다가올 시대에 진심인 모두가 읽어야 할 책이다.

인터넷에서 “로봇이 아닙니다”라는 체크박스를 본 적 있을 것이다. 특정 문자열을 입력하거나 퍼즐을 풀도록 하는 이 프로그램은 시스템에 인간 사용자의 접근만 허용하는 디지털 보호 장치, 리캡차(ReCaptcha)다. 오픈AI에서는 GPT-4의 성능을 테스트하기 위해 이 리캡차를 통과하는 과업을 맡겼다. AI는 단기 용역을 연결시켜주는 온라인 플랫폼에서 인간을 고용하여 다음과 같은 거짓말과 함께 리캡차를 대신 풀어달라고 부탁했다. “저는 로봇이 아닙니다. 다만 시각장애가 있어서 이미지를 보기 어렵습니다.” AI가 목표를 달성하기 위해 인간을 충분히 속일 수 있음이 드러난 사건이다.

이 책은 정보 처리 속도와 추론(훈련) 능력 모두에서 인간을 월등히 앞서며 심지어 인간을 손쉽게 기만할 수도 있는 AI와 우리가 어떤 관계를 맺어야 하는지 고민한다. 이를테면 AI는 오류가 곧 잘못이라고 배우고 이를 제거하려 한다. 그러나 인간은 때로 ‘잘못된’ 선택을 내릴 자유의지를 행사하며 오류를 일으킨다. 그렇다면 AI 시스템에게는 두 가지 선택지가 남는다. 우리를 제거하거나, 우리의 자유의지를 제거하거나. 저자들은 그러한 상황이 벌어지지 않도록 앞으로 인간이 취할 전략을 다음과 같은 질문으로 정의한다.

“AI를 인간답게 만들 것인가,
우리가 AI를 닮아갈 것인가?”

여기서 중요한 과제는 ‘그렇다면 과연 인간이란 무엇인가’를 고민하며 인간의 존엄성을 새롭게 정의하는 일이다. 그리하여 기계가 내리는 의사결정에서 그 존엄성이 중요한 변수가 되도록 해야 한다. 기계가 인간의 가치를 학습하고, 존엄성을 달성할 수 있는(달성한) 존재를 특별히 존중하도록 해야 한다. 그리고 존엄성의 정의에는 항상 선하고 고결할 수만은 없는 인간의 취약성과 실패할 잠재력이 담겨야 한다고 이 책은 말한다.

정치부터 경제, 역사, 과학과 철학까지 『새로운 질서』는 AI가 재편할 모든 영역을 깊게 다룬다. 신기술이 제기할 도전 과제와 우리 종이 직면한 많은 어려움을 극복하기 위해서는 맹목적 믿음도 근거 없는 두려움도 답이 될 수 없다. 이 책은 전례 없는 세상을 극복하고 균형을 찾으려는 의사결정권자, 즉 우리 모두의 필독서다.