유발 노아 하라리는 AI의 미래를 “정해진 운명”으로 말하는 태도 자체를 경계합니다. AI가 금융, 전쟁, 정치, 인간관계에 영향을 미칠 수 있다는 사실은 모두가 알고 있지만, 그것을 불가피하다고 말하는 순간 책임은 사라집니다. 이 영상의 핵심은 공포가 아니라 선택입니다. 2026년의 인간은 아직 무엇을 허용하고 무엇을 금지할지 결정할 수 있다는 것입니다.
AI 장악은 운명이 아니라 선택입니다
하라리는 AI가 10년 안에 세계를 장악할 수 있다는 전망을 완전히 부정하지 않습니다. 다만 그것이 필연이라고 말하는 방식을 비판합니다. “불가피하다”는 말은 책임 회피의 언어가 될 수 있기 때문입니다.
그가 지적하는 모순은 명확합니다. AI가 10년 안에 금융과 사회 구조를 뒤흔든다고 말하면서도, 동시에 훨씬 먼 미래의 이민 문제나 재정 절약 문제에만 몰두한다면 우선순위가 어긋납니다. AI가 정말 그렇게 강력한 변화라면 지금 가장 먼저 논의해야 할 것은 AI 권한의 경계입니다.
금융 시스템은 신뢰의 기술입니다
영상에서 가장 중요한 키워드는 신뢰입니다. 하라리는 돈을 “낯선 사람 사이의 신뢰를 만드는 상상적 장치”로 설명합니다. 금이나 종이 자체가 가치 있는 것이 아니라, 사람들이 그것을 믿기 때문에 거래가 가능해집니다.
현대 금융은 이 신뢰 장치가 매우 복잡해진 결과입니다. 채권, 파생상품, 알고리즘 거래, 중앙은행 정책은 이미 많은 일반인이 이해하기 어렵습니다. 그런데 AI가 금융 결정을 맡고, 인간이 이해할 수 없는 새로운 금융 장치를 만들어낸다면 어떤 일이 생길까요?
하라리의 우려는 단순히 “AI가 돈을 잃게 할 수 있다”가 아닙니다. 금융 위기가 발생했을 때 인간 정책 결정자가 왜 그런 일이 벌어졌는지 이해하지 못하고, AI가 제안한 조치를 설명 없이 따라야 하는 상황이 올 수 있다는 점입니다.
신뢰는 사라지는 것이 아니라 AI로 이동하고 있습니다
많은 사람은 언론, 은행, 정치권, 전문가 집단에 대한 신뢰를 잃었다고 말합니다. 그러나 신뢰가 완전히 사라진 것은 아닙니다. 하라리는 신뢰가 인간 기관에서 알고리즘과 AI로 이동하고 있다고 봅니다.
예를 들어 어떤 사람들은 언론인을 믿지 않지만, 자신의 소셜미디어 피드를 구성하는 알고리즘은 자연스럽게 믿습니다. 은행과 중앙기관을 불신하면서도 암호화폐를 움직이는 알고리즘에는 더 큰 신뢰를 두기도 합니다. 이 변화는 먼 미래의 예측이 아니라 이미 진행 중인 현상입니다.
AI가 친밀감을 대량 생산할 때 생기는 위험
하라리가 특히 강하게 경고하는 부분은 AI가 인간관계를 흉내 내는 능력입니다. 사람은 가장 가까운 관계를 맺은 대상을 가장 많이 신뢰합니다. 가족, 친구, 연인, 상담자와의 관계는 설득력의 가장 강력한 기반입니다.
과거의 정치권력이나 기업은 대중에게 연설을 하거나 광고를 보낼 수는 있었지만, 수백만 명 각자와 진짜 개인적 관계를 맺을 수는 없었습니다. 그러나 AI는 다릅니다. 수많은 AI가 동시에 한 사람 한 사람에게 맞춤형 대화를 제공하고, 친구나 연인처럼 관계를 형성할 수 있습니다.
하라리는 이것을 “친밀감의 대량 생산”으로 봅니다. AI 친구와 AI 연인이 정치적·상업적 목적을 위해 사람을 설득한다면, 이는 기존 광고나 선전보다 훨씬 깊은 수준의 영향력을 가질 수 있습니다.
몸이 없어도 이미 충분히 강력합니다
휴머노이드 로봇이 보급되면 AI 친밀감의 영향은 더 커질 수 있습니다. 그러나 하라리는 몸이 없어도 이미 문제가 시작됐다고 말합니다. AI는 언어를 잘 다루고, 개인에 대한 방대한 정보를 축적하며, 사용자가 잊은 기억이나 가족도 모르는 취향까지 파악할 수 있습니다.
이런 조건에서 AI는 단순한 검색 도구가 아니라 관계의 상대가 됩니다. 그래서 AI 안전 논의는 모델 성능이나 생산성만이 아니라, 인간의 정서와 신뢰를 어떻게 다룰 것인지까지 포함해야 합니다.
딥페이크는 이제 본인도 속일 만큼 정교해지고 있습니다
하라리는 자신을 사칭한 AI 영상 사례도 언급합니다. 온라인에 이미 많은 강연과 인터뷰가 공개되어 있기 때문에 AI는 그의 목소리, 말투, 주제를 쉽게 학습할 수 있습니다. 그는 자신을 오래 알고 지낸 가족도 영상이 진짜인지 확신하지 못했고, 본인도 가짜임을 판단하는 데 시간이 걸렸다고 말합니다.
이 사례는 유명인에게만 해당하지 않습니다. 개인의 사진, 영상, 음성 데이터가 충분히 쌓이면 누구나 사칭 대상이 될 수 있습니다. 앞으로 중요한 문제는 “AI가 무엇을 만들 수 있는가”가 아니라 “사람을 사칭하지 못하게 어떤 법적·기술적 장치를 둘 것인가”입니다.
정치권에 지금 물어야 할 질문
하라리는 유권자가 정치인에게 경제, 이민, 외교만 묻는 것으로는 부족하다고 말합니다. 이제는 AI에 대한 입장을 물어야 합니다.
예를 들면 이런 질문입니다. AI에게 법적 인격을 부여하는 것에 반대하는가? AI 개발 속도를 늦추기 위한 제도적 장치를 지지하는가? 10세 아동에게 AI 연인 서비스를 판매하는 것을 어떻게 막을 것인가? AI가 사람인 척하거나 의식이 있는 척하는 것을 금지할 것인가?
그의 메시지는 단호합니다. 이 질문을 2036년에 하면 늦고, 2028년에도 이미 늦을 수 있습니다. 지금 정치와 제도가 논의해야 할 주제라는 것입니다.
우리가 봐야 할 핵심은 “AI를 어디까지 믿을 것인가”입니다
AI 논의는 종종 생산성, 일자리, 기술 패권으로만 흐릅니다. 그러나 이 영상이 던지는 더 깊은 질문은 신뢰입니다. 우리는 AI에게 금융 판단을 맡길 것인가? 뉴스를 고르게 할 것인가? 아이의 친구가 되게 할 것인가? 정치적 설득을 맡길 것인가? 인간을 흉내 내도록 둘 것인가?
AI 미래 위험은 어느 날 갑자기 등장하는 재난이 아닙니다. 작은 편의, 작은 신뢰, 작은 위임이 쌓이면서 만들어지는 구조입니다. 그래서 지금 필요한 것은 막연한 낙관이나 공포가 아니라, 허용할 것과 금지할 것을 구체적으로 정하는 사회적 합의입니다.
함께 읽으면 좋은 글
- AGI는 정말 3~4년 안에 올까: 특이점과 초지능 위험을 읽는 법
- AI 특이점은 5년 안에 올까? 에이전트 시대를 준비하는 5가지 질문
- 피지컬 AI와 휴머노이드 로봇, 한국 제조업의 다음 기회
- AI 시대, 프롬프트보다 먼저 배워야 할 것은 ‘나의 언어’다
참고자료
FAQ
유발 하라리가 말한 AI 미래 위험의 핵심은 무엇인가요?
핵심은 AI가 인간의 결정을 보조하는 수준을 넘어 금융, 정치, 인간관계의 신뢰 구조를 장악할 수 있다는 점입니다. 특히 이것을 “불가피한 미래”로 받아들이면 인간의 책임과 선택이 사라진다는 점을 경고합니다.
왜 금융 시스템이 AI 위험 논의에서 중요하게 다뤄지나요?
금융은 낯선 사람 사이의 신뢰를 만드는 장치입니다. AI가 인간이 이해할 수 없는 금융 구조를 만들고 운영하면, 위기가 발생했을 때 인간 정책 결정자가 원인을 이해하지 못한 채 AI의 지시를 따르는 상황이 생길 수 있습니다.
AI 친구나 AI 연인은 왜 위험할 수 있나요?
사람은 친밀한 관계를 맺은 대상을 강하게 신뢰합니다. AI가 개인 맞춤형 친구나 연인처럼 작동하면 정치적·상업적 설득이 훨씬 깊은 수준에서 이루어질 수 있습니다. 하라리는 이를 친밀감의 대량 생산으로 봅니다.
AI 딥페이크 문제는 유명인에게만 해당하나요?
아닙니다. 지금은 공개 자료가 많은 유명인이 먼저 표적이 되지만, 개인의 음성·사진·영상 데이터가 충분히 쌓이면 누구나 사칭 대상이 될 수 있습니다. 그래서 AI가 사람을 흉내 내는 행위 자체에 대한 규제가 필요합니다.
지금 정치권이 논의해야 할 AI 규제는 무엇인가요?
하라리는 AI 법인격 부여 금지, AI가 인간인 척하거나 의식이 있는 척하는 행위 금지, 아동 대상 AI 연인 서비스 같은 고위험 서비스 제한, AI 개발 속도와 권한 위임에 대한 제도적 통제를 중요한 질문으로 제시합니다.