파도는 왔는데, 방파제는 왜 라벨부터 붙였나

브뤼셀의 달력이 8월 2일로 넘어가자 EU AI 사무국과 각국 감독당국의 집행 권한이 움직이기 시작했다. 적용 대상 채팅창은 상대가 사람인지 기계인지 알려야 하고, 딥페이크와 일부 AI 생성물에는 사람이 알아볼 고지나 기계가 읽을 표시가 요구된다. 거대한 파도가 닿은 첫 장면은 뜻밖에도 화면 가장자리의 작은 라벨이었다.

그날 모든 AI가 안전해진 것은 아니다. 이미 2025년부터 적용된 금지 관행과 범용 AI 의무가 있었고, 2026년에는 투명성 규칙과 집행 체계가 새로 맞물렸다. 일부 기존 시스템의 기술적 표시에는 전환 시간이 남아 있어 같은 날 모든 서비스의 모습이 바뀐다는 뜻도 아니다. 법은 한 번에 내려오는 셔터보다 서로 다른 시각에 닫히는 여러 문에 가깝다.

3년 전 무스타파 술레이만과 마이클 바스카는 《The Coming Wave》에서 인공지능과 합성생물학이 빠르고 값싸게 퍼지며 국가의 통제력을 흔들 것이라고 경고했다. 책이 내민 중심어는 ‘봉쇄’였다. 기술의 이익은 얻되 방향을 잃지 않도록 통제하고 제한하며, 필요하면 멈출 능력을 사회 안에 심자는 구상이었다.

이제 책의 비유를 실제 제도 앞에 세울 수 있다. 파도는 이미 서비스와 기관과 개인의 일상에 들어왔는데, 방파제는 왜 먼저 ‘이것은 AI다’라는 표지판을 세웠을까. 더 큰 의무는 왜 뒤로 밀렸으며, 표시를 안다고 해서 피해를 막을 수 없다면 라벨은 통제의 시작일까 아니면 통제하는 척하는 장식일까. 지금 이 책을 다시 펼칠 이유가 이 어색한 장면에 있다.

《The Coming Wave》는 2023년 9월 출간 당시 인공지능만 다룬 예언서가 아니었다. 저자들은 AI와 합성생물학을 중심에 놓고 로봇공학과 양자컴퓨팅 같은 기술이 서로 엮일 때, 한 분야의 속도가 다른 분야의 능력을 끌어올리는 상황을 그렸다. 위험은 기계 한 대가 아니라 복제되고 결합되는 능력의 연쇄에서 생긴다는 주장이다.

‘파도’라는 말은 그 연쇄를 한눈에 보이게 한다. 앞선 기술이 비용을 낮추고, 낮아진 비용이 더 많은 사용자를 부르며, 사용이 늘수록 투자와 성능이 다시 커진다. 한 연구소에서 시작한 기술이 제품과 행정과 군사와 연구로 흘러가면 발명자도 최종 용도를 모두 정할 수 없다. 저자들이 문제 삼는 것은 악한 의도만이 아니라 좋은 도구의 끝없는 확산이다.

책의 힘은 낙관과 공포 가운데 하나를 고르지 않는 데 있다. 저자는 기술이 에너지와 의료 같은 난제를 푸는 데 기여할 가능성을 믿으면서도, 같은 일반성과 접근성이 감시·사이버 공격·생물학적 위해의 문턱을 낮출 수 있다고 본다. 이 양면성 때문에 ‘쓰지 말자’는 말도 ‘혁신에 맡기자’는 말도 충분한 답이 되지 않는다.

하지만 파도라는 단어에는 함정도 있다. 바닷물은 의도 없이 오지만 기술은 기업이 만들고 정부가 사고 기관이 배치하며 사람이 영향을 받는다. 자연현상처럼 말하는 순간 투자 결정과 배포 속도와 책임자가 배경으로 밀릴 수 있다. 2026년의 법을 옆에 놓으면 책의 거대한 움직임 안에서 누가 실제 손잡이를 잡고 있는지가 다시 보이기 시작한다.

책의 앞뒤를 당기는 문장은 의도적으로 충돌한다. 기술은 역사적으로 퍼져 왔으므로 완전한 봉쇄가 불가능하다고 말한 뒤, 인류가 통제력을 유지하려면 봉쇄가 반드시 가능해야 한다고 요구한다. 독자는 처음부터 해결책보다 딜레마를 받는다. 할 수 없을지 모르는 일을 하지 않으면 안 된다는 압박이 책의 엔진이다.

결론부에서 저자들은 하나의 세계 정부나 비상 정지 버튼을 꺼내지 않는다. 안전 연구, 독립 감사, 핵심 공급망의 병목, 기업 책임, 정부 역량, 국제 협력과 조직 문화처럼 서로 성격이 다른 층을 겹치자고 한다. 어느 한 층도 파도를 막지 못하므로 실패 방식이 다른 여러 장치를 동시에 두겠다는 발상이다.

이 구상은 2026년의 브뤼셀 책상과 묘하게 닮았다. AI Act도 모델을 한곳에 가두지 않는다. 제공자와 배포자에게 서로 다른 의무를 주고, AI 사무국과 회원국 당국의 감독을 나누며, 금지·투명성·고위험 규칙의 시작일도 분리한다. 책의 ‘봉쇄’가 현실에 오자 콘크리트 벽이 아니라 책임을 배분한 행정 구조가 되었다.

동시에 이 닮음은 책의 약점도 드러낸다. 독립 비평은 열 가지 조치가 야심차지만 기업이 비용을 감수할 이유와 국제 경쟁 속 집행 방법이 충분히 구체적이지 않다고 지적했다. ‘모두 함께 여러 겹으로 하자’는 말은 방향으로는 맞을 수 있어도, 누가 먼저 돈을 내고 누가 경쟁에서 늦어질지를 정하지 않으면 실행 계획이 아니다.

8월 2일부터 적용된 Article 50의 투명성 의무는 위험 자체를 없애는 규칙이 아니다. 사람과 직접 상호작용하는 일부 AI는 기계임을 알려야 하고, 생성·조작된 콘텐츠에는 탐지 가능한 표시가 요구되며, 딥페이크나 공익 사안의 일부 AI 생성 텍스트를 배포하는 쪽에도 고지 책임이 생긴다. 핵심 동사는 ‘금지한다’보다 ‘알린다’에 가깝다.

알림은 약해 보인다. 채팅 상대가 AI라는 사실을 알아도 틀린 답은 틀린 답이고, 딥페이크라는 라벨이 붙어도 이미 생긴 모욕이나 혼란이 사라지지는 않는다. 표시만으로 모델의 편향·보안·정확성을 검사할 수도 없다. 그래서 라벨을 방파제라고 부르면 과장이고, 완성된 안전장치라고 믿으면 위험하다.

그럼에도 표시에는 중요한 기능이 있다. 사람이 결과를 어떻게 믿을지 조절할 단서를 주고, 콘텐츠가 어디서 만들어졌는지 추적할 공통 흔적을 남긴다. 더 중요한 것은 의무의 주어가 생긴다는 점이다. 누가 시스템을 설계했고 누가 배치했으며 누가 공익 정보를 내보냈는지 구분하면, 피해가 난 뒤 ‘기술이 그랬다’는 무주어 문장으로 달아나기 어려워진다.

책의 파도 비유가 규모를 보여준다면 투명성 규칙은 이음매를 보여준다. 파도는 하나처럼 밀려오지만 실제 서비스에는 개발자·유통자·배포자·이용자가 이어진 사슬이 있다. 라벨은 사슬을 끊는 칼이 아니라 연결 부위를 보이게 하는 염료다. 봉쇄는 먼저 물을 멈추는 일이 아니라 물이 어느 관을 지나왔는지 기록하는 일에서 시작할 수 있다.

8월의 공식 발표만 보면 AI Act가 마침내 전면 작동한 듯 들린다. 실제로 집행 권한과 여러 규칙이 움직였지만, 가장 무거운 고위험 의무의 시계는 다르다. 교육·고용·이민·사법 같은 민감 영역의 독립형 고위험 AI 규칙은 2027년 12월 2일, 제품에 내장된 고위험 AI 규칙은 2028년 8월 2일로 미뤄졌다.

EU가 밝힌 이유는 표준·지침·감독 역량을 마련해 기업이 준수할 수 있게 하려는 것이다. 위험 관리, 데이터 품질, 기록, 문서화, 인간 감독, 정확성과 견고성 같은 의무는 체크 상자만 추가한다고 작동하지 않는다. 시험 방법과 담당 기관과 공통 규격이 없으면 같은 법도 회원국과 산업마다 다른 문이 된다. 유예는 이 기반을 만드는 시간이라는 설명이다.

시민사회 단체들은 같은 시간을 정반대로 읽는다. EDRi 등은 이미 일터·공공서비스·의료·교육·치안·이민에서 AI가 쓰이는 동안 핵심 보호가 늦춰지면 책임도 함께 늦어진다고 비판했다. 이 주장은 법의 공식 결론이 아니라 독립적인 반론이지만, 유예가 중립적인 빈칸이 아니라 누군가가 영향을 감당하는 기간임을 상기시킨다.

바로 이 갈라진 시계가 책을 다시 읽게 한다. 《The Coming Wave》는 기술의 속도와 제도의 속도가 어긋난다고 경고했지만, 실제 법은 속도를 단순히 높일 수 없는 이유도 보여준다. 서두른 규칙은 집행할 도구가 없을 수 있고, 기다린 규칙은 이미 배치된 기술 뒤를 따라갈 수 있다. 방파제는 너무 늦게 닫혀도 실패하고, 준비 없이 닫혀도 새는 구조물이다.

정책 일정표에서 2027년과 2028년은 칸 두 개의 차이지만, 그 사이 AI로 분류·추천·평가되는 사람에게 시간은 추상적이지 않다. 취업 지원자와 학생, 공공서비스 이용자처럼 민감한 결정에 가까이 있는 사람은 시스템의 정확성과 이의 제기 통로를 지금 궁금해한다. 반면 개발사와 기관에는 시험 기준을 맞추고 문서를 만드는 시간이 필요하다.

이 글은 특정 시스템이 불법이거나 실제 피해를 냈다고 단정하지 않는다. 고위험 분류도 사용 목적과 법의 세부 요건에 따라 달라지므로 독자가 스스로 법적 결론을 내릴 근거로 쓸 수 없다. 다만 같은 유예가 누구에게는 준비 기간이고 누구에게는 보호를 기다리는 기간이라는 비대칭은 정책을 읽는 데 필요한 사실적 맥락이다.

《The Coming Wave》는 국가가 너무 약해지면 기술 기업이 사회의 기본 기능을 대신하고, 반대로 국가가 기술을 과도하게 움켜쥐면 감시 권력이 커질 수 있다고 본다. 이 ‘취약한 국가’와 ‘과도한 국가’ 사이의 좁은 길은 사람을 중심에 놓지 않으면 추상적인 균형 게임이 된다. 어떤 기관이 강해지는지가 아니라 영향을 받은 사람이 설명과 수정과 이의를 요구할 수 있는지가 기준이어야 한다.

따라서 독자가 붙잡을 질문은 ‘EU가 AI를 막았나’가 아니다. 내게 영향을 주는 시스템은 어떤 범주에 속하고, 지금 적용되는 의무와 나중에 적용될 의무는 무엇이며, 그 사이 누가 기록을 보존하고 오류를 설명하는가. 법률 자문을 흉내 내지 않으면서도 이런 주어와 날짜를 묻는 일은 거대한 기술 담론을 생활의 크기로 되돌린다.

술레이만은 AI 산업의 바깥에서 망원경으로 파도를 본 저자가 아니다. 그는 DeepMind 공동창업자였고 지금은 Microsoft AI를 이끈다. 출판사 소개가 이 이력을 강하게 내세우는 이유는 분명하다. 기술이 어떻게 개발되고 조직이 어떤 유혹과 압력을 받는지 가까이서 본 경험은 책의 구체성과 긴박감을 만든다.

그러나 가까움은 자동으로 중립성을 주지 않는다. 저자는 위험을 경고하면서 기술 개발을 멈추자는 입장은 택하지 않고, 위험한 파도를 만드는 산업도 계속 확장된다. 독립 비평이 기업의 안전 투자와 국제 합의를 누가 강제할지 묻는 까닭이다. 내부자의 경고는 귀중하지만, 내부자가 제안한 울타리의 높이를 내부자의 명성으로 승인할 수는 없다.

책은 이 불편함을 완전히 숨기지 않는다. 공식 샘플에서도 저자는 자신이 AI 배경 때문에 기술의 중요성을 크게 보는 편향이 있다고 인정한다. 이 고백은 면책 조항이 아니라 독자에게 맡긴 검증 과제다. 그의 경험이 무엇을 더 선명하게 보게 하고, 기업·노동·남반구·공공기관의 관점 가운데 무엇을 덜 보게 하는지 따로 물어야 한다.

2026년의 법은 바로 그 질문을 개인의 선의 밖으로 옮긴다. 책임 있는 창업자의 약속에 기대기보다 문서와 표시와 평가와 감독 권한을 제도로 남긴다. 좋은 사람이 좋은 기술을 만들 것이라는 믿음도, 나쁜 기업만 잡으면 된다는 단순화도 버린다. 통제는 저자의 인격 평가가 아니라 서로 이해가 다른 주체가 서로를 확인하게 만드는 구조여야 한다.

과학기술사 관점의 독립 비평은 ‘파도’가 감정적으로 강하지만 기술 변화를 지나치게 단순화한다고 지적한다. 물결은 낮은 곳을 가리지 않고 덮치지만, 기술은 자본과 인프라와 언어와 규제에 따라 다른 속도로 도착한다. 누구는 모델을 소유하고 누구는 데이터가 되며 누구는 오류를 항의할 통로조차 없는 차이가 자연현상 안에서는 잘 보이지 않는다.

그래서 나는 책의 비유를 버리기보다 뒤집어 쓰고 싶다. 파도는 확산의 규모를 설명하는 데 쓰고, 방벽은 통제의 단일 해답이 아니라 여러 문과 센서와 운영자의 협업을 설명하는 데 쓰는 것이다. 실제 템스 방벽도 은빛 벽 하나가 강을 영원히 막는 구조가 아니다. 수문을 열어 흐르게 하다가 위험한 때 판단해 움직이는 체계다.

AI Act의 라벨·기록·평가·감독·유예도 각각 다른 문이다. 투명성만 강조하면 책임 없는 고지로 끝날 수 있고, 고위험 규칙만 기다리면 지금 보이는 합성물과 상호작용의 혼란을 놓친다. 기업 문서만 늘리면 피해 당사자의 설명 요구가 사라지고, 강한 금지만 앞세우면 유용한 연구와 표현을 부당하게 막을 수 있다. 어떤 문도 혼자서는 방벽이 아니다.

이 복잡성은 독자를 지치게 하지만 민주적 통제의 본모습에 가깝다. 큰 문제에는 큰 버튼이 있을 것이라는 기대를 버리고, 누가 시험 기준을 쓰며 누가 감독 예산을 받고 누가 오류를 신고하고 누가 유예의 비용을 부담하는지 따라가야 한다. 책의 ‘봉쇄’를 구호에서 제도로 번역하는 순간, 단어는 작아지고 책임자는 많아진다.

《The Coming Wave》가 2023년에 가장 잘한 일은 위험의 규모를 독자의 시야 안에 넣은 것이었다. 가장 아쉬운 일은 그 규모가 너무 커서 누가 내일 무엇을 해야 하는지 흐릿해진 순간들이었다. 2026년의 EU AI Act는 반대편에서 출발한다. 거대한 미래를 말하기보다 표시 형식과 적용 날짜와 감독 기관을 정한다.

그렇다고 법이 책의 공포를 해결했다고 축하할 수는 없다. 투명성 의무가 시작된 날에도 고위험 규칙의 핵심은 미래 날짜에 있고, 규정 문구와 실제 집행 역량 사이에도 거리가 남는다. 시민사회의 유예 비판과 EU의 준비 필요 설명은 둘 다 이 거리의 다른 비용을 가리킨다. 어느 한쪽을 지우면 방벽의 균열도 함께 가려진다.

독자에게 남는 도구는 종말 예측이 아니라 책임의 문법이다. AI가 했다는 말 뒤에서 누가 설계하고 배포했는지, 안전하다는 말 뒤에서 누가 무엇으로 시험했는지, 곧 시행된다는 말 뒤에서 정확히 어느 조항이 어느 날 적용되는지 묻자. 이 질문은 기술을 거부하라는 명령도 특정 서비스에 대한 법적 판단도 아니며, 통제의 주어를 되찾는 읽기다.

이제 제목의 질문에 답할 수 있다. 파도가 왔는데도 방파제가 라벨부터 붙인 까닭은 표시만으로 물을 막을 수 있다고 믿어서가 아니다. 더 무거운 문이 준비되고 지연되는 동안에도 물이 어디서 왔고 누가 흘려보냈으며 누가 경고를 받았는지 보이게 해야 다음 책임이 사라지지 않기 때문이다. 라벨은 방벽의 완성이 아니라, 방벽을 끝내 세워야 할 사람의 이름표다.