AUTHOR’S ORIGINAL · 원문 작성 · ARCHIVE 224454200346
AI가 채용을 시작하자 50년 된 '차별 금지법'이 뒤흔들리기 시작했다: 알고리즘 시대의 4가지 파격적 통찰
필자 Econ Blog_K의 공개 원문을 허락받아 자동 수집했습니다. 문장과 이미지 순서를 보존하고 지면 폭만 조정했습니다.
1. 채용 AI의 급부상과 법적 대혼란의 시작
오늘날 기업의 90% 이상이 채용 과정에서 어떠한 형태로든 인공지능(AI)을 활용하고 있습니다. 서류 검토와 이력서 스크리닝부터 비디오 면접의 언어·비언어 분석, 게임 기반 역량 평가에 이르기까지 알고리즘은 인사 담당자의 필수적인 도구로 자리 잡았습니다. 지원자를 빠르게 선별하고 인간 고용주의 주관적 편향을 줄여줄 것이라는 기대 속에서 도입된 AI 채용 시스템. 하지만 이 기술 혁신은 법정과 노동 시장에서 예상치 못한 대혼란을 일으키고 있습니다.
그 중심에는 1971년 미국 대법원의 Griggs v. Duke Power 판례로 확립된 이후 지난 50여 년간 고용 평등을 지배해 온 '결과적 차별(Disparate Impact)' 원칙이 있습니다. 최근 AI 기술의 급격한 보급과 이에 대응하는 트럼프 행정부 법무부 법률자문국(OLC)의 법률 의견서 발표는, 오래된 차별 금지법 체계를 역사적 전환점에 세워두었습니다.
AI가 사람을 뽑는 시대, 능력주의(Meritocracy)와 공정성은 과연 무엇이며 법은 이를 어떻게 규제해야 할까요? 알고리즘 채용 시대를 관통하는 4가지 핵심 법률·정책적 통찰을 정리해 드립니다.
2. "의도가 없어도 불법?"—50년 역사의 '결과적 차별' 원칙이 재해석되고 있다
1. 결과의 불균형만으로 기업을 처벌하던 시대의 종말
기존의 '결과적 차별' 법리 체계에서는 고용주에게 인종이나 성별을 차별하려는 의도가 전혀 없었더라도, 채용 평가 결과가 특정 집단에 불리하게 나타나면(예: 특정 인종의 합격률이 타 인종 합격률의 80%에 미달하는 4/5 규칙 등) 기업에 차별 책임을 물었습니다.
전통적인 입증 책임 체계(Griggs/Albemarle 3단계 입증 구조)는 기업에 가혹한 부담이었습니다:
1단계(원고): 원고가 집단 간 단순 합격률 격차(통계적 불균형)를 입증함.
2단계(피고 기업): 고용주가 해당 채용 시험이 엄격한 '사업상 필요성(Business Necessity)' 및 직무 연관성을 지닌다는 점을 막대한 비용과 복잡한 전문가 증언을 통해 입증해야 함.
3단계(원고): 기업이 2단계를 입증하더라도, 원고가 차별적 영향이 적은 대안적 평가 방식을 제시하면 최종 승소함.
그러나 미 법무부 법률자문국(OLC)의 최신 의견서는 이러한 전통적 프레임워크를 완전히 뒤흔듭니다. OLC는 결과적 차별 법리를 미 헌법의 '평등 보호(Equal Protection)' 조항에 부합하도록 재해석하며, 해당 법리를 "은폐된 의도적 차별을 가려내기 위한 수단"으로 한정해야 한다고 명시했습니다.
OLC가 제시한 새로운 3단계 프레임워크는 고용주의 2단계 입증 부담을 대폭 완화하고 '입증 책임의 전환'을 원고에게 다시 넘깁니다:
1단계: 원고가 통계적 격차를 제시함.
2단계: 기업은 복잡한 검증 대신 해당 평가 방식이 '합리적 사업 목적(Valid Business Purpose)'을 충실히 수행한다는 점만 보여주면 됨.
3단계: 기업이 이를 입증하면, 원고가 직접 더 우수한 대안 평가 방식을 입증해야만 함.
"올바르게 이해된 결과적 차별 책임은 의도적 차별의 가능성이 높은 행위만을 금지한다."
이 재해석은 중요한 패러다임 전환을 의미합니다. 단순히 통계적인 결과의 불균형(Disparities)을 피하기 위해 기업이 인위적으로 인종적·성별 비율을 맞추도록 강요받던 시대에서 벗어나, 직무와 합리적으로 연관된 평가 기준이라면 통계적 격차가 발생하더라도 보호받을 수 있는 법적 토대가 마련된 것입니다.
3. "차별하라고 가르치지 않아도" AI는 스스로 차별을 학습한다
AI '블랙박스'가 만드는 은밀한 우회 차별과 대리 변수(Proxies)
그렇다면 AI 채용 도구에 지원자의 인종, 성별, 연령 정보를 직접 제공하지 않으면 차별 문제가 모두 해결될까요? 안타깝게도 그렇지 않습니다. AI는 대량의 학습 데이터 안에서 인종이나 성별을 암시하는 '대리 변수(Proxy)'를 스스로 찾아내 우회적 차별을 재현합니다.
이러한 현상은 실무와 최신 연구에서 명확히 확인되고 있습니다:
아마존(Amazon)의 AI 채용 도구 폐기 사례: 과거 아마존이 개발했던 AI 채용 시스템은 성별 정보를 직접 보지 않도록 설정되었으나, 과거 입사자 데이터를 학습하는 과정에서 여대 출신이나 여성 관련 활동이 기재된 이력서에 스스로 감점을 부여하는 편향을 보여 프로젝트가 전면 폐기되었습니다.
2024년 Nature 연구 결과: 주요 거대언어모델(LLM)들을 대상으로 한 실험에서, AI는 흑인 전통 방언(African-American dialect)을 사용하는 지원자에 대해 표준 미국 영어를 사용하는 지원자보다 전문직 부적합 판정을 내릴 확률이 높았으며, 범죄 가능성을 더 높게 평가하는 은밀한 인종적 편향을 드러냈습니다.
Mobley v. Workday 집단소송과 '대리인 이론': 워크데이(Workday)의 AI 스크리닝 도구가 지원자의 흑인 전통 대학(HBCU) 학위, 우편번호(Zip code), 경력 공백, 언어 사용 습관 등을 대리 변수로 활용해 인종, 성별, 연령, 장애 여부에 따른 차별적 결과를 낳았다는 혐의로 소송이 진행 중입니다. 특히 이 사건에서 법원은 '대리인 이론(Agent Theory)'을 적용하여, 채용 업무를 위탁받은 제3자 AI 소프트웨어 개발사 역시 고용주의 대리인으로서 직접적인 법적 책임을 질 수 있다고 판결했습니다. 이는 HR-Tech 업계 전체에 거대한 파장을 일으키고 있습니다.
인간 평가자의 주관적 편향을 제거하겠다며 도입한 AI '블랙박스'가, 오히려 인간이 남긴 데이터 속의 구조적 편향을 더 정교한 대리 변수로 재학습하는 역설을 보여주는 대목입니다.
4. 과도한 AI 억제 규제가 오히려 '역차별'과 '인종 쿼터제'를 부를 수 있다
부작용을 낳는 AI 편향 규제: 뉴욕시 Local Law 144의 경고
알고리즘 차별에 대응하기 위해 각 지자체는 앞다투어 규제책을 도입하고 있으나, 이는 복잡한 규제 파편화(Patchwork) 현상을 낳고 있습니다.
대표적인 예가 뉴욕시의 'Local Law 144'입니다. 이 법은 '자동화된 고용 결정 도구(AEDT)'의 출력이 채용 결정의 '유일한 요소'이거나 '가장 중대한 요소', 또는 '인간의 판단을 뒤엎는 용도'로 사용될 때, 연례 제3자 '편향 감사(Bias Audit)'를 의무화하고 그 결과인 영향 비율(Impact Ratio)을 공시하도록 강제합니다.
그러나 이 법안은 AI의 실질적 직무 예측 정확도는 검증하지 않고 단순 합격률 비율만 공시하도록 강제한다는 치명적 허점이 있습니다. 이러한 단순 수치 중심 규제는 기업이 소송을 피하기 위해 성능이 우수한 AI를 포기하거나, 표면적 수치를 맞추기 위해 합격자 비율을 인위적으로 조정하는 '사실상의 인종 쿼터제'로 후퇴하게 만듭니다.
미국 전역의 정책적 혼란은 더욱 심화되고 있습니다:
일리노이주: AI 채용 과정에서 인종적 대리 변수로 악용될 수 있는 우편번호(Zip code) 수집을 법으로 명기하여 금지함.
콜로라도주(SB 24-205): 광범위한 AI 편향 감사 및 보고 의무를 법제화했으나, 테크 업계의 강한 반발과 xAI 등의 소송 제기(트럼프 행정부 지원)로 인해 공시 중심으로 대폭 후퇴함.
텍사스주: 알고리즘 차별 인정 요건으로 고용주의 '명확한 차별 의도(Discriminatory Intent)' 입증을 요구함.
연방 차원의 대응: 트럼프 행정부는 행정명령 14365호(Executive Order 14365)를 통해 주(State)별로 제각각인 규제를 무력화하고 단일화된 연방 표준(Federal Preemption)을 구축하려 시도하고 있습니다.
5. 해법은 '결과 수치'가 아닌 '설명 가능성(Explainability)'과 '입력 책임성'이다
규제 실패의 반면교사 속에서, 기술 혁신과 공정성을 동시에 잡을 대안으로 떠오른 것이 바로 정교한 법률적 프레임워크입니다.
채용 AI 혁신의 길: '입력 책임성 테스트'와 설명 가능한 AI
로버트 바틀렛 등(Robert Bartlett et al., 2021)이 UC 버클리 기술법 저널에서 최초로 제안하고, 로버트 버브루겐(Robert VerBruggen) 연구원이 정책적 대안으로 적극 옹호하는 '입력 책임성 테스트(Input Accountability Test)'는 차세대 AI 규제의 명확한 길을 제시합니다.
이 프레임워크에 따르면, 원고가 알고리즘 차별을 주장하려면 단순히 통계적 합격률 격차를 제시하는 것만으로는 부족하며, 다음 두 가지 중 하나를 구체적으로 입증해야 합니다:
직무 무관성(Job Irrelevance): 알고리즘이 실제 직무 성과와 합리적 연관성이 없는 요소를 평가 인자로 사용했음.
대리 변수 왜곡(Proxy Warping): 알고리즘이 직무 관련 요소를 왜곡하여 특정 보호 특성(인종·성별 등)의 대리 변수로 악용했음 (예: 객관적 수준이 동등함에도 흑인 전통 대학 출신 학위에만 정당한 이유 없이 낮은 점수를 부여함).
이를 입증 가능하게 하려면 AI의 '설명 가능성(Explainability)'과 고용주의 지원자 통지 의무가 전제되어야 합니다. 이는 금융 법제인 신용보고서법(FCRA) 및 등등기회신용법(ECOA)의 거절 통지(Adverse Action Notice) 의무와 명확한 법적 평행선을 이룹니다. 대출 거절 시 구체적 사유를 통지해야 하듯, 기업은 지원자에게 평가된 역량 요소와 결과를 통지해야 합니다.
기업이 AI의 딥러닝 내부 연산 전체(Black-box)를 공개할 필요는 없지만, "어떤 직무 역량을 어떤 기준으로 평가했는지" 인간이 감사할 수 있는 형태(Auditable)로 설명할 수 있어야 합니다.
이와 함께, 키스 손덜링(Keith Sonderling) 전 노동부 차관 등이 제안한 '자율 사전 감사 및 면책지대(Safe Harbor)' 제도를 적극 도입해야 합니다. 기업이 연방 가이드라인에 따라 사전에 AI 채용 도구를 자율 점검하고 대리 변수 편향을 제거했음을 입증할 경우, 향후 발생할 수 있는 법적 책임과 손해배상 범위를 경감해 줌으로써 자발적인 공정성 확보 노력을 유도하는 방식입니다.
6. 결론: 능력주의와 AI 규제가 나아가야 할 미래
50년 전 확립된 결과적 차별 법리는 AI라는 거대한 기술적 진보 앞에서 근본적인 재설계를 요구받고 있습니다. 단순히 결과의 숫자를 맞추는 외형적 평등에 집착하는 기존 방식은 기술의 효율성을 저해하고 또 다른 역차별을 낳을 뿐입니다.
우리가 나아가야 할 대안은 명확합니다. AI가 제공하는 높은 예측력과 효율성을 누리되, 알고리즘이 사용하는 평가 기준이 실제 직무 역량과 정당하게 연결되어 있는지 '설명 가능성'과 '입력 책임성'을 엄격히 묻는 것입니다. 이것이 기술 혁신을 저해하지 않으면서 진정한 능력주의(Meritocracy)와 공정성을 함께 지켜내는 유일한 길입니다.
AI 채용 시대를 맞아, 우리 사회는 이제 스스로에게 이 질문을 던져야 할 때입니다: