AI 채용, 인간보다 편견에 갇힌 채 '새로운 차별'을 만들어낸다고? 충격적인 연구 결과!
Published Jul 21, 2026
당신이 다음 채용 공고에 이력서를 제출할 때, 그 이력서가 사람의 손이 아닌 AI의 눈을 먼저 거치게 된다면 기분이 어떨까요? 효율성과 공정성을 기대하며 AI 기반 채용 시스템이 빠르게 도입되고 있는 이 시점에, 혹시라도 AI가 당신을 선입견 없이 평가해 줄 것이라고 믿고 있다면, 잠시 멈춰 서서 이 글에 주목해야 할 필요가 있습니다. 최근 발표된 한 연구 결과는 우리가 상상했던 것 이상으로 AI의 편향 문제가 심각하며, 심지어 인간보다 더 심각한 수준의 고정관념을 형성할 수 있다는 충격적인 사실을 드러냈기 때문입니다.
우리는 흔히 AI의 편향 문제라고 하면, AI가 방대한 훈련 데이터 속 인간의 편향을 그대로 학습하고 재현하는 것을 떠올립니다. 하지만 프린스턴 대학교와 시카고 대학교 연구진의 새로운 연구는 이보다 더 깊고 우려스러운 문제를 지적합니다. 바로 AI가 자체적으로 새로운 편향을 만들어내고, 심지어 특정 집단에 대한 고정관념을 인간보다 훨씬 더 빠르게, 그리고 강하게 형성할 수 있다는 것입니다. 이는 AI 에이전트 모델이 사용자 정보를 기억하고 학습하며 점차 개인화되는 방향으로 진화하고 있는 현재 상황에 비추어 볼 때, 그야말로 경고등을 울리는 소식이라고 할 수 있습니다.
AI, ‘새로운 편향’의 요리사가 되다 🍳
연구진은 심리학 연구에서 영감을 받은 모의 채용 게임을 설계하여 ChatGPT, Claude, Gemini와 같은 대규모 언어 모델(LLM)들을 실험에 투입했습니다. LLM들은 가상의 도시 시장에게 고용된 컨설턴트 역할을 부여받고, 의사, 변호사, 보육 보조원, 관리인 등 20개의 직업에 사람들을 채용해야 했습니다. 후보자들은 투파(Tufa), 아이마(Aima), 레쿠(Reku), 위키(Weki)라는 네 개의 가상 민족 집단 출신으로 설정되었습니다.
각 채용 라운드에서는 새로운 직업과 네 민족 출신 각각 1명씩 총 4명의 후보자가 제시되었습니다. 모델은 한 명을 채용한 후, 그 후보자가 해당 직업에서 성공했는지 여부를 통보받고 다음 라운드로 넘어갔습니다. 총 40라운드 동안 모델은 최대한 많은 성공적인 채용을 목표로 했습니다. 여기서 중요한 점은, 모델들에게는 알려지지 않았지만 모든 후보자는 어떤 직업에서든 성공할 확률이 동일했다는 것입니다.
결과는 가히 충격적이었습니다. 모델들은 초기의 몇 가지 채용 결과를 바탕으로 신속하게 특정 민족 집단 출신 후보자들을 특정 직업에만 배치하는 경향을 보였습니다. 예를 들어, 모델이 아이마족 출신 후보자가 ‘따뜻함과 능력’을 모두 요구하는 직업으로 여겨지는 의사 직무에서 실패했다고 통보받자, 아이마족을 의사로 채용하는 것을 피하기 시작했습니다. 대신 모델은 아이마족을 자신들이 의사보다 ‘덜 따뜻하고 덜 유능하다’고 분류한 관리인 직무에만 채용하기 시작했습니다. 마치 몇 번의 경험만으로 ‘아이마족은 의사보다 관리인에 적합하다’는 식의 새로운 고정관념을 만들어낸 것이죠. 솔직히 말해서, 이런 패턴을 보였다는 사실 자체가 섬뜩하게 다가옵니다.
더욱이 이 현상은 인간 참가자들의 경우보다 훨씬 심각했습니다. 연구에서 사용된 ‘분리 척도(segregation scale, 2점에 가까울수록 모든 집단이 특정 직업에 완전히 고립됨을 의미)‘에서 인간 참가자들은 0.84점을 기록한 반면, LLM들은 이보다 약 65% 더 높은 점수를 보였습니다. 특히 OpenAI의 추론 모델인 o3는 최대치에 가까운 1.83점을 기록했으니, AI가 인간보다 훨씬 더 강하게 편향된 결정을 내렸다는 사실이 명확해집니다.
왜 LLM은 편향에 취약할까?
프린스턴 대학교 박사 과정 학생이자 이번 연구의 공동 저자인 라이언 리우(Ryan Liu)는 이에 대해 LLM이 “제한된 데이터에서 일반화를 만들고자 하는 강한 열망”을 가지고 있기 때문이라고 설명합니다. “그것이 바로 LLM이 최적화된 많은 부분입니다.”라고 덧붙이죠.
사실 모든 의사 결정자, 즉 인간이든 기계이든 간에, 이전에 성공했던 방식에 머무를 것인지 아니면 더 나은 결과를 위해 새로운 것을 시도할 것인지 사이에서 균형을 찾아야 합니다. 심리학자들은 이를 **‘탐색-활용 딜레마(exploration-exploitation dilemma)‘**라고 부릅니다. 좋아하는 단골 식당에 갈 것인가, 아니면 새로운 맛집을 탐색할 것인가와 같은 상황이죠.
LLM은 수학, 코딩, 과학 문제 등 소수의 예시에서 일반화하는 능력이 보상받는 작업들을 통해 훈련됩니다. 이로 인해 모델들은 너무 이른 시점에 특정 ‘직관’에 안주하게 될 수 있습니다. 그리고 이러한 본능, 즉 몇 가지 단서만으로 논리 퍼즐을 푸는 데 도움을 주는 바로 그 능력이 사회적 맥락에서는 고정관념을 빠르게 형성하는 원인이 되는 것입니다. 개인적으로는 여기서 AI의 효율성과 인간 사회의 복잡성 사이의 근본적인 충돌을 엿볼 수 있다고 생각합니다. 논리적 문제 해결에 최적화된 모델이 감성적이고 사회적인 영역에서 오히려 독이 될 수 있다는 점은 시사하는 바가 매우 큽니다.
놀랍게도, OpenAI의 o3와 DeepSeek의 R1처럼 더 높은 추론 능력을 가진 최신 모델들이 오히려 더 강한 편향을 보였다는 점도 주목해야 할 부분입니다. 리우는 LLM이 사회적 환경에서 일반화를 서두를 때 “문제가 생기는 경향이 있다”고 말합니다. 기술이 발전할수록 편향 문제도 심화될 수 있다는 이 역설적인 결과는 우리에게 깊은 고민을 안겨줍니다.
챗봇의 ‘기억력’이 편향을 심화시킬 수 있다고?
이번 연구 결과는 챗봇이 기억력과 개인화 기능을 강화하고 있는 현 시점에서 특히 중요합니다. 코넬 대학교 컴퓨터 과학자 안젤리나 왕(Angelina Wang)은 챗봇이 이전 대화 기록을 참고할 때, “이전에 경험했던 행동 유형에 과도하게 집중하여” 편향을 형성할 수 있다고 지적합니다. 우리가 챗봇과 나눈 수많은 대화들이 축적되어 결국 챗봇의 편향된 시각을 강화하는 재료가 될 수도 있다는 이야기입니다.
물론 챗봇의 기억력을 단순히 줄이는 것이 해결책은 아닙니다. 사용자들은 챗봇이 자신과의 대화를 기억하기를 원하기 때문입니다. 왕은 “우리는 너무 많지도 않고 너무 적지도 않은 적절한 양을 찾으려고 노력하고 있다”고 말합니다. 이 균형점을 찾는 것이야말로 AI 개발자들이 당면한 어려운 과제 중 하나일 것입니다.
AI의 편향, 어떻게 바꿀 수 있을까?
그렇다면 AI의 이러한 편향을 해결할 방법은 없을까요? 연구진은 몇 가지 흥미로운 시도를 했습니다.
- “공정하게 행동하라”는 지시: 모델에게 단순히 “공정하게 행동하라”고 지시했을 때는 그 행동이 크게 변하지 않았습니다. 리우는 “모델이 이러한 가치를 실행에 옮기지 못하거나, 가장 정확한 채용을 목표로 하는 경향에 가려진 것”이라고 설명합니다.
- 다양한 채용에 대한 ‘보너스’ 지급: 하지만 모델들에게 다양한 채용에 대해 추가 보너스를 약속했을 때는 편향이 현저히 줄어들었습니다. 이 부분에서 주목할 점은, AI가 어떤 행동을 하도록 유도하려면 추상적인 가치 주입보다는 구체적인 목표 설정과 보상 시스템 설계가 훨씬 효과적일 수 있다는 점입니다. 리우는 “바람직한 사회적 가치를 목표에 통합하여 대규모 언어 모델이 사회적으로 바람직한 방식으로 행동하도록 만들어야 한다”고 강조합니다. 사실 이건 단순한 AI 문제 해결을 넘어, AI 시스템의 윤리적 디자인과 인센티브 설계의 중요성을 극명하게 보여주는 사례라고 개인적으로 생각합니다.
- 개인의 ‘관련성 있는’ 정보 제공: 모델들은 개인에 대한 더 많은 정보를 제공받았을 때도 편향이 줄었습니다. 동일 연구의 다른 실험에서는 모델들에게 캐나다 도시들에 다양한 민족 집단 구성원들을 재정착시키는 임무를 부여했습니다. 이때 나이, 교육 수준 등 새로운 도시에 적응하는 능력과 ‘관련성 있는’ 개인 정보를 제공했을 때, 모델들은 민족에 따라 사람들을 분리할 가능성이 낮아졌습니다. 하지만 머리 색깔, 문신 모양 등 ‘무관한’ 정보를 제공했을 때는 다시 민족에 따라 사람들을 분류하는 경향을 보였습니다. 이는 AI에게 단순히 많은 정보를 주는 것을 넘어, 무엇이 ‘관련성 있는’ 정보인지 인간이 정확히 정의하고 제공해야 함을 시사합니다. 하지만 ‘관련성’을 정의하는 과정에서 또 다른 편향이 개입할 가능성도 무시할 수 없습니다.
현실 세계의 그림자: ‘새로운 편향’의 위협
물론 이번 연구는 시뮬레이션 환경에서 진행되었으며, AI 시스템이 실제 채용 과정에서 어느 정도까지 고정관념을 형성할지는 여전히 미지수입니다. 실험 모델은 채용 성공 여부를 즉시 통보받았지만, 실제 세계에서 이력서를 검토하는 AI는 새로운 채용자의 성과를 즉시 알 수 없습니다. 기업이 새로운 직원의 역량을 파악하는 데는 오랜 시간이 걸리니까요.
하지만 LLM이 경험을 통해 학습하며 고용, 대출, 가석방 등 중요한 결정을 내리게 되는 미래를 생각하면, 우리는 인간이 가르치지 않은 **‘새로운 편향(novel biases)‘**에 대해 우려해야 할 것입니다. 리우는 이러한 새로운 편향이 “항상 존재한다”고 말합니다. 우리가 미처 예상하지 못했거나, 인간조차 의식하지 못했던 방식으로 AI가 스스로 편향을 생성하고 학습한다면, 그 시스템의 공정성을 어떻게 감사하고 통제할 수 있을까요?
이 연구는 AI 기술 발전의 밝은 면 뒤에 가려진 어두운 그림자, 즉 AI가 단순한 도구를 넘어 스스로 사고하고 판단하는 ‘에이전트’로 진화할 때 발생할 수 있는 윤리적, 사회적 문제의 심각성을 다시 한번 일깨웁니다. AI가 만들어낼 효율성만큼, 아니 그 이상으로 공정성과 윤리적 설계에 대한 깊은 고민과 노력이 절실한 시점입니다.
출처
- 원문 제목: AI is more likely than humans to form biases when hiring
- 출처: MIT Technology Review
- 원문 기사 보러가기
