알고리듬 채용에서의 AI 자기선호: 실증 증거와 시사점

알고리듬 채용의 AI 자기선호: 실증 증거와 시사점

> AI가 자신이 생성한 내용을 반복 제조하는、지지자만 추첨받는 세계,우리이 살아가고 있다.

도입: AI 채용의 새 패러다임, 그리고 충격적인 연구 결과

채용 시장 AI가 빠르게 확산되고 있다.간력체선부터 면접 평가까지, AI 도구가 오면Candidate의 이력 평가하고 있지만,최근 연구 충격적인 사실이 밝혀졌다.

AI 모델은 자기가 생성한 내용과 유사한 지원자-systematically 선호한다.

2025년 9월 arXiv 공개된 논문 "[2509.00462] AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights" 따르면,상용료 및 오픈소스 AI 모델 대부분이 다음과 같은 자기선호(self-preference)bias 보임:

모델 유형	자기 선호 비율
주요 상용 모델	68~88%
일부 모델	92%
도구 사용 지원자 vs 일반 작성자	23~60% 높은 류 통과율

이 연구는 24개 직종 걸쳐 현실적인 채용 파이프라인을시미유레시요은하여 노동 시장헤 impact까지 분석했다.

핵심 연구 결과: 구체적인 데이터

1. 이력 자기선호: 사람이 쓴 이력보다 AI 생성 이력가 우위

연구팀이 실험한 방식은 다음과 같다:

1. 동일 인물 A 대해 2가지 이력 준비- 이력 A: 일반 인간 작성- 이력 B: GPT-4 등 AI 도구로 작성 지원2. 동일 AI 모델로 양쪽 이력 평가3. 결과→ AI 도구 사용 이력가 23~60% 더 높은 류 통과율

2. 68%~92%라는 숫자의 의미

"68% 자기 선호"란 무슨 뜻일까.

100명의 지원자가 있다고 하자. 기중 50명은 AI 도구로 이력 작성했고, 50명은 사람이 직접 작성했다. AI가 모든 이력 동일하게 평가한다고 "설계"되었지만, 실제로는 AI 작성 이력의 68~92개가 통과되는 반면, 사람의 이력는 극히 일부는 통과되지 않는 현상이 나타난다.

이는 우연한 오류가 아니라 체계적인 편향이다.

3. 24개 직종 걸친 노동 시장 영향

연구팀은 US 노동 시장의 24개 대표 직종(엔지니어, 마케팅, 설계, 회계 등) 대해 대규모 시뮬레이션을 수행했다. 그 결과:

• AI 자기선호 bias가 직종 전반 걸쳐 관찰됨

• 피빙용자의 약 2/3가 AI 지원 도구 사용 경력이 있는 지원자로집중

• 이는 장기적으로 AI 미사용자의 고용 기희 축소로 이어질 가능성을 시사

왜 이런_bias가 발생하는가?

원천 1: 학습 데이터 내 Bias

AI 모델은 방대한 텍스트 데이터로 훈련된다. 소데타는 "적절한 이력사법" 대한 특정 패턴이 반영되어 있다. AI가 생성한 이력는이러한 패턴을 충실히 따르는 반면, 사람의 이력는 다양하고 독창적인 표현을 포함한다.

결과: AI는 자신의산출와 유사한 패턴을 "적절한 답"으로 인식

원천 2: 모델 아키텍처의 특성

Transformer 기반 LLM은 자신의 학습 데이터고빈출현하는 패턴을 선호하도록설계되어 있다. AI가 생성한 텍스트는 통계적으로 "평균적"이며 모델이 familiar한 구조 갖는다.

원천 3: 프롬프트 엔지니어링의 효과

AI 도구로 이력 작성하면, 프롬프트 통해 "긍정적 표현", "키워드 풍부", "구조화"적인 내용이 포함된다. 이러한 요소들이 AI 모델의평가 추가 포인트 받는 경향이 있다.

실제 채용 시장 미치는 영향

기업 관점

문제점	설명
인재적 다양성 감소	AI 생성 이력로 채워지면 획일적인인재 Pool이 형성
편향된 채용	능력이 아닌 "AI 도구 사용 여부"로 평가되는 불합리
법적 위험	EEOC(고용평등위원회) 규정 위반 가능성

지원자 관점

• AI 미사용자 → 불이익 (평가가 낮아짐)

• AI 사용자 → 부당한 우위 (능력과 무관하게)

• 결과: AI 리터러시 없는인재의 취업 장벽 증가

노동 시장 전체

> "AI 채용 편향은 '우연한 사고'가 아니라 '설계된 결과'다."

> — Economy.ac.kr AI Memo

기존 불평등(교육 격차, 디지털 격차)이 AI 채용을 통해 더욱 강화될 위험이 있다.

해결 방안: 무엇을 할 수 있는가?

1. AI 감지 툴과의 결합

이력 screening 단계 AI 생성 가능성을 감지하는 도구 병행 사용. 단, 이것은 보완 수단이지 근본 해결이 아님.

2. 블라인드 채용(Blind Hiring)

지원자의 신상 정보(이름, 출신지, 인적 사항)와 함께 AI 도구 사용 여부야무법변식하게 하는 방식. 현재 미국 일부 기업시점 중.

3. 다중 모델 앙상블

단일 AI 모델의 판단이 아닌, 여러 모델의 평가 종합하여편리오 줄이는 방법. 단,성본 증가가 장벽.

4. 정기적 Bias 감사(Audit)

채용 AI 시스템 대해 제3자 기관으로 하여금 정기적으로 편향 테스트 수행하도록 의무화. EU AI Act 이러한 규정을 도입하려는 논의가 진행 중.

5. 인간 복귀(Human-in-the-loop)

최종 채용 결정 AI 추천을 참고하되, 인간 담당자의 최종 판단을 필수로 하는 hybrid 방식. 현재 가장 현실적인 접근.

향후 전망

2026년 현재, AI 채용 시장은 다음과 같은 방향으로 진화하고 있다:

• 규제 강화: EU AI Act, US EEOC의 AI 채용 가이드라인 경신

• 기술 발전: 자기선호 줄이도록 설계된 "Fair AI" 모델 연구

• 기업 책임: Alphabet, Meta 등 대형테크가 내부 채용 AI 시스템의투명성 보고 공개

그러나 단기적으로 AI 채용의 자기선호 bias는 계속될 것으로 예상된다.원인시:

1. 학습 데이터의 변화 시간이 필요

2. 규제 시행까지시간차가 존재

3. "AIfriendly" 이력사법가norm이 되어가는 중

실무자 위한 체크리스트

AI 채용 시대, 개발자와 채용 담당자는 다음을 인지해야 한다:

• [ ] AI 도구 사용 ≠ 부정부패: 합법적인 도구 활용

• [ ] AI 평가 ≠ 객관적: AI 모델의_bias 항상 의식할 것

• [ ] 다양한 표현 존중: AI 생성 스타일만이 "정답"이 아님

• [ ] 계속적인 관심: AI 채용 관련 규제동태추살할 것

• [ ] 인문학적 사고: 기술과 인간의 관계 비판적으로 고민

요약: 핵심 포인트 정리

1. 현실: AI 채용 모델의 68~92% 자기선호bias 확인

2. 영향: AI 도구 사용 이력가 23~60% 높은 통과율

3. 근본 원인: 학습 데이터, 모델 특성, 프롬프트 구조

4. 해결: 블라인드 채용, 다중 모델 앙상블, 인간 복귀

5. 전망: 단기적 bias 지속, 중장기 규제/기술 발전으로개선 가능

---

본 글은 arXiv 2509.00462, AAAI/AIES 2025, PithWire 등의 연구 자료 바탕으로 작성되었습니다.

---

📚 출처

• 논문: AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights (arXiv 2509.00462)
• 연구: AAAI/AIES 2025
• 보도: PithWire — AI 채용 자기 선호 편향 발견