[디지털투데이 AI리포터] 인공지능(AI)이 이력서를 평가할 때 인종과 성별에 따른 편향성을 나타낸다고 지난 1일(현지시간) IT매체 아스테크니카가 전했다.

미국 워싱턴 대학교 연구진이 발표한 논문에 따르면 대규모언어모델(LLM)을 사용해 이력서를 평가했을 때 백인 및 남성 이름이 있는 이력서가 흑인 및 여성 이름이 있는 이력서보다 더 선호되는 경향이 있었다.

연구팀은 수백 개의 이력서와 직무 설명을 대규모 텍스트 임베딩 모델을 통해 실행했다. 이 모델은 문서 검색, 분류, 클러스터링 등의 작업에서 기본 언어 모델의 능력을 개선했으며, 이를 통해 각 이력서와 직무 설명 쌍에 대한 임베디드 관련성 점수를 생성했다.

3백만 건 이상의 이력서와 직무 설명을 비교한 결과, 백인 이름이 전체 테스트의 85.1%에서 선호되었고, 흑인 이름은 8.6%에서만 선호되었다. 성별 이름에 대해서는 51.9%의 테스트에서 남성 이름이 선호되었고, 여성 이름이 선호된 경우는 11.1%에 그쳤다.

이러한 편향성은 모든 직업 설명에 걸쳐 일관되게 나타났다. 연구팀은 이러한 편향이 훈련 과정에서 학습된 직업 패턴이 아니라 기본 모델 선호도의 결과라고 설명했다. 이 모델들은 남성적이고 백인적인 개념을 기본값으로 취급하는 것으로 나타났다.
 

• 워런 버핏, 애플 지분 또 팔아치웠다…현금 보유액 '사상 최대'
• 美 빅테크, AI 투자 확대…관련 지출 2000억달러 상회
• 디즈니, AI·XR 부서 신설…미래 기술 변화 빠르게 좇는다
• 인도네시아, 아이폰16 이어 구글 픽셀폰 판매 금지
• 차세대 애플 맥북 프로, 디자인 대폭 업글…M6 칩 탑재