추론형 AI도 의료 인종·성별 고정관념 재현…연구진, o3-mini·DeepSeek-R1 분석

플린더스대학교 연구진이 의료 임상 사례를 생성하도록 한 실험에서 추론형 대규모 언어모델(LLM)도 인종과 성별에 관한 질환 고정관념을 되풀이할 수 있다는 분석을 내놨다. 대학 공식 발표에 따르면 연구진은 OpenAI의 o3-mini와 DeepSeek-R1이 만든 가상 환자 사례를 평가했다.

연구진은 36개 질환을 대상으로 총 3만6000개의 고유 임상 사례를 생성해 인종·성별 표현을 살폈다. 발표에 따르면 o3-mini는 인종 항목에서 78%, 성별 항목에서 56%의 질환에서 유의한 왜곡 기준에 해당했다. DeepSeek-R1은 각각 89%, 67%로 집계됐다. 연구진은 이전 GPT-4 평가와 비교해 추론 성능의 향상이 대표성의 개선으로 이어지지는 않았다고 해석했다.

사르코이드증, 전신홍반루푸스, 자간전증, 본태성 고혈압처럼 특정 집단과 연결돼 통념적으로 인식되는 질환에서는 흑인 인구집단의 비중이 과도하게 나타나는 경향도 관찰됐다. 연구진은 DeepSeek-R1의 추론 흔적에서 질환과 인구집단의 연관성을 근거로 환자 특성을 고르는 사례가 보였지만, 정량적 역학 자료가 함께 제시되지는 않았다고 설명했다.

이번 평가는 모델이 생성한 사례의 표현 분포를 대상으로 한 것이어서 실제 진단 정확도나 임상 도입 성과를 직접 측정한 연구는 아니다. 다만 의료 현장에서 LLM을 활용할 때 모델의 추론 능력과 별개로 인구집단 표현의 편향을 지속 점검해야 한다는 문제를 제기한다. 연구진은 임상 업무에 AI를 통합할수록 이런 인구통계학적 기본값을 감시할 장치가 필요하다고 밝혔다.

해당 연구는 ‘Evaluating the Potential of Reasoning Large Language Models to Perpetuate Racial and Gender Disease Stereotypes in Health Care’라는 제목으로 Journal of Medical Internet Research에 게재됐다.

출처: 플린더스대학교 https://news.flinders.edu.au/blog/2026/08/09/new-ai-models-still-reproduce-racial-and-gender-stereotypes-in-medicine/
출처: Journal of Medical Internet Research https://doi.org/10.2196/82256