리눅스 커널, Intel Xe 드라이버 VRAM 계산 오류 수정…Linus “AI가 디버깅 보조”

Linux 커널 GitHub 저장소의 Linus Torvalds 커밋에 따르면, 커널은 Intel Xe 그래픽 드라이버가 압축 메타데이터 저장 영역을 사용 가능한 VRAM으로 잘못 넘길 수 있던 계산 오류를 수정했다. Torvalds는 해당 커밋 메시지에서 수차례의 부팅과 디버그 패치를 거친 조사 과정에 AI가 디버그 코드 추가와 분석을 보조했다고 적었다.

문제는 flat CCS(Color Control Surface) 저장 영역의 시작 오프셋을 128KiB 단위로 올림 처리한 데서 비롯됐다. 이 값 아래의 메모리를 VRAM 할당기에 넘기는 구조에서 올림 처리하면 압축 하드웨어가 쓰는 일부 저장 공간이 빈 메모리로 공개될 수 있다는 설명이다.

Torvalds는 Battlemage G21, 16GiB 환경에서 이 영역에 Mesa 가상 메모리의 페이지 테이블이 놓였고, 콜드 부팅 뒤 컴포지터의 첫 제출이 실패해 GDM이 반복 재시작되는 검은 화면 현상이 나타났다고 기록했다. 수정은 오프셋을 할당기 페이지 크기인 4KiB 기준으로 내림 처리하고, CCS 저장 영역이 GSM과 겹치지 않는지 검사하도록 바꿨다.

커밋 자체는 round_up을 round_down으로 바꾸는 작은 수정이지만, 원인 규명에는 24개의 디버그 패치와 18회의 커널 부팅이 필요했다고 Torvalds는 밝혔다. 그는 AI가 여러 차례 해결 불가능하다고 판단하기도 했지만, 계속된 지시에 따라 디버그 코드와 분석을 충실히 수행했으며 커밋 메시지 초안도 작성했다고 덧붙였다.

이번 사례는 AI가 커널 유지보수의 판단을 대신했다기보다, 반복적인 계측과 로그 분석을 보조하는 도구로 쓰인 과정을 보여준다. 하드웨어·드라이버 경계의 결함처럼 재현과 검증이 까다로운 문제에서는 최종 원인 판단과 수정 검토가 여전히 개발자에게 남는다는 점도 커밋 기록에서 확인된다.

출처: Linux 커널 GitHub 저장소, https://github.com/torvalds/linux/commit/818bebeb63dd6bf5f4e07e145f6cdbace520a34c