구글 딥마인드, AGI 안전·정렬 연구 엔지니어 채용…초지능 위험 대응

구글 딥마인드의 공식 채용 공고에 따르면 회사는 범용인공지능(AGI) 안전·정렬팀에서 연구 엔지니어를 모집하고 있다. 이 팀은 AGI와 향후 인공초지능(ASI)에서 발생할 수 있는 실존적·재앙적 위험을 줄이는 것을 목표로 연구하고, 그 결과를 구글 딥마인드와 구글 조직에 적용한다.

공고에 공개된 업무 범위는 미래형 Gemini 모델의 정렬을 강화하는 연구부터 에이전트 통제 체계 구축까지 폭넓다. 모델의 정렬 실패 원인을 찾아 수정하고, 더 일반화된 정렬 기법을 탐색하는 한편 미래 AGI 위험을 현재 환경에서 모의 실험하는 작업도 포함된다. 모델 포렌식과 평가 인식 현상을 다루기 위한 해석 가능성 연구도 진행한다.

에이전트 안전에는 다층 방어 개념이 적용된다. 팀은 잠재적으로 정렬되지 않은 내부 배포에 대비해 구글 딥마인드 에이전트를 통제하는 체계를 구축하고, 적대적 상황에서도 견딜 수 있는 AGI 통제 시스템을 실제 환경에 구현하는 역할을 맡는다. 제품팀이 연구 결과를 올바르게 도입하도록 지원하는 업무도 명시됐다.

초인적 AI를 겨냥한 장기 연구도 채용 직무에 포함됐다. 공고는 토론 방식과 같은 훈련 기법, AI 시스템을 관찰하고 평가할 수 있는 능력을 유지·개선·측정하는 방법, 모델의 불완전한 정렬을 판별하는 도구를 주요 연구 대상으로 제시했다. 해석 가능성 기법을 통해 AI 시스템의 내부 작동을 이해하는 연구도 책임 항목에 담겼다.

지원자에게는 컴퓨터과학 또는 소프트웨어공학 관련 학사 학위나 이에 준하는 실무 경험과 소프트웨어 개발·머신러닝 엔지니어링·머신러닝 연구 경력 3년 이상이 요구된다. 연구팀과 협업한 경험도 필수다. 프런티어 AI 안전·정렬 연구와 대규모 모델 훈련, 지도 미세조정 또는 인간 피드백 기반 강화학습 경험은 우대 조건이다.

근무지는 미국 샌프란시스코, 마운틴뷰, 뉴욕 가운데 선택할 수 있다. 공고에 제시된 미국 기준 연봉 범위는 17만4천~25만3천 달러이며, 목표 보너스 15%와 주식·복리후생이 별도로 제공된다. 다만 공식 공고에는 게시일과 해당 팀의 최초 조직 시점이 표시되지 않아 이번 채용을 팀 신설로 단정하기는 어렵다.

출처: Google Careers 구글 딥마인드 공식 채용 공고 https://www.google.com/about/careers/applications/jobs/results/95635593379095238