EFF, 캘리포니아 AI 감독 강화 지지…정부 통제 킬 스위치엔 우려

전자프런티어재단(EFF)이 캘리포니아의 인공지능(AI) 감독 강화에 지지를 표하면서도 정부가 통제하는 ‘킬 스위치’에는 신중한 접근을 주문했다. EFF 공식 성명은 AI 통제 상실 사고의 보고 확대와 제3자 조사를 지지하되, 비상 정지 장치의 실효성과 시민의 권리를 함께 검토해야 한다고 밝혔다.

캘리포니아 주지사실은 18일(현지시간) 개빈 뉴섬 주지사가 AI 안전·보안에 대한 독립 감독을 강화하는 행정명령을 내렸다고 발표했다. 주정부 운영청은 독립 검증기관 체계를 다루는 SB 813과 AI 감사인 등록을 다루는 AB 1405의 이행을 앞당기고, 전문가들과 두 달 안에 관련 법을 강화할 방안을 마련하게 된다.

검토 대상에는 첨단 AI 기업의 연구소에 독립 검증기관을 상주시켜 정기적으로 감사·평가하는 방안, 안전 체계와 투명성 보고서·위험 평가를 독립적으로 검증하는 방안이 포함된다. 모델의 긴급 정지 장치를 마련하고 그 효능을 지속적으로 검증하는 방안도 논의한다. 이번 발표를 모든 첨단 모델에 킬 스위치 설치 의무가 즉시 생긴 것으로 해석해서는 안 된다.

EFF는 기존 SB 53에 따른 보고 요건을 통제 상실 사고로 넓히고 제3자 조사를 도입하는 방향을 지지했다. 다만 소규모 개발자들도 이러한 조사를 이용할 수 있도록 제도를 설계해야 한다고 강조했다.

비상 정지 장치에 대해서는 한계를 짚었다. EFF는 고도화된 AI 시스템에서 킬 스위치의 효과가 여전히 연구 중인 사안이라고 설명했다. 정부가 통제하는 장치가 보호받아야 할 표현을 겨냥한 보복 수단으로 쓰일 위험도 경고했다. 이는 EFF의 정책적 우려로, 이번 행정명령이 그러한 권한을 확정했다는 의미는 아니다.

EFF는 규제 논의가 미래의 통제 불능 AI에만 집중해서는 안 된다고 주장했다. 고용과 공공 급여의 편향된 자동 의사결정, AI 감시, 개인정보를 활용한 가격 책정처럼 이미 발생하는 문제를 함께 다뤄야 한다는 것이다. 독립적인 안전 검증을 강화하면서도 실제 피해를 줄이고 시민의 권리를 보호할 수 있는지가 후속 정책의 쟁점이다.

출처: EFF 공식 성명 https://www.eff.org/deeplinks/2026/09/eff-statement-california-governors-executive-order-ai · 캘리포니아 주지사실 공식 발표 https://www.gov.ca.gov/2026/09/18/governor-newsom-issues-executive-order-to-accelerate-independent-oversight-and-advance-the-creation-of-an-ai-kill-switch/