나델라, 기업 AI의 ‘역정보 역설’ 제기…학습 루프 통제권 강조

Microsoft 공식 임원 페이지와 사티아 나델라의 원문에 따르면 나델라 CEO는 2026년 7월 12일 기업의 AI 활용에서 ‘역정보 역설(Reverse Information Paradox)’이 나타난다고 주장했다. 기업이 외부 AI를 유용하게 만들기 위해 비용을 내는 동시에 문서, 업무 맥락, 프롬프트, 평가와 수정 피드백 같은 고유 지식까지 제공하게 된다는 문제의식이다.

나델라는 경제학자 케네스 애로의 ‘정보 역설’을 반대로 뒤집었다. 전통적인 정보 거래에서는 구매자가 가치를 확인하려면 판매자가 정보를 먼저 공개해야 하는 문제가 있다. 반면 AI 시대에는 구매자가 모델을 제대로 활용하려면 자신이 가진 지식을 모델 제공자에게 드러내야 한다는 설명이다.

그는 이 문제가 일반적인 데이터 보호만으로 해결되기 어렵다고 봤다. 모델이 학습할 수 있는 대상은 원문 데이터뿐 아니라 사용자가 작성한 프롬프트, 에이전트가 호출한 도구, 잘못된 답을 바로잡은 피드백, 평가 결과와 실행 흔적까지 포함할 수 있기 때문이다. 이런 기록은 조직이 무엇을 중요하게 보고 어떤 결과를 성공으로 판단하는지를 담은 운영 지식에 가깝다.

나델라는 기업이 AI를 사용하는 과정에서 만들어진 학습의 결과도 해당 기업의 자산으로 축적돼야 한다고 주장했다. 데이터와 실행 흔적, 평가, 적응된 가중치, 메모리가 하나의 신뢰 경계 안에서 함께 개선되고, 조직의 동의 없이 그 경계를 넘어가지 않는 구조가 필요하다는 것이다. 기업이 모델 출력물을 자체 모델의 미세조정이나 학습에 활용할 권리도 요구하게 될 것으로 내다봤다.

이를 위한 원칙으로는 통제(Control), 역량(Capability), 선택(Choice), 비용(Cost), 축적(Compound)을 제시했다. 기업이 자체 평가 기준과 기억, 피드백을 소유하고 실제 업무 흐름을 반영한 학습 환경을 내부에 구축해야 한다는 내용이다. 특정 모델이 중단돼도 업무를 이어갈 수 있도록 오케스트레이션 계층을 단일 공급자와 분리하는 방안도 포함됐다.

이 제언은 기업의 AI 거버넌스 논의가 입력 데이터의 보관 위치를 넘어 학습 과정의 통제권으로 이동하고 있음을 보여준다. 외부 모델을 교체 가능한 자원으로 쓰더라도 평가 기준, 업무 기억, 실행 기록이 한 공급자에 종속되면 조직이 축적한 개선 효과까지 함께 잃을 수 있다는 지적이다.

다만 이번 글은 Microsoft의 새로운 제품이나 계약 정책을 발표한 문서가 아니라 나델라 개인의 전략적 제언이다. 기업별 학습 인프라와 모델 출력 활용권이 Microsoft의 제품 설계와 고객 약관에 어떻게 반영될지는 후속 발표를 지켜봐야 한다.

출처: Satya Nadella https://snscratchpad.com/posts/reverse-information-paradox/ · Microsoft Source https://news.microsoft.com/source/exec/satya-nadella/ · LinkedIn https://www.linkedin.com/feed/update/urn:li:activity:7482090659898630144/