2023년 3월, 이탈리아 데이터보호청이 챗GPT 서비스를 일시 차단했다. 이유는 단 하나, 이용자 대화 기록이 어디에 얼마나 저장되는지 회사 스스로도 명확히 설명하지 못했기 때문이다. 이 사건은 "개인정보 보호 기술"이라는 말이 더 이상 보안팀 서버실 안의 이야기가 아니라는 걸 보여준 상징적 장면이었다. 암호화 배지 하나 붙인다고 끝나는 문제가 아니라, 데이터가 만들어지는 순간부터 폐기되는 순간까지 전 과정을 설계해야 하는 공학의 영역이 됐다.
왜 이제 와서 문제가 됐나
한국은 2020년 데이터 3법(개인정보보호법·정보통신망법·신용정보법) 개정으로 가명정보라는 개념을 처음 법제화했다. 이름과 주민등록번호를 지우고 대신 임의의 식별자로 바꾸면, 원래 동의 목적을 벗어나도 통계·연구 목적으로는 활용할 수 있게 한 것이다. 문제는 가명처리가 곧 안전을 뜻하지 않는다는 데 있다. 2019년 넷플릭스가 공개했던 익명화 영화 평점 데이터셋은 IMDb 리뷰와 대조하는 것만으로 개인이 재식별됐다는 연구가 이미 2008년에 나왔었다. 이름을 지워도 시간·위치·구매 패턴 몇 개만 겹치면 사람이 다시 드러난다는 뜻이다.
차등 프라이버시, 완벽하지 않지만 현실적인 타협
애플과 구글이 2016년 무렵부터 나란히 도입한 차등 프라이버시(differential privacy)는 이 재식별 문제에 대한 대답 중 하나다. 원리는 단순하다. 통계값을 계산하기 전에 일부러 무작위 노이즈를 섞어서, 특정 개인 한 명의 데이터가 있었는지 없었는지를 결과값만 보고는 구분할 수 없게 만든다. 애플은 아이폰 키보드 자동완성 학습 데이터를 이 방식으로 수집하고, 미국 인구조사국은 2020년 센서스 통계 공개 방식을 아예 이 기법 기반으로 바꿨다. 다만 노이즈를 많이 섞을수록 통계 정확도는 떨어진다는 근본적 트레이드오프가 있어, 인구가 적은 지역 통계는 오차가 커진다는 비판이 통계학자들 사이에서 지금도 이어지고 있다.
동형암호와 연합학습, 데이터를 안 보내고 계산하기
동형암호(homomorphic encryption)는 암호화된 상태 그대로 연산이 가능한 기술이다. 즉 서버가 원본 데이터를 복호화하지 않고도 그 위에서 계산을 수행하고, 결과만 다시 사용자 쪽에서 복호화하는 구조다. 이론은 1978년부터 있었지만 완전동형암호는 2009년 IBM 연구원 크레이그 젠트리가 처음 실용 가능한 구성을 제시하면서 급물살을 탔다. 연산 속도가 평문 대비 수백~수천 배 느리다는 한계 때문에 아직 대규모 상용화는 제한적이지만, 의료 데이터처럼 민감도가 극도로 높은 영역에서 시범 적용이 늘고 있다.
연합학습(federated learning)은 반대로 데이터를 서버로 보내지 않고, 모델을 각 기기로 보내 그 자리에서 학습시킨 뒤 학습 결과(가중치)만 취합하는 방식이다. 구글이 2017년 지보드 키보드 예측에 처음 적용해 알려졌다. 개인 데이터가 기기 밖으로 안 나간다는 장점이 있지만, 학습 결과 자체에서 원본을 역추론하는 공격(모델 역전 공격)이 가능하다는 연구도 2020년 이후 계속 발표되고 있어 완벽한 해법은 아니다.
남은 논쟁
이 모든 기술의 공통된 딜레마는 프라이버시와 유용성이 항상 맞바꿔지는 관계에 있다는 점이다. 보호 수준을 높일수록 데이터의 통계적 가치는 떨어지고, 반대의 경우도 성립한다. 유럽연합 GDPR과 한국 개인정보보호법 모두 "가명정보"에 대해 별도 규정을 두면서 이 균형점을 법으로 정의하려 시도했지만, 재식별 위험을 어느 정도까지 감수할지에 대한 합의는 여전히 국가·산업별로 다르다. 결국 기술은 도구일 뿐이고, 어느 만큼의 위험을 사회가 받아들일지는 계속 논쟁거리로 남아 있다.
2023년에 이탈리아 정부가 챗GPT 사용을 일시적으로 막은 적이 있다. 이유는 사람들 대화 기록이 어떻게 저장되고 관리되는지 회사도 제대로 설명 못 했기 때문이다. 이 사건 하나로 "개인정보 보호 기술"이 그냥 어려운 IT 용어가 아니라 우리 일상과 직결된 문제라는 게 드러났다.
이름만 지운다고 안전한 게 아니다
많은 사람이 "이름이랑 주민번호만 가리면 안전하겠지"라고 생각하지만 실제론 그렇지 않다. 2008년 한 연구팀은 넷플릭스가 공개한 '익명' 영화 평점 데이터를 다른 사이트 리뷰와 비교하는 것만으로 실제 사용자를 찾아냈다. 이름을 지워도 좋아하는 영화 몇 개, 평점 준 날짜 같은 패턴만 겹치면 사람은 다시 드러난다. 그래서 요즘 기술은 데이터를 "지우는" 것보다 "계산 자체를 다르게 하는" 방향으로 발전하고 있다.
일부러 오차를 섞는 기술, 차등 프라이버시
애플과 구글은 2016년부터 차등 프라이버시라는 기법을 쓰고 있다. 통계를 뽑을 때 일부러 약간의 무작위 잡음을 섞어서, 결과만 봐서는 특정 한 사람의 정보가 들어갔는지 아닌지 알 수 없게 만드는 방식이다. 아이폰 키보드가 어떤 단어를 자주 쓰는지 학습할 때도 이 방식을 쓴다. 개인이 콕 집혀 드러나지 않으면서도 전체 트렌드는 파악할 수 있다는 게 핵심이다.
데이터를 안 보내고 학습시키는 방법
구글은 2017년부터 연합학습이라는 방식도 쓰기 시작했다. 보통은 내 데이터를 서버로 보내서 학습을 시키지만, 연합학습은 반대로 학습 프로그램을 내 스마트폰으로 보내서 내 기기 안에서만 학습시키고, 그 결과 요약본만 서버로 보낸다. 원본 데이터는 한 번도 기기 밖으로 나가지 않는 셈이다. 다만 이 요약본만으로도 원래 정보를 어느 정도 역으로 추측할 수 있다는 연구 결과가 2020년 이후 여러 번 나와서, 완벽한 해법은 아직 아니다.
왜 이게 중요한가
우리가 쓰는 앱, 게임, SNS는 대부분 개인 데이터로 서비스를 굴린다. 그 데이터가 잘못 유출되거나 팔리면 스팸·사기·차별로 이어질 수 있다. 그래서 이런 기술들은 단순히 "귀찮은 규제"가 아니라, 우리가 편리함과 안전 사이에서 어떤 균형을 원하는지를 정하는 문제다. 완벽하게 안전한 기술은 아직 없고, 보호를 강하게 할수록 서비스 정확도가 떨어지는 트레이드오프가 항상 따라온다는 걸 알아두면 뉴스를 이해하기 훨씬 쉬워진다.
여러분이 친구한테 일기장을 보여줄 때, 이름은 지우고 보여줘도 친구가 "어, 이거 너 얘기잖아!" 하고 알아챌 때가 있어요. 좋아하는 색깔, 다니는 학교, 키우는 강아지 이름까지 몇 개만 겹치면 누군지 다 알 수 있거든요. 개인정보도 똑같아요. 이름만 지운다고 완전히 숨겨지는 게 아니랍니다.
비밀을 지키는 똑똑한 방법들
그래서 컴퓨터 회사들은 더 똑똑한 방법을 만들었어요. 하나는 "일부러 살짝 틀리게 말하기"예요. 예를 들어 반 친구들한테 "용돈이 얼마야?"라고 물어볼 때, 각자 진짜 금액에 1000원을 더하거나 뺀 다음 답하게 하는 거예요. 한 사람 한 사람의 정확한 답은 몰라도, 반 전체 평균은 거의 정확하게 알 수 있어요. 애플이나 구글 같은 회사가 아이폰에서 실제로 이런 방법을 써요.
내 정보는 내 방에, 결과만 보내기
또 다른 방법은 "숙제는 각자 집에서 하고 답만 제출하기"랑 비슷해요. 원래는 모든 사람 데이터를 커다란 창고(서버)로 몽땅 보내서 컴퓨터가 학습을 했는데, 요즘은 반대로 학습 프로그램을 각자 스마트폰으로 보내요. 그러면 내 스마트폰 안에서만 학습이 일어나고, 원본 정보는 절대 밖으로 안 나가고, 배운 결과만 살짝 요약해서 보내는 거죠. 구글이 스마트폰 키보드가 다음 단어를 잘 맞추도록 학습시킬 때 이 방법을 써요.
완벽하진 않아요
하지만 이런 방법들도 100% 완벽하진 않아요. 아주 똑똑한 사람이 요약된 결과만 보고도 원래 정보를 조금씩 추측해낼 수 있다는 걸 알아냈거든요. 그래서 과학자들은 지금도 "정보는 최대한 지키면서, 편리한 서비스도 계속 쓸 수 있는" 더 좋은 방법을 열심히 연구하고 있답니다. 우리가 게임 앱이나 SNS를 쓸 때마다 이런 보이지 않는 기술들이 우리를 지켜주려고 애쓰고 있는 거예요.
문서 정보
최초 작성
최종 갱신
분류
기술
HANGUL.WIKI가 정리·작성한 문서입니다. 정확성을 위해 노력하나 오류가 있을 수 있으므로, 중요한 내용은 공식 출처를 통해 확인하시기 바랍니다.
내용의 오류나 정정 요청은 오류·정정 신고로 알려주시면 검토 후 반영합니다.