온디바이스 AI와 프라이버시 보호

온디바이스 AI와 프라이버시 보호

스마트폰이 당신의 얼굴을 인식하고, 목소리를 듣고, 하루 일과를 기억하는 동안 — 그 데이터가 어디로 가는지 아는 사람은 많지 않다. 2023년 삼성 직원들이 ChatGPT에 반도체 설계 기밀을 입력해 유출 사고를 낸 직후, 삼성전자는 생성형 AI 외부 서비스 사용을 전면 금지했다. 이 사건은 AI 시대의 프라이버시 문제를 한 줄로 압축한다. 데이터는 클라우드로 올라가는 순간 통제권을 잃는다.

클라우드 AI의 구조적 취약성

기존 AI 서비스의 작동 방식은 단순하다. 사용자의 음성, 사진, 텍스트가 인터넷을 통해 회사 서버로 전송되고, 서버에서 처리된 결과가 다시 돌아온다. 편리하지만 데이터가 이동하는 경로마다 위험이 존재한다. 전송 중 도청, 서버 해킹, 내부자 유출, 그리고 법적 강제수사까지. 2022년 메타가 GDPR 위반으로 유럽에서 부과받은 과징금은 4억 700만 유로였다. 2023년 이탈리아는 ChatGPT를 일시 차단했고, 그 이유는 개인정보 처리 방침의 불투명성이었다.

온디바이스 AI란 무엇인가

온디바이스 AI(On-device AI)는 추론 연산을 외부 서버가 아닌 기기 자체에서 수행하는 구조다. 스마트폰의 AP(애플리케이션 프로세서) 안에 내장된 NPU(신경망 처리장치)가 핵심 하드웨어다. 애플 A17 Pro 칩에는 초당 35조 회 연산이 가능한 16코어 NPU가 탑재됐고, 퀄컴 스냅드래곤 8 Gen 3는 온디바이스 LLM 추론을 공식 지원한다. 삼성 갤럭시 S24 시리즈부터 적용된 '갤럭시 AI'의 통화 녹음 요약, 실시간 번역 기능 일부가 이 방식으로 동작한다.

데이터가 기기 밖으로 나가지 않으면 원천적으로 서버 유출이 불가능하다. 애플은 2023년 WWDC에서 발표한 Private Cloud Compute를 설명하며 "서버 측 처리를 하더라도 애플 직원조차 내용을 볼 수 없는 구조"를 강조했지만, 온디바이스 완전 처리와는 다르다. 완전한 온디바이스 처리만이 "데이터가 기기를 떠나지 않는다"는 보장을 줄 수 있다.

기술적 한계와 현실

온디바이스 AI에는 명확한 제약이 있다. 대형 언어모델(LLM)을 스마트폰에서 돌리려면 모델 크기를 극도로 압축해야 한다. 구글의 Gemini Nano는 1.8B 파라미터 수준으로, 클라우드의 Gemini Ultra(수천억 파라미터 추정)와 성능 차이가 크다. 메모리 제약도 있다. 현재 온디바이스로 실용적인 LLM을 돌리려면 최소 6~8GB RAM이 필요하고, 배터리 소모도 클라우드 대비 상당히 높다.

2024년 기준 온디바이스에서 실용적으로 구동 가능한 모델은 Phi-3 Mini(3.8B), Gemma 2B, Llama 3.2(3B) 정도다. 메타는 2024년 Llama 3.2를 공개하며 스마트폰 온디바이스 최적화를 명시적으로 지원했고, 마이크로소프트의 Phi-3는 경량 모델로 성능 대비 크기 효율을 높이는 방향으로 연구가 집중되고 있다.

프라이버시 규제와 온디바이스의 교차점

EU의 AI Act(2024년 발효)와 개정 GDPR은 개인정보 처리 최소화 원칙을 강화하고 있다. 온디바이스 AI는 '데이터 현지화' 원칙을 기술적으로 실현하는 가장 강력한 수단이다. 의료 분야에서 특히 주목받는 이유가 여기 있다. 환자 음성·영상 데이터를 병원 서버 밖으로 내보내지 않고 현장 기기에서 진단 보조 AI를 돌리는 방식이 연구되고 있으며, FDA도 2023년부터 온디바이스 의료 AI에 대한 별도 가이드라인 초안을 작성 중이다.

한국에서는 개인정보보호법 2023년 개정으로 민감정보 처리 요건이 강화됐다. 금융·의료·법률 분야 AI 서비스 사업자들이 온디바이스 처리를 검토하는 배경이다.

논쟁: 온디바이스가 만능 해결책인가

회의론도 만만치 않다. 기기 자체가 해킹되면 온디바이스 데이터도 털린다. 2023년 애플 iOS 제로데이 취약점을 이용한 Pegasus 스파이웨어 공격 사례처럼, 기기 보안이 뚫리면 로컬 데이터도 안전하지 않다. 또한 온디바이스 모델 자체가 제조사 서버에서 업데이트될 때 어떤 데이터가 함께 전송되는지 사용자가 검증하기 어렵다. "프라이버시 바이 디자인(Privacy by Design)"의 진정한 구현인지, 마케팅 문구인지를 구분하는 기준이 아직 명확하지 않다는 비판이 학계에서 나온다.

결국 온디바이스 AI는 프라이버시 문제의 완결이 아니라, 위협 표면(attack surface)을 줄이는 하나의 강력한 수단이다. 클라우드 전송 자체를 없애는 것만으로도 상당수의 위험을 구조적으로 차단할 수 있다는 점에서, 기술적 방향성으로서의 가치는 분명하다.