AI 시대의 미디어 표현과 윤리적 책임

어느 날 유튜브에 좋아하는 아이돌이 낯선 광고에 나와서 이상한 제품을 추천하는 영상이 뜬다면 어떨까? 실제로 이런 일이 벌어지고 있다. AI가 사람 얼굴과 목소리를 흉내 내서 진짜처럼 보이는 가짜 영상을 만드는 기술, 이른바 '딥페이크' 때문이다.

이 기술이 왜 문제가 되는지 실제 사례로 살펴보자. 2024년 1월 미국에서는 대통령 목소리를 흉내 낸 가짜 전화가 유권자들에게 걸려와 투표를 하지 말라고 속인 사건이 있었다. 사람들이 진짜 대통령의 말이라고 믿고 속아 넘어갈 뻔했다. 이처럼 AI로 만든 가짜 콘텐츠는 선거처럼 중요한 일에도 영향을 줄 수 있다.

또 다른 문제는 저작권이다. 그림을 그리거나 사진을 찍는 사람들의 작품이 AI 학습에 허락 없이 사용되는 경우가 많다. 게티이미지라는 큰 사진 회사는 자기 회사 사진 1200만 장이 허락 없이 AI 학습에 쓰였다며 소송을 걸기도 했다. 창작자 입장에서는 자기가 열심히 만든 작품이 자기도 모르게 AI의 '교과서'가 되어버린 셈이다.

그래서 여러 나라가 규칙을 만들기 시작했다. 한국은 선거일 90일 전부터는 딥페이크로 만든 선거 영상을 아예 못 올리게 법으로 막았다. 유럽연합도 AI로 만든 콘텐츠에는 반드시 표시를 하도록 하는 법을 만들었다. 사진이나 영상에 "이건 AI가 만들었다"는 도장 같은 걸 찍는 기술도 개발되고 있는데, C2PA라는 국제 표준이 대표적이다.

하지만 모든 AI 콘텐츠가 나쁜 건 아니다. 영화 특수효과나 게임 캐릭터, 언어가 다른 나라 사람과의 소통을 돕는 자막 등 유용하게 쓰이는 경우도 많다. 문제는 '누구를 속이려고' 만들었는지, '허락 없이' 남의 얼굴이나 작품을 썼는지에 있다. 그래서 AI 기술 자체보다 그것을 어떻게, 왜 쓰는지에 대한 책임감이 훨씬 중요해지고 있다. 앞으로 우리가 인터넷에서 보는 사진과 영상 중 어디까지가 진짜인지 구별하는 눈을 기르는 것도 중요한 능력이 될 것이다.

여러분이 좋아하는 만화 캐릭터가 갑자기 이상한 말을 하는 영상을 봤다고 생각해 보세요. 그런데 사실 그건 진짜가 아니라 컴퓨터가 만든 가짜 영상이었어요. 요즘 컴퓨터(AI)는 사람 얼굴이나 목소리를 흉내 내서 진짜처럼 보이는 그림과 영상을 아주 잘 만들 수 있게 됐어요. 이걸 '딥페이크'라고 불러요.

이런 기술은 마치 아주 잘 만들어진 가짜 열쇠와 같아요. 진짜 열쇠처럼 보이지만 사실은 다른 사람이 몰래 만든 거예요. 그래서 나쁜 사람이 이 기술을 쓰면 다른 사람을 속이거나 곤란하게 만들 수 있어요. 실제로 2024년에는 미국에서 대통령 목소리를 흉내 낸 가짜 전화가 사람들에게 걸려와서 큰 문제가 되기도 했어요.

그렇다고 AI 기술이 다 나쁜 건 아니에요. 영화에서 멋진 우주선을 만들거나, 다른 나라 말을 우리말로 바꿔주는 데도 AI가 큰 도움을 줘요. 마치 칼이 요리에도 쓰이고 위험한 도구도 될 수 있는 것처럼, AI도 어떻게 쓰느냐에 따라 좋은 것도 나쁜 것도 될 수 있어요.

그래서 어른들은 이런 가짜 영상을 구별할 수 있게 표시를 붙이는 방법을 만들고 있어요. 사진이나 영상에 "이건 AI가 만들었어요"라고 알려주는 작은 도장 같은 거예요. 나라마다 법도 만들고 있어요. 우리나라는 선거 때 AI로 만든 가짜 영상을 못 쓰게 법으로 정했어요.

우리가 할 수 있는 일도 있어요. 인터넷에서 신기한 영상을 보면 "이게 진짜일까?" 하고 한 번 더 생각해 보는 습관을 기르는 거예요. 출처가 이상하거나 너무 놀라운 내용이라면 어른에게 물어보는 것도 좋은 방법이에요. AI는 앞으로 우리 삶에 더 많이 등장할 텐데, 똑똑하게 사용하는 법을 배우는 게 무엇보다 중요해요.