인공지능 윤리와 기술 산업의 책임성

인공지능 윤리와 기술 산업의 책임성

2016년 마이크로소프트가 트위터에 공개한 챗봇 '테이(Tay)'는 서비스 개시 16시간 만에 인종차별·혐오 발언을 쏟아내다 강제 종료됐다. 당시 MS는 "악의적 이용자들이 학습시켰다"고 해명했지만, 그 해명이 오히려 핵심 질문을 드러냈다. 예측 가능한 위험을 막을 설계 책임은 누구에게 있는가?

책임의 공백이 생기는 구조

AI 시스템은 설계자, 훈련 데이터 제공자, 모델 개발사, 서비스 배포자, 최종 이용자 등 다층 행위자로 이루어진다. 문제가 터지면 각 층위는 서로에게 책임을 떠넘기기 쉽다. 2018년 우버 자율주행차가 애리조나주에서 보행자를 치어 사망케 했을 때, 법적 책임은 차량 운용사·소프트웨어 개발팀·안전 모니터 요원 사이에서 3년 넘게 분산됐다. 피해자는 있는데 명확한 '가해자'는 없는 구조가 AI 윤리 논의의 출발점이다.

편향(Bias)은 중립의 탈을 쓴다

2019년 미국 의료 시스템에서 널리 쓰이던 알고리즘이 흑인 환자에게 백인 환자보다 의료 지원을 덜 배정한다는 사실이 《사이언스》에 폭로됐다. 알고리즘은 '의료비 지출 이력'을 건강 위험 지표로 사용했는데, 흑인 환자군이 역사적으로 의료 접근성이 낮았다는 현실이 고스란히 학습 데이터에 반영됐다. 숫자는 중립적으로 보이지만, 사회 불평등을 학습한 모델은 그 불평등을 재생산한다.

채용 AI 사례도 있다. 아마존이 2014~2018년 내부적으로 개발한 채용 스크리닝 알고리즘은 기술직 이력서에서 여성 관련 표현(예: '여성 체스 클럽 회장')을 감점 처리했다. 과거 합격자 데이터에 남성이 압도적으로 많았기 때문이다. 아마존은 시스템을 폐기했지만, 이 사건은 AI가 인사 결정에 개입할 때 무엇이 위험한지를 공론화했다.

규제의 속도와 기술의 속도

유럽연합은 2024년 3월 세계 최초의 포괄적 AI 규제법인 'AI법(AI Act)'을 통과시켰다. 위험도에 따라 AI를 4단계(허용 불가·고위험·제한적 위험·최소 위험)로 분류하고, 고위험 AI에는 투명성 보고서 제출·사후 감사 의무를 부과한다. 위반 시 글로벌 매출의 최대 7%를 과징금으로 부과할 수 있다.

반면 미국은 연방 차원의 통합 AI법이 없다. 오바마 행정부의 'AI 미래 준비 보고서(2016)', 트럼프 행정부의 'AI 행정명령(2019)', 바이든의 'AI 안전·보안·신뢰 행정명령(2023)' 등이 이어졌지만 구속력 있는 법률로 이어지지 않았다. 한국은 2024년 'AI 기본법'이 국회를 통과했으나 세부 시행령 확정이 지연되고 있다.

'책임 있는 AI'의 실제 의미

기업들은 앞다퉈 'Responsible AI' 원칙을 발표한다. 구글은 AI 원칙 7가지를, 마이크로소프트는 책임 있는 AI 6원칙을 공개했다. 그런데 원칙 자체는 법적 구속력이 없다. 구글은 2018년 미 국방부 드론 영상 분석 프로젝트 '메이번(Maven)'에서 직원 수천 명의 내부 반발로 계약을 갱신하지 않았지만, 2022년에는 클라우드 사업 맥락에서 군사 AI 개발을 재개했다. 자율 선언이 이해관계에 따라 얼마나 쉽게 흔들리는지를 보여주는 사례다.

노동자와 창작자의 권리 문제

생성형 AI의 급부상은 두 개의 분리된 저항을 촉발했다. 2023년 헐리우드 작가조합(WGA)과 배우조합(SAG-AFTRA)이 동시 파업에 나선 핵심 쟁점 중 하나는 AI가 각본·연기 데이터를 무단 학습하거나 AI 복제본이 배우를 대체하는 문제였다. 같은 해 미술가들은 스태빌리티 AI, 미드저니 등을 대상으로 저작권 소송을 제기했다. "AI가 내 그림체를 학습해 나와 경쟁하는 그림을 파는 것이 공정 이용인가"라는 질문은 아직 법원에서 명확한 답을 내리지 못했다.

앞으로의 과제

윤리 연구자들은 기술 기업의 자율 규제만으로는 한계가 있다고 지적한다. 알고리즘 감사의 독립성 확보, 피해자 구제 절차 법제화, AI 개발에 사회적 다양성 반영 등이 과제로 꼽힌다. 동시에 과도한 규제가 혁신을 억누를 수 있다는 반론도 존재한다. 결국 이 논쟁의 핵심은 기술이 아니라 권력이다. AI가 누구의 이익을 위해, 누구의 감시 아래 개발되고 운용되는가.