AI가 내린 결정에 대한 법적 책임은 누가 져야 하는가?

AI가 내린 결정에 대한 법적 책임은 누가 져야 하는가?

"자율주행차가 갑자기 나타난 보행자를 피하지 못하고 사고를 냈다면, 운전석에 아무도 없었는데 누구의 잘못일까요?", "AI 의사가 암을 발견하지 못하는 오진을 내렸다면, 환자는 병원에 책임을 물어야 할까요, 아니면 AI를 만든 회사에 물어야 할까요?" 인공지능(AI)이 우리 삶 깊숙이 들어오면서, 우리는 이전에는 상상하지 못했던 새로운 질문들과 마주하고 있습니다. AI는 편리함을 주지만, 때로는 실수하거나 예측 불가능한 결과를 낳기도 합니다. 이처럼 AI가 내린 결정으로 인해 피해가 발생했을 때, 그 법적 책임은 과연 누가 져야 하는지에 대한 고민은 이제 우리 모두의 숙제가 되었습니다.

AI는 어떻게 실수를 할까요? - 구체적인 사례들

1. 자율주행차의 피할 수 없는 사고

가장 대표적인 사례는 자율주행차 사고입니다. 실제로 한 자율주행 테스트 차량이 야간에 무단 횡단하던 보행자를 인지하지 못하고 충돌하여 사망 사고를 낸 일이 있었습니다. AI는 수많은 데이터를 학습해 운전하지만, 세상의 모든 돌발 상황을 100% 완벽하게 예측하고 대처하기는 어렵습니다. 특히 갑자기 튀어나온 보행자와 충돌할 것인지, 아니면 핸들을 꺾어 운전자를 다치게 할 것인지를 선택해야 하는 ‘트롤리 딜레마’ 같은 윤리적 문제까지 겹치면 책임 소재는 더욱 복잡해집니다.

2. AI 면접관의 편향된 평가

한 유명 글로벌 기업에서는 채용 과정에 AI를 도입했다가 큰 곤욕을 치렀습니다. AI가 과거에 입사했던 직원들의 데이터를 학습했는데, 공교롭게도 과거에는 남성 직원 비율이 압도적으로 높았습니다. 그 결과 AI는 '남성'을 더 유능한 인재로 판단하는 편견을 갖게 되었고, 여성 지원자에게는 낮은 점수를 주는 경향을 보였습니다. 이는 AI가 의도를 가지고 차별한 것이 아니라, 편향된 데이터를 그대로 학습한 결과입니다. 마치 좋은 것과 나쁜 것을 구분하지 못하고 어른의 말을 따라 하는 아이와 같습니다.

3. 의료 AI의 오진 문제

의료 분야에서도 AI의 실수는 치명적인 결과를 낳을 수 있습니다. 예를 들어, 피부암을 진단하는 AI를 개발하기 위해 수만 장의 사진 데이터를 학습시켰다고 가정해 봅시다. 만약 이 데이터의 대부분이 밝은 피부를 가진 사람들의 사진이었다면, AI는 어두운 피부를 가진 사람의 피부암을 정확하게 진단하는 데 어려움을 겪을 수 있습니다. 이처럼 데이터의 불균형은 특정 집단에게 불리한 결과를 초래하는 심각한 오진으로 이어질 수 있으며, 이는 생명과 직결된 문제입니다.

책임의 후보, 누가 거론되고 있을까요?

1. AI 개발자: 설계도를 그린 사람

가장 먼저 AI를 설계하고 코드를 작성한 개발자에게 책임을 물을 수 있습니다. AI의 기본적인 행동 방식과 학습 알고리즘을 만든 사람이기 때문입니다. 하지만 개발자는 AI가 마주할 수십억 가지의 모든 상황을 예측하고 대비할 수는 없습니다. 마치 건축가가 튼튼한 집을 지었지만, 입주자가 집 안에서 미끄러져 다친 것까지 책임지기 어려운 것과 비슷한 이치입니다. 개발자의 예측 범위를 벗어난 문제에 대해 어디까지 책임을 물을 수 있을지는 여전히 논쟁거리입니다.

2. AI 사용자: 버튼을 누른 사람

다음으로는 AI를 직접 사용한 사람이나 기업입니다. 의사가 의료 AI의 진단 결과를 그대로 믿고 환자에게 처방했거나, 운전자가 자율주행 기능을 켠 채 운행했다면 최종 결정의 책임은 사용자에게 있다는 주장입니다. 하지만 대부분의 사용자는 AI가 어떤 원리로 작동하는지 전혀 알지 못합니다. 마치 우리가 스마트폰 내부의 복잡한 회로를 모르고 사용하는 것처럼, AI의 ‘블랙박스’ 내부를 이해하지 못하는 사용자에게 모든 책임을 지우는 것은 불공평할 수 있습니다.

3. AI 제조사: 제품을 만들어 판 회사

AI를 제품으로 만들어 판매한 회사에 책임을 묻는 방법도 있습니다. 일반적인 공산품처럼, 제품에 결함이 있어 소비자에게 피해를 주었다면 제조사가 책임을 지는 ‘제조물 책임법’을 적용하자는 것입니다. 이는 가장 현실적인 대안 중 하나로 꼽힙니다. 하지만 AI는 스스로 학습하며 계속 변화하는 특성이 있습니다. 처음 판매될 때는 문제가 없었지만, 나중에 이상한 데이터를 학습해 문제를 일으켰다면 이 또한 제조사의 책임으로 볼 수 있을지 애매한 부분이 남습니다.

4. AI 그 자체: 인공지능을 법적 주체로?

아주 먼 미래의 이야기처럼 들릴 수 있지만, AI 자체에 법적인 책임을 지우자는 주장도 있습니다. 마치 법적으로 사람처럼 권리와 의무를 가지는 ‘법인(회사)’처럼, AI에게도 ‘전자적 인격’을 부여하자는 아이디어입니다. 하지만 AI는 재산이 없고, 감옥에 가둘 수도 없으며, 벌금을 낼 능력도 없습니다. 어떻게 처벌하고 피해를 보상하게 할 것인지 현실적인 방법이 없기 때문에, 아직은 법적인 주체로 인정하기 어려운 상황입니다.

법적 책임, 어떻게 해결해가고 있을까요?

1. ‘블랙박스’ 문제를 해결하려는 노력

AI의 판단 과정을 알 수 없는 ‘블랙박스’ 문제를 해결하기 위한 기술이 활발히 연구되고 있습니다. 바로 ‘설명가능 AI(XAI, Explainable AI)’입니다. 이는 AI가 왜 그런 결정을 내렸는지 그 이유와 과정을 사람이 이해할 수 있도록 설명해주는 기술입니다. 만약 AI가 특정 환자에게 암 진단을 내렸다면, 어떤 영상 데이터의 어느 부분을 근거로 판단했는지 알려주는 식입니다. 이렇게 되면 문제의 원인을 파악하고 책임 소재를 가리기가 한결 수월해질 것입니다.

2. 보험 제도의 변화

새로운 기술의 등장은 새로운 사회적 안전망을 요구합니다. 이에 따라 보험 업계도 발 빠르게 움직이고 있습니다. 예를 들어, 자율주행차 사고에 대비해 운전자뿐만 아니라 자동차 제조사나 AI 소프트웨어 개발사가 함께 가입하는 형태의 새로운 보험 상품이 개발되고 있습니다. 사고가 발생했을 때, 복잡한 법적 다툼을 벌이기 전에 보험을 통해 피해자에게 우선적으로 보상함으로써 사회적 비용을 줄이는 현실적인 해결책이 될 수 있습니다.

3. 새로운 법률의 등장

전 세계 각국 정부와 국제기구들도 AI 시대에 맞는 새로운 법과 규제를 만들기 위해 노력하고 있습니다. 특히 유럽연합(EU)은 세계 최초로 포괄적인 ‘AI 법(AI Act)’을 추진하며 AI의 위험 등급을 나누고, 고위험 AI에 대해서는 개발과 운영에 엄격한 의무를 부과하고 있습니다. 이처럼 책임 소재를 명확히 하고, AI 개발 단계부터 안전과 윤리를 고려하도록 법적 장치를 마련하려는 움직임은 더욱 활발해질 것입니다.

결론

AI가 내린 결정에 대한 법적 책임 문제는 단순히 ‘누구의 잘못인가’를 따지는 것을 넘어, 우리 사회가 기술 발전을 어떻게 받아들이고 제어할 것인가에 대한 깊은 성찰을 요구합니다. 현재로서는 개발자, 사용자, 제조사 중 어느 한쪽에게 모든 책임을 지우기보다는, 발생한 피해의 성격과 AI의 역할에 따라 책임을 분담하는 형태가 될 가능성이 높습니다.

마치 자동차 사고의 책임을 운전자, 자동차 제조사, 도로 관리 주체가 함께 나누어 지는 것처럼 말입니다. 명확한 정답이 없는 이 어려운 문제에 대해 사회 구성원 모두가 함께 고민하고 합의점을 찾아가는 과정이 중요합니다. 결국 신뢰할 수 있는 AI 시대를 여는 열쇠는 기술 그 자체가 아니라, 그 기술을 사용하는 우리 인간의 지혜와 책임감에 달려있기 때문입니다.