2026년 <인공지능윤리원칙>에 대한 비판적 소고... 시민사회는 무엇을 요구했나
인권 / AI와 장애
본문
지난 8월 21일 대한민국 인공지능윤리원칙이 제정, 확정되었다. 「인공지능 발전과 신뢰 기반조성 등에 관한 기본법(이하 인공지능기본법)」 제27조에 따르면 정부는 인공지능윤리의 확산을 위하여 1. 인공지능 개발·활용 등의 과정에서 사람의 생명과 신체, 정신적 건강 등에 해가 되지 아니하도록 하는 안전성과 신뢰성에 관한 사항, 2. 인공지능기술이 적용된 제품·서비스 등을 모든 사람이 자유롭고 편리하게 이용할 수 있는 접근성에 관한 사항, 3. 사람의 삶과 번영에의 공헌을 위한 인공지능의 개발·활용 등에 관한 사항을 포함하는 윤리원칙을 제정할 수 있다고 규정한다. 또한 과학기술정보통신부장관은 사회 각계의 의견을 수렴하여 윤리원칙이 인공지능의 개발·활용 등에 관여하는 모든 사람에 의하여 실현될 수 있도록 실천 방안을 수립하고 이를 공개 및 홍보·교육하여야 한다고 명시하고 있다.
과기부에 따르면 이번 8월 제정된 윤리원칙은 지난 2020년 12월 인공지능기본법이 제정되기 전 마련된 ‘사람이 중심이 되는 인공지능 윤리기준’을 그동안의 변화를 반영하고 발전시켰다고 한다. 지난 5년 사이 생성형 AI는 물론이고 피지컬 AI(Physical AI)와 에이전틱 AI(Agentic AI)까지 새로운 기술이 빠른 속도로 발달하기도 하여 그 변화를 반영하는 것은 당연할 것이다. 2020년 당시는 인공지능기본법이 없던 규범의 공백 상태여서 시민사회도 윤리기준은 법적 공백을 메울 수 있는 국제적 기준이라고 할 수 있는 인권기반 접근, 영향받는 자의 권리 및 권리 구제 절차 마련 등을 요구했다. 그러나 산업계의 반발로 시민사회의 요구는 수용되지 않았다.
이번 2026년 인공지능윤리원칙 제정 과정은 어땠을까? 여전히 미흡하다고 평가할 수밖에 없다.
이번 인공지능윤리원칙도 서문에서 밝히고 있듯이 자율적 실천을 돕는 권고 성격을 가진다. 강제는 아니라는 이야기다. 그럼에도 법률에 근거를 두고있기 때문에 국가 차원의 윤리적 원칙을 제시하며 윤리적 인공지능을 추구하겠다는 선언이자 약속이라는 점에서 의미를 부여할 수 있을 것이다. 이 말인즉, 각 기업이 자율적 내부 윤리기준을 마련할 때 적어도 레퍼런스의 역할을 할 수 있을 것이란 뜻이다. 따라서 우리보다 앞서 인공지능윤리에 대해 기준을 제시한 OECD와 유럽연합을 본보기 삼아 법률이 커버하지 못하는, 또는 법률보다 더 상위의 윤리적 차원의 기준점을 마련해 줄 것을 기대하였다.
유럽연합의 예를 들자면, 유럽연합은 지금 시행 중인 인공지능법(EU AI Act) 제정 이전에 인권과 기본권에 기반한 접근법에 기초하여 “신뢰할 수 있는 인공지능윤리지침(Ethics Guidelines for Trustworthy AI)”을 2019년에 마련하였다. 유럽연합은 빠른 기술적 변화 속에서 사회, 공동체, 경제 및 지속가능한 발전을 위한 저변에 신뢰를 조성, 유지하는 것이 필수이며, 법률이 기술 발전 수준을 따라잡지 못한다는 점을 전제하며 이를 윤리적 규범이 구현해야 한다고 설명한다. 윤리원칙이 다수의 법적 의무를 반영하고 있지만, 윤리원칙의 준수는 공식적인 현행 법률 준수 노력 이상을 요구한다고 설명하고 있고 신뢰성 확보에 중요하다는 점을 분명히 하였다. 이후 강한 구속력을 가진 인공지능법(AI ACT)을 제정해 윤리적 수준의 규범을 더욱 구체화하게 된 것이다.
제정 순서에 따르면 우리도 지난 2020년 12월 제정한 인공지능윤리기준에서 제시한 3대 가치, 10대 원칙이 인공지능기본법으로 구체화되었나 평가할 부분도 있지만 사실상 우리의 인공지능윤리원칙 제정은 인공지능기본법 이후 그 법률에 근거해서 마련하는 것이라 구속력 있는 법률과의 관계나 그 지위 내지 역할이 분명하지 않다. 기업들이 또 다른 규제 아니냐고 하며 거부감을 표시하는 것도 이해하지 못할 바는 아니다. 그러나 AI윤리원칙 서문에서 밝힌 “법령이 구체적인 의무와 기조를 정한다면 윤리원칙은 빠르게 변화하는 환경에서 각 바람직한 방향을 스스로 판단하고 실천하도록 돕는다”는 선언을 근거로 이번 윤리원칙은 법에 포괄하지 못하거나 놓치고 있지만 우리 사회, 공동체, 경제 및 지속가능한 발전을 위해 필수적인 윤리적 규범을 제시하겠다는 선언으로 이해해야 할 것이다.
윤리적 인공지능을 추구하자는 데는 그 누구도 반대할 수 없을 것이다. 아니라면 비윤리적 인공지능도 마다하지 않고 개발하겠다는 것일 터. 결과적으로 인공지능윤리원칙은 윤리적인 인공지능을 구현하기 위해 반드시 필요하나 인공지능기본법에서 포괄하고 있지 못하는 부분을 제시해야 할 것이다. 강한 구속력이 있는 법에서 담아내지 못하고 있거나 빠른 기술 발전으로 미처 법규범이 포괄하지 못하는 것을 윤리 규범에서 구현하는 것을 그 역할로 상정하여야 할 것이다. 시민사회는 이에 대해 인권, 성평등, 공공성 등 인류 보편의 가치와 규범을 더욱 명확하게 규정할 필요가 있다고 요구하였다.
구체적으로는 인간 중심적 인공지능이 되기 위해서는 인권기반 접근이 필요하고, 우리 사회가 윤리적 도덕적으로 용인할 수 없는 인공지능개발은 하지 않겠다는 원칙, 자신이 인공지능에 의해 영향을 받는지조차 알 수 없는 영향받는 사람들의 참여 및 권리, 피해가 발생했을 때 구제절차 등을 명시할 필요가 있다는 것이 그 골자다. 그리고 전체 가치와 원칙에 국제적 기준인 인권, 민주적 거버넌스, 법치주의를 선명하게 드러내는 것이 필요하다는 점을 밝혔다.
우선 인권기반 접근에 대해 살펴보자. 2018년부터 국제사회에서 인권 규범으로 제시해 온 인권기반1) 접근이란 인공지능 기술을 개발하고 활용하는 국가와 기업 등을 의무 주체로 인공지능 기술의 대상이 되는 사람들을 권리주체로 명확히 규정하여 국제인권법 등에서 확인한 인권을 보호하고 존중하며 인권침해가 발생한 경우 필요한 구제 절차를 제공하도록 법과, 제도로서 감독하는 것이다. 이는 사람에게 미치는 영향에 초점을 맞춰야 한다는 것인데 유엔 사무총장은 “인공지능을 개발하고 배치할 때 국가의 역할과 의무 그리고 기업의 책임을 명확히 하는 것이야말로 인류에게 유익하고 책임 있는 인공지능의 혁신”이라고 하면서 인공지능과 같은 신기술의 개발과 배치가 견고한 인권 기반에 뿌리를 두는 것이 기술 발전의 혜택을 온전히 누리고 피해 가능성을 최소화하는 길이라고 밝힌 바 있다.
따라서 윤리기반접근과 인권기반접근은 배타적인 것이 아니라 상호 보완적인 것이다.
다음으로 영향받는 자의 권리보장에 대해서는 인공지능으로부터 인권에 중대한 ‘영향받는 사람과 집단의 권리’ 존중과 보호는 유엔 인권기구를 비롯한 국제인권규범에서 각국 정부에 지속적으로 이행을 요구하여 온 국제기준을 반영하자는 것이다(2020. 3. 4. A/HRC/43/2 등). 이번 인공지능윤리원칙에서 영향받는 자에 대해 “AI 시스템 또는 AI가 적용된 제품·서비스의 개발·제공·이용 등으로 인해 생명·신체의 안전, 기본권을 비롯한 권리·의무·기회 등에 직간접적으로 영향을 받거나 받을 수 있는 개인과 조직을 말한다.”고 규정한 것은 다행이다.
2026. 1. 5. 감사원이 공공기관의 인공지능 이용실태 등을 실지감사한 후 발표한 보고서에서2) 지적한 바처럼 영향받는 사람에게 발생하는 피해에 대한 보호 면에서 법률적 공백이 존재하는 상황에서 윤리원칙에서 영향받는 사람의 권리와 구제절차 접근을 보장하기 위한 원칙이 명확히 포함할 것을 요구하였다.
해외의 경우 비유럽 국가들에게도 가입이 개방되어 있는 유럽평의회 <인공지능과 인권·민주주의·법치주의에 관한 기본협약3)>에서는 영향받는 사람을 구제하기 위한 조치로서, 인공지능 사업자가 인권에 중대한 영향을 미칠 가능성이 있는 AI 시스템 관련 정보를 관할 당국에 제공하고, 특정한 경우 영향 받는 사람에게도 제공하도록 하였다. 또한, 인공지능에 기반한 결정으로부터 영향받는 사람은 결정에 대하여 이의를 제기할 수 있고, 특정한 경우 시스템 자체에 대한 정보를 제공받을 수 있어야 한다고 규정하고 있다. 물론 시민사회는 한국 정부도 이 협약이 가입할 것을 촉구하고 있기도 하다.
인공지능 채용시스템에 의해 평가되는 구직자, 장애등급이나 사회보장수급 결정에 이용되는 인공지능에 의해 판별되는 해당 장애인이나 사회보장수급자, 의사의 진단을 돕는 인공지능에 의해 진단받는 환자, 신용등급이나 보험급여 산정을 위한 인공지능에 의해 평가되는 고객 등 영향받는 사람들이 그 결과나 과정에 대해 고지받고, 결과에 이의제기할 수 있고, 피해를 입었다면 구제받는 절차를 마련하는 것은 기본적인 인권 보장 절차에 해당한다.
다음으로 윤리적 인공지능을 위해서는 우리 사회가 윤리적, 사회적으로 용인해서는 안될 ‘윤리적 금지선(Ethical Red Line)’을 윤리원칙에 명문화할 것을 요구했다. 현행 인공지능기본법은 금지하는 인공지능을 별도로 규정하고 있지 않아 국제적으로 금지된 완전자율살상무기의 개발·이용이나 위헌·위법적으로 직접적·간접적 차별을 낳는 인공지능을 규율하지 못하고 있다.
▲대한민국 인공지능 윤리원칙 대토론회 전경 ⓒ과학기술정보통신부 유튜브 채널
또한 공공장소에서의 실시간 식별·추적, 감정 인식 등 인권적으로 용인할 수 없는 인공지능 역시 명시적으로 금지하고 있지 않다. 국제 인권기준 상 금지되거나 인권과 양립할 수 없는 위험을 야기하는 인공지능에 대해서는 윤리적 한계선을 제시해야 한다고 것이 그렇게도 과한 것인가. 인간의 잠재의식을 조종하여 행동이나 결정에 이르게 하는 것, 사회적 점수를 산정하여 차별하는 것, 장애나 연령 등 인간의 취약성을 악용하는 인공지능은 그 자체만으로도 인권과 양립할 수 없고 인간의 존엄성에 반한다.
또한 인공지능을 통한 기존의 사회적·구조적 차별을 재생산하고 강화할 수 있다는 문제의식을 반영하여 비차별원칙은 명확하게 선언해야 한다는 점도 여러 차례 강조하였다.
인공지능이 편익을 주기도 하지만 인간의 삶을 풍요롭게 한다고 확언하기에는 아직 이르다. 피지컬 AI와 에이전틱 AI를 넘어 인간과 동등하거나 그 이상의 수준으로 다양한 지적 작업을 수행할 수 있다는 인공 일반 지능(AGI)이 곧 도래할 것이라고 전망하는 상황에서, 인공지능이 인간에게 유익한 무엇이 될지 아니면 인간의 통제를 넘어 무시무시한 무언가가 될지는 현재 우리가 어떻게 하느냐에 달려있을 것이다.
그런 기로에서 이번 인공지능윤리원칙은 국제적 기준으로 제시되고 있는 인권, 법치주의, 민주주의 원칙을 충분히 반영하고 있다고 보기는 어렵다. 특히 인공지능기본법이 시행되고 있기 때문에 법적 요구를 이행하는 명목상의 과정이 되지 않도록 하기 위해서 “빠른 기술변화와 보조를 맞추지 못하는 법률”이 포괄하지 못하는, 그러나 윤리적으로 반드시 필요한 규범을 제시하는 역할을 하겠다는 자기 규정이 필요함에도 이를 명확히 하지 못한 점은 매우 아쉽다. 앞으로 개정되고 대폭 보강되기를 바란다.
1) https://docs.un.org/en/a/73/348
2) https://www.bai.go.kr/bai/result/branch/detail?srno=3243
3) https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intell gence
작성자글. 이지은 참여연대 공익법센터 선임간사 cowalk1004@daum.net
Copyright by 함께걸음(http://news.cowalk.or.kr) All Rights Reserved. 무단 전재 및 재배포 금지
댓글목록
등록된 댓글이 없습니다.
