대한민국 인공지능 윤리원칙 대토론회 개최… 장애인 데이터 확보·피해구제 필요성 제기
“포용만으로는 부족하다”… AI 윤리원칙에 ‘장애 접근성’ 명시해야
본문
▲대한민국 인공지능 윤리원칙 대토론회 전경 ⓒ과학기술정보통신부 유튜브 채널
인공지능(AI)이 일상과 산업 전반에 빠르게 들어오면서 ‘안전하고 신뢰할 수 있는 AI’를 만들기 위한 국가 차원의 윤리 기준 마련이 본격화되고 있다.
과학기술정보통신부(이하 과기정통부)와 정보통신정책연구원(KISDI)은 8월 14일 서울 프레지던트호텔에서 산업계·시민사회·학계·일반 시민 등 70여 명이 참석한 가운데 ‘대한민국 인공지능 윤리원칙’ 대토론회를 개최했다. 이날 토론회에서는 윤리원칙의 주요 내용이 소개되고, 각계 전문가들이 초안에 대한 의견과 개선 방향을 제시했다.
이번 윤리원칙은 2020년 마련된 기존 인공지능 윤리기준을 발전적으로 계승하면서 생성형 AI 등 기술과 사회환경의 변화를 반영하기 위해 추진됐다. 과기정통부는 지난 6월부터 7월까지 현장 간담회와 대국민 온라인 의견수렴 등을 진행했으며, 자료집에 따르면 총 116건의 의견이 접수됐다.
“윤리는 혁신을 막는 장벽이 아니라, 혁신을 가능하게 하는 장치”
▲발제 중인 이상욱 한양대 교수 ⓒ과학기술정보통신부 유튜브 채널
토론회 첫 번째 기조발제에 나선 이상욱 한양대학교 교수는 ‘AI 시대, 혁신과 신뢰를 위한 윤리원칙의 역할’을 주제로 AI 시대의 윤리가 어떤 역할을 해야 하는지 설명했다.
이 교수는 AI를 둘러싼 핵심 문제로 불확실성을 꼽았다. 개인과 사회의 중요한 의사결정에 AI가 활용될수록 AI의 판단과 그에 따른 결과가 사회에 미치는 영향을 예측하기 어려워지기 때문이다. 따라서 AI의 규범적 정당성을 확보하기 위해서는 어떤 가치와 원칙을 고려하고 있는지, 예상하지 못한 상황에 얼마나 견고하게 대응할 수 있는지를 지속적으로 점검해야 한다는 것이다.
특히 이 교수는 AI 윤리를 단순히 ‘하지 말아야 할 것’을 정하는 규범으로만 바라봐서는 안 된다고 강조했다. 자료집에서는 이를 ‘돕는 윤리(Ethics as Helper)’와 ‘실행자로서의 윤리’라는 개념으로 설명한다.
윤리가 기술 발전과 대립하는 것이 아니라, 불확실성을 이해하고 대응할 수 있도록 돕고 바람직한 AI 연구와 개발을 가능하게 하는 역할을 해야 한다는 것이다. 즉 윤리적 고려가 혁신을 억누르는 장벽이 아니라, 신뢰할 수 있는 혁신을 가능하게 하는 기반이 되어야 한다는 설명이다.
이번 개정안 역시 AI의 빠른 변화와 새롭게 등장한 쟁점을 반영하면서, 기존 윤리원칙에서 강조해온 가치들을 기술 발전에 맞게 재구성하는 데 초점을 맞췄다.
3대 가치와 7대 원칙… “공급자뿐 아니라 이용자도 함께”
▲발제 중인 최우석 과학기술정보통신부 인공지능안전신뢰지원과장 ⓒ과학기술정보통신부 유튜브 채널
이어 최우석 과학기술정보통신부 인공지능안전신뢰지원과장은 ‘대한민국 인공지능 윤리원칙(안)’의 추진 배경과 주요 내용을 설명했다.
이번 윤리원칙이 마련된 배경에는 AI가 일상과 사회 전반에서 본격적으로 활용되면서 기존에 없던 갈등과 우려가 함께 나타나고 있다는 판단이 있다. AI에 대한 우려로 AI가 개인에게 유익하게 작용하고 있는지에 대한 문제, AI 도입에 따른 기존 역할관계의 변화, 채용·평가·무기체계 운용 등 AI에게 어디까지 판단을 맡길 것인지 등이 대표적인 쟁점으로 제시됐다.
최 과장은 “윤리원칙은 특정한 갈등 상황에 일률적인 답을 제시하기보다 AI와 관련된 다양한 갈등 상황에서 사회가 함께 고려해야 할 가치와 원칙을 제시하는 공통의 기준을 마련하는 데 의미가 있다”고 설명했다.
이번 윤리원칙(안)이 제시한 핵심은 3대 가치와 7대 원칙이다. 3대 가치는 ▲인간의 존엄성, ▲사회의 공공성, ▲인류의 지속가능성이다. 이를 실현하기 위한 7대 원칙으로는 ▲인간중심성, ▲프라이버시 보호, ▲공정성·포용성, ▲책임성, ▲안전성, ▲신뢰성, ▲투명성이 제시됐다.
각 원칙에는 구체적인 방향도 담겼다. 인간중심성은 사람의 판단과 선택을 존중하고 과도한 AI 의존을 경계하는 것을, 프라이버시 보호는 개인정보의 최소 활용과 자기결정권 존중을 의미한다. 공정성·포용성은 공평한 접근과 편향 방지, 취약계층의 참여와 활용을 보장하기 위한 노력을 요구한다.
특히 이번 원칙은 공급자뿐 아니라 AI 이용자의 윤리도 함께 강조한다는 점을 차별점으로 제시했다. 안전하고 신뢰할 수 있는 AI 사회를 위해서는 개발자나 기업만이 아니라 AI를 사용하는 주체를 포함한 사회 구성원 모두의 노력이 필요하다는 취지다.
그렇다면 이 원칙에서 말하는 ‘공정한 접근’과 ‘포용’은 실제로 누구를 포함하고 있을까. 이날 토론에서는 장애계의 구체적인 문제 제기가 이어지기도 했다.
“포용만으로는 부족하다”… 장애 접근성 명시해야
▲종합토론에서 발언 중인 사단법인 무의 홍윤희 이사장 ⓒ과학기술정보통신부 유튜브 채널
홍윤희 사단법인 무의 이사장은 이번 윤리원칙이 이전에 마련된 윤리기준보다 장애인을 시혜의 대상이 아닌 시민으로서 권리를 가진 주체로 바라보는 방향이 강화됐다는 점에서 의미가 있다고 평가했다.
그러면서도 ‘포용성’이라는 표현만으로는 부족할 수 있다고 지적했다. 홍 이사장은 “포용”이라는 말 자체가 시혜적인 의미로 받아들여질 가능성이 있는 만큼 ‘포함’이라는 표현도 고려할 필요가 있으며, 무엇보다‘접근성’이라는 단어를 윤리원칙에 명시적으로 넣어야 한다”고 강조했다.
장애 접근성을 윤리원칙의 해설이나 부수적인 지침에만 남겨둘 것이 아니라, 원칙 자체에서 분명하게 확인할 필요가 있다는 것이 장애계의 요구다.
홍 이사장은 장애 접근성이 단순히 장애인을 위한 별도의 배려가 아니라 AI 기술 발전을 이끌어온 동력이기도 하다고 설명했다. OCR(광학문자인식) 기술 등을 예로 들며 장애인의 정보 접근을 위한 기술적 요구가 결과적으로 더 많은 사람에게 활용되는 기술 발전으로 이어졌다고 설명했다.
이 같은 문제의식은 장애우권익문제연구소가 윤리원칙 제정 과정에서 제출한 검토의견에도 담겼다. 연구소는 현행안이 장애를 차별금지 사유로 명시하고 공정성·포용성 원칙에서 접근성을 언급한 점은 진전으로 평가하면서도, 장애 문제를 단순한 기술 접근의 문제로 한정해서는 안 된다고 지적했다.
AI의 데이터 수집·학습부터 설계, 검증, 배포·운영에 이르는 전 과정에서 장애인의 누락과 편향, 차별적 결과가 발생할 수 있는 만큼 이를 예방하는 관점이 윤리원칙에 반영돼야 한다는 것이다. 또한 장애인 당사자가 개발·검증·운영 및 정책 과정에 실질적으로 참여할 수 있도록 보장하고, 성별·연령·장애 등 개인과 집단의 특성에 따라 AI의 위험과 영향이 다르게 나타나는지를 별도로 평가할 필요가 있다고 제안했다.
연구소는 최종안 이후 마련될 해설서와 자율점검표에도 AI 생애주기별 장애 차별과 접근성 결함 사례, 자기결정권 침해, 채용·교육·복지·의료 등 고위험 분야에서 발생할 수 있는 구체적인 사례와 점검 기준을 담아야 한다고 강조했다.
장애인 데이터, ‘작은 데이터’가 큰 변화를 만들 수 있다
장애 데이터의 부족과 편향 문제는 토론회에서도 중요한 쟁점으로 제기됐다.
AI가 데이터를 바탕으로 작동하는 만큼, 어떤 데이터가 수집되고 축적되는지는 AI 윤리의 출발점이 될 수밖에 없다는 것이다. 특히 장애와 관련한 데이터가 충분하지 않은 상황에서는 장애인의 현실이 AI의 학습과 판단 과정에서 아예 보이지 않을 가능성이 있다.
홍 이사장은 세계은행에서 강조하는 ‘Small AI, Big Impact’ 개념을 언급하며, 거대한 언어모델이나 방대한 데이터만이 AI의 가치를 만들어내는 것은 아니라고 설명했다. 시민사회와 작은 단체들이 현장에서 축적한 데이터가 실제 사회문제를 해결하고 현장을 바꾸는 데 더 직접적인 영향을 미칠 수 있다는 것이다.
장애 분야의 데이터 역시 마찬가지다. 장애인의 실제 생활과 경험을 담은 작은 데이터들이 축적된다면 교육·고용·복지·이동·접근성 등 구체적인 현장을 바꾸는 AI 개발에 활용될 수 있다.
홍 이사장은 “데이터가 아예 없으면 논의 자체가 안 된다”며 장애 데이터의 중요성을 강조했다. 장애 관련 법과 제도 자체에도 공백이 존재하는 상황에서 AI가 빠르게 개발될 경우, 이러한 공백이 기술에 그대로 반영될 수 있다는 지적이다.
특히 교육현장과 관련한 질문에 대해서도 장애 관련 법과 제도가 영역별로 흩어져 있고 정당한 편의 제공에 대한 규정에도 공백이 있는 만큼, AI가 이러한 현실을 그대로 학습하지 않도록 해야 한다고 강조했다. 이를 위해 현장에서 발생할 수 있는 구체적인 사례를 담은 해설서와 가이드가 필요하며, 당사자가 윤리원칙의 기획 단계부터 참여해야 한다고 밝혔다.
산업계 “윤리원칙, 현장에서 작동할 수 있어야”
산업계에서는 윤리원칙의 필요성에는 공감하면서도 실제 적용 가능성을 높여야 한다는 의견이 이어졌다.
▲종합토론에서 발언 중인 김경훈 카카오 AI Safety 리더 ⓒ과학기술정보통신부 유튜브 채널
김경훈 카카오 AI Safety 리더는 AI가 빠르게 변화하는 ‘살아있는 기술’인 만큼 위험관리를 위한 국가적 기준이 필요하다며 윤리원칙 마련을 긍정적으로 평가했다. 카카오 역시 새 윤리원칙에 맞춰 자체 기준을 재정비할 계획이라고 밝혔다.
다만 투명성 원칙과 관련해 학습데이터 공개 문제는 법·제도 및 국제적인 논쟁이 이어지고 있는 만큼 윤리원칙에 어느 수준까지 담는 것이 적절한지 고민이 필요하다고 지적했다.
김현주 한국인공지능소프트웨어산업협회 본부장은 스타트업과 중견기업이 많은 산업 현실을 고려해야 한다고 말했다. 대기업과 달리 별도의 윤리 담당 부서나 전문인력을 두기 어려운 기업이 많기 때문에 윤리원칙을 현장에서 적용할 수 있도록 다양한 가이드와 온라인 지원 채널 등이 필요하다는 것이다.
시민사회 “법을 지키는 것에서 끝나서는 안 된다”
시민사회에서는 윤리원칙이 법률을 단순히 반복하는 수준에 머물러서는 안 된다는 지적이 나왔다.
▲종합토론에서 발언 중인 참여연대 이지은 선임간사 ⓒ과학기술정보통신부 유튜브 채널
이지은 참여연대 선임간사는 2019년 유럽연합의 AI 윤리 가이드라인 논의처럼 윤리원칙은 법률이 포괄하지 못하는 영역을 다루는 역할을 해야 한다고 강조했다. 특히 인권에 기반한 접근, 책임성, 투명성, 신뢰성을 핵심으로 제시하며 AI로 인해 영향을 받는 사람의 피해구제 절차가 윤리원칙에 필요하다고 말했다.
AI가 어떤 기준과 데이터로 작동하는지 설명받을 수 있어야 하고, 문제가 발생했을 때 이의를 제기하고 구제받을 수 있는 체계까지 마련돼야 한다는 것이다.
이지은 선임간사는 또한 “기업 내부에 독립적이고 객관적으로 AI의 영향을 평가할 수 있는 체계가 필요하며, AI를 개발할 때부터 위험이 발생할 수 있다는 점을 전제로 예방과 권리구제까지 이어지는 구조를 만들어야 한다”고 강조했다.
“윤리원칙은 계속 업데이트돼야”
윤리원칙의 역할과 함께 얼마나 빠르게 변화에 대응할 수 있느냐도 중요한 과제로 제시됐다.
변순용 서울교육대학교 윤리교육과 교수는 법에서 윤리를 만들도록 요구하는 현재의 방식이 역순으로 보일 수 있다며, 윤리는 숲속의 나침반과 같은 역할을 해야 한다고 지적했다. 기술과 사회의 변화에 맞춰 윤리원칙의 업데이트 주기도 더욱 빨라져야 한다는 것이다.
이상욱 교수 역시 종합토론에서 AI가 이제 단순한 기술을 넘어 실제 산업과 사회에 깊숙이 들어온 만큼 예측가능성이 중요하다고 강조했다. 모든 내용을 한 번에 확정하기보다 ‘적응형 거버넌스(adaptive governance)’를 통해 정답이라고 판단되는 것은 빠르게 추진하고, 논의가 필요한 부분은 사회적 논의를 이어가면서 신속하게 업데이트하는 방식이 필요하다는 설명이다.
과기정통부 “해설서·자율점검표·교육으로 실천 뒷받침”
결국 윤리원칙이 선언에 머물지 않고 실제 현장에서 작동하도록 만드는 것이 앞으로의 과제다.
▲발언 중인 이진수 과학기술정보통신부 인공지능정책기획관 ⓒ과학기술정보통신부 유튜브 채널
이진수 과기정통부 인공지능정책기획관은 종합토론에서 윤리원칙의 실천을 강조하며 향후 해설서를 마련하고, 기업과 산업계를 대상으로 자율점검표를 개발·보급하며, 교육현장에 적용할 수 있는 AI 윤리교육도 병행할 계획이라고 밝혔다.
그럼면서 이 기획관은 범용인공지능(AGI)과 초지능인공지능(ASI)에 대한 논의가 이미 진행되고 있는 만큼 앞으로 나타날 AI의 양태가 현재의 윤리원칙으로는 상상하기 어려운 수준이 될 가능성도 언급했다.
이번 토론에서는 장애 접근성을 윤리원칙에 명시하는 부분을 비롯해 장애 데이터 확보, 당사자 참여, AI의 판단에 영향을 받는 사람들을 위한 설명과 이의제기, 피해구제 절차 마련 등 AI 윤리를 실제 현장에서 작동시키기 위한 여러 과제가 제시됐다.
과기정통부는 토론회에서 제기된 의견을 추가로 반영한 뒤 이달 중 ‘대한민국 인공지능 윤리원칙’을 최종 제정·공표할 계획이다.
14일 진행된 토론회 영상은 과학기술정보통신부 유튜브 채널에서 확인할 수 있으며, 토론회 자료집은 인공지능 윤리소통채널 홈페이지에서 내려받을 수 있다.
작성자김영연 기자 cowalk1004@daum.net
Copyright by 함께걸음(http://news.cowalk.or.kr) All Rights Reserved. 무단 전재 및 재배포 금지
댓글목록
등록된 댓글이 없습니다.
