13일 오후 2시 국회의원회관 제2소회의실에서 「장애와 인공지능 체크리스트」 발표 및 활용방안 국회 토론회가 열렸다. 사단법인 장애우권익문제연구소(이하 ‘연구소’)과 주관 및 주최를 맡고, 국민의힘 최보윤 의원과 법무법인 디엘지가 공동 주최한 이날 토론회에서는 연구소가 마련한 기업 자율 점검 도구 「장애와 인공지능 체크리스트」가 발표됐다. 이어 법제도, 기술 테스트, 기업·사회혁신, 정부 정책이라는 서로 다른 관점에서 이 체크리스트가 선언에 그치지 않고 현장에서 쓰이려면 무엇이 필요한지 논의가 이어졌다.

 

“해방의 도구”와 “보이지 않는 차별” 사이

장애우권익문제연구소는“인공지능이 이미 채용, 복지 행정, 금융, 의료, 교육에 이르기까지 삶의 중요한 결정에 깊숙이 들어와 있다”며 “인공지능이 장애인의 접근성을 높이고 자립생활을 넓히는 ‘해방의 도구’가 될 수 있다는 기대는 분명하지만, 장애를 오류나 예외값으로 처리하는 알고리즘, 장애인의 데이터가 빠진 채 학습된 모델, 접근성을 고려하지 않고 출시되는 서비스는 "보이지 않는 차별과 배제를 더 빠르고 더 넓게 되풀이할 수 있다”고 설명했다.

 

그러면서 연구소는 “지난해 국내 최초로 유엔 장애인권리협약의 원칙에 근거해‘디지털 포용을 위한 장애 차별 모니터링 활동’을 추진하고 연구보고서와 심포지엄으로 문제를 알려 왔다”고 소개했다. 이어 “문제를 지적하는 데서 멈추면 현장은 바뀌지 않는다”며 “인공지능을 만들고 운영하는 기업과 개발자가 무엇을, 언제, 어떻게 점검해야 하는지 알 수 있어야 변화가 시작된다는 문제의식에서 본 체크리스트를 마련했다”고 설명했다.

 

축사에 나선 최보윤 의원은 “AI를 개발하고 서비스를 설계하는 전 과정에 장애인과 고령자 등 취약계층의 참여와 의견을 반영하고, 고영향 AI의 영향평가 때에도 취약계층의 특성을 함께 고려하도록 한 「인공지능기본법」 개정안을 대표발의해 지난 1월 국회 본회의를 통과했다”고 밝혔다. 최 의원은 “체크리스트가 인공지능의 개발과 활용 전반에 장애 인지적 관점을 반영하는 실질적인 기준이 되기를 기대한다”고 덧붙였다.

 

장애 포용적 AI를 위한 자율 점검 체크리스트

4개 영역 33문항, 기업이 스스로 점검하고 개선하도록 해

발제를 맡은 김아람 장애우권익문제연구소 인권센터 팀장은 체크리스트가 만들어진 배경과 구성, 활용 방안을 소개했다. 체크리스트는 2025년 진행된‘장애와 인공지능 연구: 기회와 위기의 경계에서’연구보고서를 토대로 추진단 구성, 지표 개발 회의, 전문가 간담회를 거쳐 마련됐다. 개발 과정에서는 AI 동향 스터디와 인권영향평가 도구, 장애인권리협약 지표 검토가 함께 이뤄졌다.

 

김 팀장은 인공지능을 ‘희망과 위험이 교차하는’기술로 규정했다. 의사소통 장벽 해소와 일상생활 자립 지원, 정보 접근성 향상, 의료·재활 서비스 개선이라는 긍정적 영향이 있는 반면, 설계단계에서 장애인을 고려하지 않은 접근성 배제, 왜곡된 데이터 학습에 따른 차별, 디지털 격차 심화, 책임 공백과 불투명성으로 인한 권리구제의 어려움, 취약성을 악용한 범죄와 착취 가능성이 공존한다는 것이다.

 

특히 데이터 입력·모델 개발, 결과물 산출·운영, 실제 활용·구제로 이어지는 AI 생애주기 곳곳에 공백이 있다며, 이를 메우기 위한 방향으로 단계별 위험성으로부터의 보호, AI에 대한 접근보장, 장애영향평가 절차 마련을 제시했다.

 

이날 발표된 체크리스트는 모두 4개 영역 33개 문항으로 구성되어 있다.

 

먼저, 데이터 입력 및 개발(문항 1~5) 영역에서는 학습·검증 데이터에 장애 관련 데이터가 포함돼 있는지, 장애 관련 민감정보를 수집할 때 실질적 동의를 보장하는지, 개발 과정에 장애인의 참여 구조가 있는지, 테스트에 장애인의 실제 이용 환경을 반영했는지를 묻는다. 음성인식 AI가 전체 사용자에게는 95%의 정확도를 보이지만 발화가 불명확한 장애인에게는 현저히 낮은 경우가 대표 사례로 제시됐다.

 

이어, 결과 산출 및 운영·활용(문항 6~17) 영역에서는 알고리즘 편향, 산출물의 접근성, 서비스가 실패했을 때의 대체 수단, 설명 가능성, ‘블랙박스’ 문제, 해외 사업자가 관여하는 경우의 적용 법률, 주체별 책임, 이의제기·구제 절차, 모니터링, 취약성을 악용한 범죄·착취 위험, 업데이트 이후의 호환성 유지를 다룬다.

 

정신장애인이 AI에 정신장애가 자부심이 될 수 있을지 묻자, AI가 이를 부정적으로 답한 사례가 편향의 실제 사례로 소개됐다. 복지급여 심사 AI가 수급 자격을 거부했는데 어떤 변수가 어떻게 평가됐는지 알 수 없어 이의제기조차 어려운 경우는 블랙박스 문제의 사례로 꼽혔다. 이 영역은 이의제기 절차가 ‘있는지’가 아니라 실제로 AI 산출물의 변경·재검토·시정으로 이어지는지를 묻는다는 점이 특징이다.

 

AI 리터러시 교육(문항 18~21) 영역에서는 장애인을 대상으로 한 교육이 제공되는지, 물리적·경제적·환경적 제약 없이 참여할 수 있는지, 교육 내용과 콘텐츠가 장애 유형과 이해 수준을 반영하는지를 점검한다.

 

마지막 인공지능기본법에 따른 고려사항(문항 22~33) 영역에서는 고영향 AI 확인(제33조 1항), 투명성 확보(제31조), 안전성 확보(제32조), 고영향 사업자 책무(제34조)에 장애 관점을 대응시켰다. 의료·채용·대출 심사·시험 평가·재난 대응 AI 등 고영향 영역에서 장애인이 자동으로 배제될 수 있는 사례들이 함께 제시됐다.

 

각 문항은 예·아니오로 답하는 한 문장의 질문과 왜 필요한지를 설명하는 해설, 미충족 상황의 예시로 구성되며 점검 결과는 ‘충족’, ‘미충족’, ‘해당없음’ 가운데 하나로 표시한다.

 

활용 대상은 AI 개발자·운영자, 서비스 업무 담당자, 정부 AI 정책 담당자, AI를 이용하는 장애인 네 부류다. 기업에서는 사업자 유형 확인, 개발 단계 사전점검, 운영 중 수시 점검, 교육과 기록의 네 단계로 쓰도록 안내했다. 다만 체크리스트는 상시 점검표이자 교육 안내서, 참고 자료일 뿐 법적 구속력은 없다.

 

체크리스트 실효성, 법에 의무 조항으로 담아야

AI기본법·디지털포용법 개정과 영역별 개별 규제 도입 제안

발제를 마친 후에는 염형국 법무법인 디엘지 공익인권센터장이 좌장을 맡아 지정토론이 이어졌다.첫 토론을 맡은 이재흥 시민기술네트워크 상임이사(국가인공지능전략위원회 위원)는 체크리스트를 어떻게 내재화하고 실효성 있게 만들 것인가라는 질문에서 출발해 법제도 문제를 짚었다.

 

▲(왼쪽) 이재흥 시민기술네트워크 상임이사(국가인공지능전략위원회 위원), (오른쪽) 김정원 에이아이웍스(AIWORKX) AI 신뢰성팀 기술총괄

 

이 위원은 “시민기술네트워크가 처음 한 프로젝트가 시민 참여 방식으로 AI기본법안을 만드는 것이었고, 그 법안이 최민희 당시 과학기술정보방송통신위원장의 발의로 이어졌다”고 소개했다. 법 제정 과정에서는 국가인권위원회의 권고 의견이 컸다고 했다. 그러나 “연말 비상계엄 사태 이후 시급한 민생 법안으로 분류되고 산업 진흥을 목적으로 처리되면서 거의 모든 인권 보호 조항이 삭제됐고, 남은 것은 표시 의무와 위반 시 3천만 원의 과태료 정도인데 그마저도 시행이 유예됐다”고 설명했다. 이 위원은 경제를 살린다는 명분 아래 형성된 이 기조가 이후 AI 법률과 정책 전반에 이어지고 있는 점을 큰 문제로 꼽았다.

 

그는 “규제는 옳지도 그르지도 않다”며, “명확한 규제와 레드라인이 오히려 산업의 불투명성을 해소하고 발전의 계기가 된 경우가 많다”고 말했다. 그러면서 체크리스트를 실효성 있게 하려면 “법에서 필수적인 의무 조항으로 만들어야 한다”며 그 대상 법률로 「디지털포용법」을 제시했다.

 

이 위원은 “AI기본법과 같은 날 태어난 쌍둥이인 디지털포용법도 거버넌스에 난맥상이 있고, 실효성 있는 장애인 차별금지나 기술 포용성을 의무화하는 조항이 없다”고 지적했다. 디“지털 포용 영향평가와 AI기본법상 고위험(고영향) AI 영향평가 모두 의무사항이 아니어서 평가를 해도 결과가 정책 권고에 머무르고, 반영하지 않아도 처벌 조항이 없다”는 것이다. 그는 “인센티브나 처벌 같은 환류 장치와 의무 조항이 함께 가지 않으면 공공 AI와 민간 AI 모두에서 현실화·확산이 어렵다”고 했다.

 

이 위원은 법 이름에서 다양성(Diversity)과 평등(Equity)이 빠진 채 포용(Inclusiveness)만 남은 점도 문제로 지적했다. 장애 여성 등 복합적 차별 상황에 놓인 사람이 많은 만큼 디지털포용법이 "다양성과 평등을 포함하는 형태로 복원될 필요가 있다”는 주장이다.

 

해외사례로는 AI 빅테크 상위 50개 기업 중 33곳의 본사가 있는 캘리포니아가 AI 학습 데이터 투명성 법안, AI가 사람을 해치거나 재산상 손해를 끼쳤을 때 구제·처벌하는 법 등 분야별 규제를 촘촘하게 도입했고 미국과 유럽이 발효 시기까지 맞추며 공조한다고 소개했다. 그는 “AI기본법 하나에 너무 많은 논의를 담다가 너무 오래 지연되고 무규제 상태가 길어지는 것을 막고 영역별 개별 규제를 빨리 도입하자”며, 그 첫걸음으로 디지털포용법 개정을 제안했다.

 

웹접근성처럼 ‘테스트 가능한’ 체크리스트로

당사자가 주인공인 시나리오 구축과 공공 지원 필요

두 번째 토론을 맡은 김정원 에이아이웍스(AIWORKX) AI 신뢰성팀 기술총괄은 이 위원이 '채찍'을 말했다면 자신은 ‘당근의 얘기’를 하겠다며 말문을 열었다. 기술 개발 현장의 관점에서 체크리스트가 “얼마나 진짜로 현장에서 적용할 수 있는 정도의 체크리스트인가”를 묻고, 개선할 여지를 제안하겠다는 것이다.

 

김 총괄은 웹접근성이 걸어온 길을 사례로 들었다. “1999년 국제 지침이 나왔지만 지침은 문서일 뿐이어서 개발자가 실제로 테스트하는 것은 다음 단계의 문제였고, 2008년 테스트 가능한 성공 기준이 나왔으며, 2010년이 돼서야 테스트를 자동화하는 도구가 많이 나왔다”는 설명이다.

 

그 결과 지금은 개발자들이 “웹 접근성 테스트는 당연한 것 아니냐”고 말하는 수준에 이르렀다고 했다. 이번 체크리스트는 이 다섯 단계 중 1단계, 즉 지침 수준의 숙제를 마친 것이며 앞으로 2~5단계가 필요하다고 봤다. 다만 “웹접근성도 완벽하지는 않아서 2026년 조사에서 상위 100만 개 홈페이지의 95.9%에서 자동 탐지 가능한 위반이 발견됐다”며, 중요한 것은 “100% 보장이 아니라 테스트 기능과 합의된 표준, 산업 역량이 갖춰졌다는 점”이라고 했다.

 

김 총괄은 개발하는 쪽과 그렇지 않은 쪽의 간극도 짚었다. 개발자들은 체크리스트나 법안이 오면 “우리 발목을 잡는다”, “불가능을 하라고 한다”고 보고, 필요성을 느끼는 쪽은 “무조건 못한다고 하는 것 아니냐”고 본다는 것이다. 그는 “이 간극을 최대한 줄이는 것이 중요하다”면서 “안 되게 하는 방식보다는 되게 하는 방식으로 체크리스트의 다음 단계를 만들어 보여 주는 것이 대립보다 해법을 찾는 길”이라고 밝혔다.

 

AI는 웹접근성보다 더 어렵다는 점도 강조했다. 충족·미충족·해당 없음 기준을 현장에 적용하면 어디까지가 충족인지, 근거를 찾을 수 없어 테스트가 불가능한 경우는 어떻게 할지가 모호하고, 무엇보다 “똑같은 모델에서 아무것도 안 바꿨는데 다시 평가하면 또 다르게 대답하는 게 지금의 AI”라는 것이다. 그는 “엊그저께는 패스했던 게 오늘 실패할 수 있다”며 “주 단위·월 단위로 반복 테스트하며 위험을 통계로 찾아내는 수준이 돼야 한다”고 했다.

 

이에 대한 제안도 구체적이었다. 33개 문항을 솔루션(자동화 테스트)·거버넌스·교육 파트로 분류해 어떤 부분이 어떤 방식으로 검증돼야 하는지 나눠야 하고, “기업이 뛰어들려면 부가적인 일이 너무 많지 않은 수준이어야 한다”는 것이다.

 

무엇보다 “이 체크리스트를 통과한지 못한 것인지에 대해서는 개발자 혼자 절대 할 수 없다”며 “시나리오를 만드는 것은 장애인들이 주인공이 돼야 한다”고 강조했다. 덧붙여, “이 작업은 장애인에게 새로운 AI 시대의 일자리가 될 수 있고”, 시장이 크지 않아 기업 사비만으로는 어렵다며 정부의 공공 기금 지원을 요청했다.

 

토론회에서 이야기 되지는 않았지만 발표 자료에는 먼저 해 볼 시범사업으로 체크리스트 실무화 작업반, 공동 테스트 사례 저장소 구축, AI 개발사 2~3곳 적용 실증이 제안됐고, 인증이나 의무화보다 작은 시범사업으로 공동 테스트 자산의 효과를 확인해 보자는 방향이 담겼다.

 

질문 하나가 리더와 현장을 바꿀 수 있어

서명 기업 커뮤니티·B Corp 연계·스타트업 파일럿 제안

세 번째 토론자인 김정태 엠와이소셜컴퍼니(MYSC) 대표는 투자사의 관점에서 체크리스트의 활용 방안을 이야기했다. 그는 체크리스트가 “전문가, 특히 리더를 위한 도구”라며, “리더들이 관심은 있지만 몰라서 못 하는 경우가 많은데 체크리스트가 뭔가를 해야겠다는 질문을 리더의 머릿속에 넣어 준다는 점이 중요하다”고 설명했다.

 

김 대표는 MYSC가 유엔여성기구와 유엔 글로벌콤팩트가 만든 여성역량강화원칙(WEPs)에 서명한 경험을 소개했다. 이 원칙을 소개받은 아모레퍼시픽도 서명했고, 서명 기업들이 서로 배우는 커뮤니티로 발전했다는 것이다.

 

그러면서 “이번 체크리스트의 다음 단계 역시 서명 기업을 모으는 커뮤니티 구축이 될 수 있다”고 제안했다. MYSC는 이 원칙을 “투자사의 언어로 번역해 1년에 약 7천 개 스타트업을 검토하고 50개 정도에 투자하는 과정에서 성평등 관련 질문을 던져 왔다”고 밝혔다.

 

김 대표는 “스타트업 대표들이 처음에는 어디서도 보지 못한 질문들에 당황했지만 투자사가 얘기하니까 듣게 되는 것”이라며 “이게 우리랑 무슨 상관이냐던 대표들이 체크리스트에 스스로 답하며 알게 된 이상 앞으로 계속 생각해야 한다고 하게 됐다”고 전했다. 그는 “장애와 인공지능 체크리스트도 이런 단계까지 가 보자며, 투자사로서 적극 나서겠다”고 이야기했다.

 

또 김 대표는 글로벌 인증인‘B Corp(비콥)’과의 접점을 제안했다. “전 세계 1만 1천여 개 비콥 기업이 기업이 어디까지 할 수 있는지 스스로 탐색하길 원하는 집단인데, 현재 비콥 기준에는 장애와 인공지능을 함께 다루는 항목이 없다”며 “이번 체크리스트를 B Lab 글로벌 본부와 공유해 비콥 기준에 반영되도록 노력하겠다”고 밝혔다.

 

끝으로 세 가지를 제안했다. 33개 문항을 줄이는 것도 쉽지 않았겠지만 “딱 3개만 남는다면 킬러 문항은 무엇인지” 묻고, 아기가 걸음마를 시작하는 단계부터 청소년기, 성년기까지 난이도를 나눠 “여기서부터 시작하면 된다”고 안내해 달라고 했다. 아울러 연간 500개 정도 스타트업을 육성하는 만큼 함께 파일럿을 하고 6개월 뒤 변화를 공개하자고 제안했다.

 

보건복지부, AI 사업자 선정 평가에 체크리스트 활용 검토 가능

돌봄 AI 로드맵 속 민간 R&D 투자와 연계 가능성 제시

네 번째 토론자로 참여한 박문수 보건복지부 장애인정책과장은 먼저 복지부의 장애인 정책 규모를 설명했다. “2027년 장애인 복지 예산은 6조 6천억 원대로 복지부 전체 예산의 약 5%이고, 이 중 활동지원이 3조 1,500억 원 안팎으로 절반에 육박한다”며 “AI와 직접 관련된 예산은 있더라도 굉장히 작은 규모일 것”이라고 설명했다.

 

다만 복지부가 올해 4월 ‘복지·돌봄 AI 대전환 로드맵’을 발표했다며 주요 사업을 소개했다. 동작 감지 센서로 장시간 움직임이 없으면 119나 안전센터에 연락하는 AI 스마트홈, 요양시설의 센서 기저귀와 낙상 감지 센서, 침대에서 휠체어로 옮길 때 드는 힘을 3분의 1 수준으로 줄이는 돌봄 보조 로봇 개발이 포함된다.

 

또, “발달장애인의 표현에서 의사를 파악하는 AI 심리케어·행동 분석 사업, 자율주행 휠체어와 시각장애인용 보조기기, 재활 로봇 등 R&D, 장애 유형에 따라 글자 크기와 위치를 자동으로 바꾸는 배리어프리 키오스크 개발도 진행되고 있다”고 밝혔다.

 

박 과장은 AI 관련 사업들이 복지부가 직접 하기보다 민간 기업을 선발해 재정을 투자하는 방식으로 이뤄진다는 점에 주목했다. 그는 “체크리스트가 챗GPT나 제미나이 같은 언어 기반 AI를 넘어 피지컬 AI까지 활용될 수 있다면, 사업자를 선발하는 과정에서 이 체크리스트에 기반해 사업을 구상하고 점검했는가를 평가 요소로 삼을 수 있겠다”고 제안했다.

 

규제와 지원, 혁신과 취약계층 보호의 조화 필요해

기본법 개정 반영 현황 소개하며 윤리 원칙 후속 가이드라인 예고

마지막 토론자인 장은영 과학기술정보통신부 인공지능안전신뢰지원과장은 “이번 체크리스트가 AI 개발·활용 과정에서 장애인의 권리 보호를 위한 구체적이고 실행 가능한 점검 사항을 제시했다는 점에서 의미가 크다”고 평가했다.

 

장 과장은 “최보윤 의원의 AI기본법 개정안 취지를 반영해 AI 정책을 수립하는 과정에서 장애인 등 AI 취약계층의 참여를 보장하고 의견을 반영하도록 노력하는 규정을 만들었고, 국가 AI 기본계획에 취약계층의 AI 제품·서비스 접근성과 이용 보장에 관한 사항을 포함하도록 했다”고 이야기했다. 이어서 “이를 위한 비용 지원 사업의 근거도 마련됐고 또 고영향 AI의 영향평가 때 장애유형과 이용 환경의 차이를 고려하도록 하는 조문이 올해 7월부터 시행되고 있어 장애인의 관점과 특성을 반영할 제도적 기반은 마련됐다”고 설명했다.

 

또 최근에 만들어진 ‘대한민국 인공지능 윤리 원칙’을 소개하며 장 과장은 “이를 현장에서 실천할 수 있도록 해설서와 가이드라인이 현재진행형으로 계속 업데이트될 것”이라고 했다.

 

다만 규제를 서두르는 데는 신중한 입장을 보였다. 장 과장은 “AI가 사회에 어떤 영향을 미칠지는 정답이 있는 게 아니기 때문에 문제가 생길 때마다 규제를 도입하기보다 자율적 해결 방법을 먼저 모색하는 단계”라며, “오류를 교정하고 포용성을 보완하는 기술 R&D와 표준화를 정부가 먼저 지원하는 방식도 검토할 수 있다”고 이야기했다.

 

“AI 사업자라고 하면 챗GPT·제미나이·클로드 같은 거대 사업자를 떠올리지만, 이 모델로 제품을 만드는 기업은 영세하거나 스타트업인 경우가 많고, 대기업은 이미 컴플라이언스 팀이 규제에 대비하고 있지만 중소·영세 업체에는 굉장한 부담이 될 수 있다”는 것이다.

 

보편성과 특수성을 적절하게 고려해야 한다는 지적도 나와

사단법인 장애인사회연구소 정책위원회 김태현위원장은 플로어 발언을 통해 AI가 모두에게 열려야 한다는 ‘보편성’과 접근하지 못하는 주체를 위한 ‘특수성’의 문제를 짚으며, “지금의 AI 세상은 신나는 놀이공원이고 비장애인은 열심히 그 안에서 활용하고 놀고 있지만, 장애인은 접근이 불가능해 보고 있을 수밖에 없다”는 현실을 전했다.

 

이어 그는 “장애인이 AI를 잘 쓰기 위해서는 무엇보다 인터페이스가 준비돼야 하는데 과기정통부의 정보화 사업이 개별 지원에 그치고 있다며, 접근성 확보는 과기정통부가 책임져야 한다”고 주장했다.

 

염 센터장은 토론을 마무리하며 “토론자들이체 체크리스트의 단계적 적용, 성평등 지표처럼 기업에 쓰이는 방식의 도입 등 건설적인 제안을 해줬다고 평가하고, 복지부와 과기정통부가 현장에 반영해 주길 기대한다”고 이야기했다.