‘데이터 수집의 편향·장애 차별 고착화·자기결정권 침해’ 위험성

AI 리터러시 교육 의무화·강력한 법적 규제 근거 마련 등 제언

기자명백민 기자 입력 2025.12.12 15:22 수정 2025.12.12 16:45

【에이블뉴스 백민 기자】

인공지능(AI) 전문가 및 개발자들이 AI의 발전이 장애인 이동과 노동의 평등을 앞당길 수 있다고 긍정적 미래를 이야기하는 반면, 장애계는 급격한 AI 발전이 가져오는 새로운 차별과 배제를 우려하며 AI가 장애 포용적 기술 발전이 될 수 있도록 AI리터러시 교육, 책임 공백 해소를 위한 체계, 국가차원의 규제 등이 필요하다고 목소리를 모았다.

AI는 분명히 장애인에게 있어 장애인의 역량을 강화하고 의사소통 장벽을 해소하는 등 편의성을 높이는 도구가 될 수 있으나 데이터 수집의 편향으로 인한 장애 차별 고착화, 개발 과정에서의 소외, 자기결정권 침해, 범죄에서의 취약성, 프라이버시 침해, 불투명성 등 위험성이 있는 양날의 검이라는 것.

장애우권익문제연구소, 법무법인 디엘지, 한국장애포럼은 12일 오전 10시 서울 여의도 이룸센터에서 ‘장애와 인공지능 : 기회와 위기를 논하다’ 심포지엄을 개최했다.

AI가 장애인에게 미치는 영향 ‘접근과 보호의 역설’

법무법인 디엘지 홍가연 변호사는 “AI는 장애인의 역량을 강화하고 의사소통 장벽을 해소하는 등 핵심적인 해방의 도구가 될 수 있지만, 디지털 격차를 심화시키고 배제와 차별을 경험하도록 하기도 한다. 결국 AI가 장애인에게 미치는 영향은 접근과 보호의 역설이라고 생각한다”고 밝혔다.

이어 “장애인에게 있어 AI의 대표적 위험성은 데이터 수집의 편향, 개발 과정에서의 소외, 자기결정권 침해, 범죄에의 취약성, 프라이버시의 침해, 불투명성 등이다. 특히 결과는 제시하지만 과정은 설명하지 않는 AI의 불투명성은 이의 제기와 권리구제를 어렵게 한다”고 지적했다.

아울러 “결국 장애인에 대한 차별이 발생하더라도 이러한 결과 자체의 발견이나 수정이 어렵고 이는 곧 AI와 관련된 책임의 문제로 이어진다. AI는 하나의 주체가 아닌 데이트 수집자, 알고리즘을 개발하는 기업, 서비스 운영 회사, 이용 기관 등 여러 주체가 있어 책임은 분산되고 모호해진다. 이처럼 누가 책임을 져야 하는지 명확하지 않아 권리구제가 어렵고 책임의 공백이 생기는 것”이라고 덧붙였다.

홍가연 변호사는 “AI와 관련된 위험성의 책임 공백을 해소하기 위해 개인, 사회, 국가, 국제 수준에서 동시에 대응하는 다층적 거버넌스 체계가 필요하다”며 “개인적 차원에서는 단순히 기술을 사용하는 것을 넘어 비판적으로 사용하고 논리적으로 이용할 수 있도록 하는 AI 리터러시 교육이 중요하다. 또한 실제로 AI를 현장에서 활용하는 종사자를 대상으로 장애인권감수성 교육도 병행돼야 한다. 이는 선택이 아니라 법과 제도와 연계해 의무화돼야 한다”고 제언했다.

마지막으로 “사회적 차원에서는 기업과 시민사회의 협력이 핵심이다. 기업은 책임 있는 AI 원칙을 선택해 알고리즘의 투명성을 확보하고 개발단계에서 장애인 단체 등 이해관계자의 참여를 제도적으로 보장해야 한다. 무엇보다 여러 위험성을 해소하기 위해 개인적 또는 기업적 차원을 넘어 국가 차원의 규제가 반드시 필요하다”고 힘주어 말했다.

인력 기반 서비스의 불가능점 돌파 “AI, 장애인 이동권 보장 현실화할 수 있어”

서울대학교 빅데이터 혁신융합대학사업단 이수화 교수는 “기존의 사람, 인력에 의존하는 이동 서비스는 지역적?시간적 제약과 비용의 증가 등 구조적인 한계가 명확하다. 하지만 인공지능 기반의 서비스는 이러한 시공간과 비용의 장벽, 즉 도달 불가능점을 돌파할 수 있다”고 전했다.

이어 “최근 테슬라가 미국 도로교통안전국의 승인을 받은 완전 자율 주행 기능을 한국 시장에 도입했다. 이 기술은 지난 11월 23일부터 이미 한국의 도로를 주행하고 있다. 특히 이미 샌프란시스코와 우한에서 운영 중인 완전 자율 주행 로보택시는 24시간 쉬지 않고 운행된다”고 설명했다.

아울러 “장애인 이동 서비스는 도달 불가능점의 장벽이 가장 두터운 분야다. 수요의 분산, 제한된 운행 시간, 높은 비용이라는 난점이 존재하기 때문이다. 하지만 인공지능이 탑재된 자율주행차는 이 문제를 해결할 열쇠가 된다. 또한 차량 내에 승하차 보조 기구와 장애 유형별 대응 자동화 기구를 갖춘다면 인력 서비스가 닿지 못했던 사각지대를 기술로 메울 수 있다”고 피력했다.

이수화 교수는 “결국 우리에게 주어진 과제는 명확하다. 장애인의 이동을 단순히 돕는 것을 넘어 이를 활성화하는 서비스 기획과 구현에 강력한 소프트웨어 엔지니어링 역량을 집중해야 한다”고 말했다.

마지막으로 “다만 해결해야 할 것은 데이터 학습이나 소프트웨어 개발에 있어 장애인용 소프트웨어 리서치를 지금부터 시작해야 한다는 것이다. 기업은 소프트웨어 만들 때 가장 많이 팔릴 것을 만드는데, 장애인용은 많이 팔리지 않으면서 리서치에는 돈이 많이 든다. 이에 국가적으로 자율주행 분야에서 장애인용 소프트웨어 리서치를 지금부터 신경 써야 한다”고 당부했다.

Agentic AI의 성공적 구축과 안착, 노동 평등의 시계를 앞당길 수 있다

뤼튼테크놀로지스 박민준 AX 대표는 “AI 비서와 같은 역할을 하는 ‘Agentic AI’를 연구하고 보급하는 기업들의 역할은 명확하다. 과거에는 신체적 제약으로 인해 업무 수행이 어려웠던 이들이 AI라는 도구를 통해 비장애인과 아무런 차이 없이, 어떠한 불편함도 없이 업무 프로세스에 온전히 녹아들게 하는 것”이라고 말했다.

이어 “우리는 이미 음성 합성, 음성 인식과 같은 기술을 보유하고 있다. 여기에 자율적으로 사고하고 행동하는 Agentic AI 기술이 결합된다면 장애인이 외부의 도움 없이, 비장애인과 동등한 속도로 업무를 완수하도록 할 수 있다”고 덧붙였다.

아울러 “Agentic AI를 구축하는 과정에서 수없이 실패하고 다시 길을 찾아내며 깨달은 것은 AI전문기업과 기존 업무의 전문가들이 힘을 합쳐 기존 업무에 새로운 인터페이스와 기술적 맥락을 이식한다면 장애라는 개념 자체가 성립하지 않는 워크플로우를 만들어내는 것이 절대 불가능하지 않다는 것이다”라고 설명했다.

마지막으로 “기업이 음성 합성, 음성 인식, 검색 증강 생성, 그리고 메모리 시스템이 결합된 고도화된 Agentic AI를 성공적으로 구축하고 이를 실제 워크플로우에 안착시키고, 국가와 사회가 이러한 기술적 토양에 과감하게 힘을 싣는다면 이는 실질적인 경제 활동 인구의 증가로 이어질 것이다”라고 강조했다.

실효적 인공지능 법률 개정·장애인 참여 기반 AI 거버넌스 구축 등 제언

서울시장애인재활협회 손학 회장은 “저는 정보 접근성 전문가로 활동하고 있으며 희망적 내용보단 현실적인 분석적 내용을 공유하고자 한다”면서 “발제를 통해 채용 차별, 기술 접근 차별, 생성형 AI의 편향 등 사례를 말해 주었다. 덧붙여 인공지능 활용하는데 따른 정보습득에 대한 능력의 차별이 가장 큰 문제가 되지 않을까 생각한다”고 설명했다.

이어 “기술이 발전하면 삶이 개선되긴 한다. 기술이 발전하면서 분명히 장애인의 삶 또한 나아졌다. 하지만 개선의 문제가 아니라 격차의 문제다. 비장애인에 비해 격차가 생기니까 상대적 차별로 작용하는 것”이라며 “느슨한 규제와 책임 조항 유예 등 실효성 떨어지는 국내 법·제도 또한 문제가 될 것이라 생각한다”고 덧붙였다.

아울러 “장애 포용적 AI 시대를 위해 정책을 제안하자면 먼저 ‘EU 인공지능법’ 수준의 실효적 법률 개정이 필요하다. 장애인의 채용, 복지, 교육 등에 영향을 미치는 AI 시스템을 고위험으로 명확히 지정하고 해당 시스템에 대한 강력한 사전·사후 규제 근거를 마련해야 하며, 실질적 책임 강화를 위한 처벌 규정을 상향해야 한다”고 제언했다.

마지막으로 “장애인 참여 기반의 독립적 AI 거버넌스를 구축하는데 단순히 장애인 당사자의 참여가 중요한 것이 아니라 장애인이자 접근성 문제에 대한 전문가가 참여해야 한다고 생각한다”면서 “기술의 설계부터 활용까지, 전 과정에 걸쳐 포용성을 확보하기 위해 '장애 인권 데이터 및 AI 리터러시에 대한 국가 전략을 수립해야 한다”고 강조했다.

과기부, “AI와 장애 이슈, 디지털포용역량영향평가에 반영되도록 노력하겠다”

과학기술정보통신부 디지털포용정책팀 권오민 팀장은 “오늘 토론회에서 많은 말씀을 해주셨는데 인상적이었던 것은 발제해 주신 접근과 보호의 역설이었다. 그 이유는 AI 격차에 대한 정책에 대해 기술이 혁신적인 수단이라고 생각하고 정책을 고민하면서 접근성에 무게 중심을 두었는데, 정책을 해나감에 있어서 보호 관점에 대해 고민하고 균형 있게 가져가야겠다고 생각을 하게 됐다”고 말했다.

이어 “또한 장애 분야는 아니지만 해외에서 AI 동반자 챗봇 등 AI 상담 모델에서 위험한 정보를 제공하는 사례가 문제가 되고 있어 우리나라에서도 대응해야 한다고 이야기가 나오고 있고 이를 위해 개선해 나가는 과정에 있다. 이러한 과정을 봤을 때 편향성 등 AI가 가져올 수 있는 장애 차별 문제에 대해 공론화를 거쳐 제안을 주신다면 충분히 해결할 수 있을 것이라 생각한다”고 밝혔다.

아울러 “저희 디지털포용정책팀은 모든 사람이 동등하게 AI 서비스를 누릴 수 있게 목소리를 내고 있고 규제에 관해서는 다른 부서에서 담당하고 있는데 오늘 주신 규제에 대한 내용이 정책에 반영될 수 있도록 부서와 협의해 나가겠다”고 강조했다.

마지막으로 “모든 공공부문에 도입되는 기술·제품·서비스·사업·계획에 있어 모든 사람이 동등하게 이용할 수 있도록 설계하고 검토하는 제도가 내년 말부터 시행 예정인데, 이 제도 자체의 지표를 설계하는 과정에서 토론회 중 나온 AI와 장애인에 관한 이슈와 문제제기가 디지털포용역량영향평가에 반영될 수 있도록 적극적으로 노력하겠다”고 덧붙였다.

-장애인 곁을 든든하게 지켜주는 대안언론 에이블뉴스(ablenews.co.kr)-

-에이블뉴스 기사 제보 및 보도자료 발송 ablenews@ablenews.co.kr-

백민 기자 bmin@ablenews.co.kr

에이블 뉴스 바로가기

출처: 에이블뉴스(https://www.ablenews.co.kr/news/articleView.html?idxno=226849)