“뇌병변장애인 A씨는 카드사에 결제와 관련한 확인을 위해 고객센터 번호로 전화를 걸었고 AI상담사와 연결됐다. 하지만 몇 번이나 필요한 서비스를 말했음에도 AI상담사는 ‘잘 알아듣지 못했어요’라는 답변을 반복했다. 이후 상담원이 연결될 것이라 생각했지만, 상담은 일방적으로 종료됐다.”
“지적장애인 B씨는 OTT 서비스에 대해 결재를 진행하기 위해 고객센터로 전화를 걸었지만, 챗봇의 설명이 너무 어려워 결국 결재를 진행하지 못했다. 이후 해당 OTT 서비스를 운영하는 본사 고객센터로 다시 문의해 알기 쉬운 설명을 들으며 결제를 진행할 수 있었다.”
【에이블뉴스 백민 기자】 인공지능(AI)는 최근 우리 사회에 뿌리 깊게 자리 내렸다. 하지만 장애인 등을 고려하지 않고 무분별하게 발전한 기술은 ATM과 키오스크 등 무인서비스에 이어 또 다시 장애인에게 차별을 경험하게 하고 있어, 이를 해소하기 위한 기술적·제도적 개선의 필요성에 대한 논의가 본격적으로 시작됐다.
장애인차별금지추진연대(이하 장추련)는 21일 오후 2시 서울 여의도 이룸센터에서 ‘인공지능 기반 금융서비스에서의 장애인 차별 해소방안 토론회’를 개최했다.
‘AI 기반 비대면 서비스 제공의 장애인 접근성 보장 가이드라인’ 제안
장추련 이승헌 사무국장은 “인공지능 기반 금융서비스와 같이 무인서비스가 언제 장애인들에게 큰 영향을 미쳤는지 생각해보니 30년 전 1992년도 무인대면기 ATM기기가 만들어지면서 많은 장애인이 불편함을 호소했다. 사람 없이 금융서비스를 이용하려니 제대로 기능하지 않았고 시각장애인, 청각장애인, 발달장애인, 휠체어 이용 장애인이 서비스를 제대로 이용할 수 있도록 많은 투쟁과 개선이 있었다”고 밝혔다.
이어 “또 돌아보면 10년 전부터는 무인정보단말기 키오스크가 등장하면서 금융서비뿐 아니라 법 먹을 때도, 커피를 마실 때도, 영화를 보러 갈 때도 키오스크를 사용하지 않으면 안 되는 사회가 됐다. 하지만 당연하게도 장애인의 접근은 거의 불가능했고 많은 싸움을 통해 3년 전 무인정보단말기와 관련된 시행령을 만들 수 있었다”고 덧붙였다.
아울러 “그 와중에 AI가 급속도로 발전하면서 우리 사회생활에, 특히 장애인 입장에서는 너무 많은 영향을 끼치고 있다. 최근 몇 년 동안 뇌병변장애인, 언어장애인, 발달자애인 AI 챗봇과 AI상담가를 통해서 서비스 제대로 못 받고 차별 받았다”고 꼬집었다.
이에 금융사와 보험사 총 20곳을 대상으로 한 비대면 서비스 고객센터 이용 장애인 접근성 모니터링 결과, AI챗봇 상담은 답변의 범위가 너무 좁았으며 알기 쉬운 내용은 제공되지 않았다. AI상담원의 경우 부정확한 발음을 이해하지 못했다. 또한 간단한 상담도 까다롭고 복잡한 인증절차로 어려움이 있었으며 시작화면에서 수어상담 등 장애인 상담 방법은 찾기 어려웠다.
이러한 AI 기반 금융기관의 비대면 서비스 개선을 위해 이승헌 사무국장은 ‘AI 기반 비대면 서비스 제공의 장애인 접근성 보장 가이드라인’을 제안했다. 가이드라인은 챗봇상담 데이터에 장애 관련 정보를 기본내용을 포함하고 검색 내용을 알기 쉬운 설명으로 확인할 수 있는 시스템을 구축해야 한다고 제시했다.
또한 AI음성상담사 알기 쉬운 설명을 하는 형태로 기본 내용 탑재, AI상담사의 음성인식 기능강화, AI상담사와의 소통이 어려운 경우 즉시 일반 상담원에게 연결, 장애인 전용 상담전화 운영 등 내용이 포함돼야 한다고 강조했다.
차별 없는 금융 AI ‘인공지능기본법에 장애인 접근성 및 차별 여부 명시’ 제언
장애인권법센터 김예원 변호사는 “우리 사회는 AI로 인해서 어마어마한 변화를 겪고 있다. 이렇게 AI가 발전하고 있는데 이를 잘 활용하지 못하는 분들을 고려하지 않을 경우 향후 그 격차를 감당하기 힘들 것이다. 그렇다면 차별 없는 AI, 모두를 위한 서비스가 가능할까? 가능해야 한다”고 힘주어 말했다.
아울러 “기술의 발전에는 언제나 차별 가능성이 있다. 기득권, 돈이 되는 대상으로 기술이 발전하다 보니 예외가 있었던 적은 없었던 것 같다”면서 “앞선 발제에서 금융 상담을 중심으로 말씀해 주셨는데 금융 산업에서 진입, 대출심사, 투자자문, 보험의 가입신청에 대한 위험평가도 인공지능으로 돼 있다. 여기서 발생하는 차별 가능성도 봐야 한다. 이는 단순한 디지털 격차에서 더 나아가 구조적 배제까지 갈 수 있다”고 경고했다.
이어 “장애인 접근권을 위해 장애인차별금지법, 지능정보화 기본법이 있고 인공지능법이 최근 제정됐으나 실효성 없는 조문, 물리적 접근권에 치중된 법안 등 한계가 있다”며, “다만 금융위원회의 ‘금융분야 AI 운영 가이드라인’은 기존 법제보다 더 다층적이고 정교한 프레임을 제공하고 있다”고 설명했다.
김예원 변호사는 “AI 기반 금융서비스에서 장애인의 실효적 포용을 위해 인공지능기본법의 시행령에 고영향 인공지능의 영향평가 항목에 ‘장애인 접근성 및 차별 여부’를 구체적으로 포함시킬 필요가 있다. 또한 금융 AI 서비스에 대한 접근성 인증제 도입이 필요하다”고 입법·제도적 과제를 제시했다.
마지막으로 “금융기관의 자체의 실행지침을 명확히 하고 당사자 참여와 외부 감시체계를 강화해야 한다”면서 “단순한 응대 매뉴얼이 아니라 점자, 수화, 스크린리더 사용법 등 금융기관 직원에 대한 교육을 강화해야 한다”고 덧붙였다.
‘AI챗봇·AI상담사’ 장애인 접근권 위한 방언에 대한 기술적 제언
ICT 융합공학 배석민 박사는 “인공지능을 개발하고 있는 개발자이자 공학자의 입장에서 오늘 토론회에서 제안된 발제문의 사항에 대해 '이런 것은 만들 수 겠다', '아쉽게도 지금은 만들기 힘들겠다'는 의견을 내고 만들 수 없는 사항에 대해서는 대안을 제안하려고 한다”고 전했다.
이어 “은행이나 보험사, 기타 금융사의 회원 데이터베이스에 사용자의 장애 관련 정보를 등록하면 수어 상담이나 상담사 직접연결 등 장애유형에 맞춘 맞춤상담을 할 수 있다”면서 “하지만 이는 말은 쉽지만 공학자의 입장에서는 굉장히 어렵다. 대안으로는 AI챗봇 화면이 떴을 때 사용자가 가장 찾기 쉬운 곳에 상담사 연결 및 수어 상담 등을 배치하는 것이 현실적인 방안”이라고 제안했다.
아울러 “챗봇 상담 검색 내용을 알기 쉬운 설명으로 확인할 수 있는 시스템 구축은 UX(User Experience, 사용자의 서비스 사용에 대해 느끼는 경험)적으로 해결할 수 있다. AI 상담사에게 알기 쉬원 설명 기능을 기본적으로 탑재하는 것도 이를 통해 가능하다. 다만 쉬운 설명은 내용이 굉장히 길어질 수 있어 일반 설명과 쉬운 설명을 선택적으로 제공하는 구조가 효과적이다”고 설명했다.
마지막으로 “AI 상담사의 음성인식 기능 강화의 경우 음성에 대한 민감도 조정을 통해 어느 정도 맞춰나갈 수 있다. 그래서 언어장애인뿐 아니라 외국인 등의 발음이 부정확해도 알아들을 수 있게 만들 수 있다. 하지만 언어장애인의 발화를 직접 학습시켜 고도화하는 것은 기술적으로 까다로운 과제이기에, 대형 언어 모델과 연동된 시스템을 통해 사용자의 음성을 문자로 전환한 후 의도에 가까운 문장을 복수개로 표현해 준 후 사용자가 선택하는 방식이 현실적인 대안이 될 수 있다”고 제언했다.
-장애인 곁을 든든하게 지켜주는 대안언론 에이블뉴스(ablenews.co.kr)-
-에이블뉴스 기사 제보 및 보도자료 발송 ablenews@ablenews.co.kr-
