“의료AI? 철저한 검증 걸쳐야”
상태바
“의료AI? 철저한 검증 걸쳐야”
  • 이인문 기자
  • 승인 2023.03.10 16:21
  • 댓글 0
이 기사를 공유합니다

보건의료단체연합 등 16개 시민사회단체, 국회 앞에서 기자회견… 인공지능법안 전면 재검토 ‘촉구’
인공지능법안에 대한 전면 재검토를 요구하는 16개 시민사회단체들의 기자회견이 지난 9일 국회 앞에서 개최됐다.
인공지능법안에 대한 전면 재검토를 요구하는 16개 시민사회단체들의 기자회견이 지난 9일 국회 앞에서 개최됐다.

최근 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하 인공지능법안)」 이 국회 과방위 정보통신방송법안심사소위를 통과했다고 알려지고 있는 가운데 참여연대와 건강권실현을위한보건의료단체연합(이하 보건의료단체연합) 등 16개 시민사회단체들이 지난 9일 국회 앞에서 기자회견을 열고 해당 법안에 대한 전면 재검토를 요구했다.

참여연대 김태일 권력감시1팀장의 사회로 진행된 이날 기자회견에서 첫 발언자로 나선 참여연대 공익법센터 김선휴 운영위원은 “헌법 37조2항에 따라 국가는 안전보장과 질서유지, 공공복리를 위해 필요한 경우 기본권을 제한할 수 있다. 하지만 이 법안 11조 1항은 생명안전권익에 위해가 발생한 이후에야 규제할 수 있다. 사전규제는 안전보장 질서유지 공공복리 현저히 저해할 우려가 있을 때만 가능하다”면서 “이 법안처럼 다른 기본권이나 헌법적 가치를 현저히 해할 우려를 요건으로 하는 경우는 일반적이지 않으며 인공지능을 개발, 출시할 권리가 안전보장이나 공공복리를 침해할 현저한 우려가 있을 때만 제한해야 할만큼 다른 기본권이나 헌법적 가치보다 우위에 있는가 의문”이라고 지적했다.

아울러 그는 “사후규제가 과연 실효적인가? 이미 국민의 생명안전권익에 위해가 발생했다면 특히 생명안전 위해는 사후약방문일 수밖에 없다. 자동차 급발진에 대해서도 책임을 묻지 못하는데 인공지능의 오류나 오작동, 편향에 대해 그 개발자나 기업에 어디까지 책임을 물을 수 있는지 아직 법체계 정비나 해석이 미비하다”며 “인공지능의 위험으로부터 국민을 보호할 규제장치를 마련하지 않고 법안을 통과시키려 하는 것은 결국 기업에게도 국가에게도 책임을 피해갈 수 있게 해주는 법안을 통과시키겠다는 것”이라고 비판했다.

민주사회를위한변호사모임 디지털정보위원회 김하나 위원장도 “정부의 인공지능산업 육성을 지지하지만 이번 법안심사소위를 통과한 인공지능법안에 기초한 인공지능산업 육성에는 반대한다”면서 “인공지능기술산업은 정보주체와 소비자의 권리와 인권에 관한 논의, 그리고 교육· 보건·노동 등의 분야에서 인공지능기술을 탑재한 각종 공산품의 안전성에 대한 논의와 함께 이루어져야 한다”고 강조했다.

김 위원장은 “인공지는법안은 인공지능 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독체계를 수립, 인공지능의 피해에 대한 구제수단을 구비하는 내용을 담아야 한다”며 국가인권위원회는 이미 지난해 5월 「인공지능 개발과 활용에 관한 인권 가이드라인」을 통해 ▲개인의 인권과 안전에 미치는 위험성별로 그에 걸맞는 수준의 규제와 인적 개입 ▲인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립 ▲인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회 제공 등 권고했다고 피력했다.

정보인권연구소 장여경 상임이사는 “과방위의 인공지능법안은 미래산업 육성을 명분으로 모든 규제를 완화하고 있지만 인공지능 제품과 서비스의 위험문제는 먼 미래가 아니고 바로 우리 눈 앞에 닥친 문제”라면서 “이 법안이 통과되면 공정거래위원회와 개인정보보호위원회, 국가인권위원회 등이 인공지능의 위험성을 제대로 조사하고 특히 사전에 조치하는 일은 아주 큰 방해를 받게 될 것”이라고 우려했다.

그는 “해외에서도 인공지능 제품과 서비스의 위험문제가 크게 불거져 쇼핑몰 무인로봇이 유아를 공격하고 자율주행 자동차의 작동오류로 사망사고를 여러건 일으킨 바 있다”며 “유엔은 각국에 인공지능의 인권침해와 차별 등을 국가적으로 감독하기 위한 체계를 마련하고 피해자의 권리를 구제할 것을 요구하고 있으며 유럽연합 집행위원회는 시민에게 너무 위험해 용인할 수 없는 인공지능을 금지했는데 여기에는 장애인 등의 취약점을 악용하는 인공지능이나 공공장소에서 원격으로 감시하는 생체인식 인공지능 등을 포함하고 있다. 우리나라처럼 인공지능 위험에 대응하는 모든 규제를 금지하고 우선허용 사후규제를 명시한 인공지능법안은 국제적 흐름에 어긋나는 것”이라고 설명했다.

장여경 상임이사
장여경 상임이사

끝으로 보건의료단체연합 전진한 정책국장은 “현재의 법안은 의료기기를 포함한 보건의료에 적용하는 인공지능도 우선허용 사후규제 대상으로 삼고 있다”면서 “국민 안전과 생명보호에는 뒷전인 인공지능법안에 반대한다”고 밝혔다.

전 국장은 “의료인공지능으로 잘 알려진 '왓슨'을 개발한 IBM은 이 프로그램을 '암 치료의 혁명'이라고 홍보했는데 문제는 이 기술이 연구단계임에도 판매돼서 상용화됐다는 것”이라며 “결국 왓슨은 안전하지도 않고 부정확한 치료법을 추천, 폐암의 경우 정확도는 18%, 위암과 유방암의 정확도는 40%대에 불과했다. 그럼에도 미국에서는 많은 병원들이 '왓슨'을 도입했는데 그 이유는 과장된 홍보로 암환자를 유인할 수 있고 인공지능을 쓴다는 이유로 엄청난 비용을 청구할 수 있었기 때문이었다”고 강조했다.

특히 그는 “규제되지 않은 인공지능은 최악의 경우 환자의 건강과 생명을 위협할 수 있다. 중요한 순간에 잘못된 명령이 내려진다면 시스템이 붕괴하고 많은 사람들이 목숨을 잃을 수 있다. 특히 병원에서는 소비자가 기술을 선택하는 게 아니라 의료인의 판단에 모든 걸 맡기기 때문에 의료인공지능을 고위험 기술이라고 분류하고 있으면서도 검증을 생략하고 아무런 제한을 두지 않겠다는 것은 위험하다는 걸 알면서도 국민의 안전을 기업의 이익을 위해 포기하겠다는 것과 다를 바 없는 것”이라면서 “국민의 생명과 안전, 인권을 심각하게 침해할 이런 말도 안되는 악법이 통과되는 일은 결코 없어야 할 것”이라고 덧붙였다.

전진한 정책국장
전진한 정책국장

다음은 이날 이들 단체들이 발표한 기자회견문 전문이다.

안전과 인권 새규제 외면한 인공지능법 제정안에 반대한다. 

국회 과방위는 인공지능법안 전면 재검토하라.

 

지난 2월 14일, 국회 과학기술정보방송통신위원회 심사소위는 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안」을 통과시켰다. 그러나 이 법안은 인공지능 규율을 위한 기본법임을 표명하면서, 안전과 인권에 미치는 인공지능의 위험을 규제할 수 있는 실질적인 내용은 없고, 인공지능 산업 육성을 위해 ‘우선허용 사후규제’라는 터무니없는 원칙을 앞세워 오히려 정당한 규제의 도입을 방해할 가능성이 크다. 국회 과방위는 산업계의 이익만을 위해 졸속으로 추진하고 있는 이 법안을 즉각 폐기해야 한다. 

최근 챗GPT를 비롯한 인공지능 기술의 발전이 많은 사람들을 놀라게 하고 있지만, 이미 공공 및 민간 영역에서 인공지능 서비스들이 실생활과 업무에 상당히 도입되어 있다. 인공지능 알고리즘의 차별 문제, 인공지능 개발 과정의 개인정보 침해, 실시간 얼굴인식과 같은 인공지능 감시 문제 등 특히 고위험 인공지능이 야기할 수 있는 여러 문제를 방지, 완화할 수 있는 규율이 필요하다는 것에 대한 공감대도 확산되고 있다. 이에 국가인권위원회도 2022년 5월 <인공지능 개발과 활용에 관한 인권 가이드라인>을 발표하여 △개인의 인권과 안전에 미치는 위험성 별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공할 것 등의 내용으로 하는 입법을 정부에 권고한 바 있으며, 국무총리와 각 부처 장관 역시 이 권고를 수용한 바 있다. 그러나 이번에 국회 과방위 법안심사소위를 통과한 인공지능 법안이 이러한 요구에 부응하고 있는지는 의문이 아닐 수 없다. 

이 법안은 고위험 인공지능을 정의하고 있지만, 주요 국가에서 추진하는 고위험 인공지능 규제 대상과 내용에 비하여 중요한 분야를 누락하고 있으며, 금지해야 하는 인공지능에 대해서는 전혀 규정하고 있는 바가 없다. 더구나 고위험 인공지능을 규정하는 이유는 그 위험성을 방지, 완화하기 위한 것인데, 법안에서 규정하고 있는 고위험 인공지능에 대한 규율은 고지 의무와 사업자 책무 등 단편적이고 형식적인 것에 그치고 처벌 규정도 없는 등 실질적인 위험 방지 장치를 갖추고 있지 못하다. 이는 유럽연합 인공지능 법안에서 고위험 인공지능 시스템의 개발이나 활용하는 사업자에 대해서 위험 영향을 평가하거나 완화할 의무, 출시 전 검사하거나 사후에 모니터링할 의무, 개발이나 운영 중 문서화하거나 기록할 의무, 데이터 편향이나 오류를 방지할 의무, 작동에 대해 투명하게 설명할 의무, 인간이 관리감독할 의무, 시스템의 견고성·정확성·보안성, 인증·등록·보고 의무 등을 세세하게 규정하고, 금지된 인공지능을 출시한 경우 최대 3천만 유로 또는 연간 전세계 총매출의 6%의 벌금을 부과하는 등 엄격하게 규율하고자 하는 것과 대비된다. 

오히려 이 법안은 다른 관할 기관의 정당한 규제를 방해할 가능성이 크다. 제11조는 우선허용ㆍ사후규제 원칙을 규정하고 있는 가장 큰 독소조항으로, 국민의 안전과 인권에 치명적인 영향을 미칠 수 있는 인공지능도 우선허용되어야 하는지 되묻지 않을 수 없다. 더구나 제11조 2항은 다른 국가 및 지방자치단체 역시 ‘인공지능기술, 인공지능제품 또는 인공지능서비스와 관련된 법령 및 제도’를 수립할 때 이 원칙에 부합하도록 요구하고 있는데, 이는 개인정보보호위원회나 공정거래위원회 등이 정보주체나 소비자의 안전과 권리를 위한 인공지능 규제를 도입하는 것과 충돌할 수 있다. 

이와 같은 산업 편향은 과학기술정보통신부에 인공지능과 사회정책 일반을 소관하도록 한 것에도 나타난다. 이 법안은 과기정통부에 인공지능산업 진흥 및 인공지능 신뢰성 제고를 위하여 법령의 정비 등 관련 제도를 개선할 권한을 부여하고 있고 인공지능 신뢰 기반 조상을 위한 시책을 마련하도록 하고 있다. 또한 과기정통부는 인공지능산업의 진흥 및 신뢰 확보와 관련된 사항을 심의‧의결하기 위한 인공지능위원회의 간사를 맡고 있다. 지금까지 인공지능 산업육성과 자율규제만을 외치며 안전과 인권 보호를 등한시해왔던 과기정통부가 인공지능 신뢰 기반 조성을 위한 사업을 주도할 자격이 있는지 의문이다. 고양이에게 생선을 맡기는 격이 되지 않을지 우려된다. 

이 법안은 국가인권위원회의 권고도 충족하지 못할 뿐더러, 국제적인 기준과 권고에도 부합하지 않는다. 이미 2020년 유엔사무총장은 인공지능 사용에 대한 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비할 것을 각국에 권고한 바 있다. 또한 유엔인권최고대표는 2021년 <디지털시대 프라이버시권 보고서>에서 공공과 민간 인공지능 사용의 부정적인 인권 영향을 방지하고 완화하는 인권실사와 피해자를 구제하는 규제 체계의 도입을 요구하였다. 국제적인 요구수준에 부합하지 않는, ‘세계 최초 인공지능 법안’은 세계적인 웃음거리가 될 뿐이다. 

과연 이 법안으로 아무런 사전 검토도 없이 인공지능 채용 프로그램을 도입하고 있는 공공기관이 책무성을 갖도록 할 수 있을까? 법무부가 출입국 시스템 고도화를 명분으로 내외국인의 얼굴정보를 무단으로 사용하는 것을 막을 수 있을까? 수사기관이 충분한 사회적 논의와 안전장치없이 범죄수사나 예방을 위한 인공지능 시스템을 개발하는 것을 막을 수 있을까? 이미 무분별하게 도입되고 있는 인공지능 서비스를 고려할 때, 인공지능에 대한 적절한 법적 규율은 필요하다. 그러나 이렇게 제대로 된 규율도 없고 오히려 정당한 규제 도입을 방해할 수 있는 인공지능 법안을 졸속으로 추진해서는 안된다. 

우리 인권시민사회단체들은 안전과 인권 보장을 외면한 인공지능 법안 제정에 반대한다. 국회 과방위는 더 늦기 전에 인공지능 법안을 폐기하고 원점부터 사회적인 논의를 시작하라. 제품안전, 소비자보호, 개인정보보호, 차별금지 등 안전과 인권에 관한 규제를 소관하는 모든 상임위원회가 참여하여 국회 차원에서 인공지능 기본법을 재검토할 필요가 있다.

- 국제 인권규범, 국가인권위 인공지능 가이드라인 무시하는 인공지능법 제정 반대한다!

- 과방위는 인공지능산업 육성에만 치중한 인공지능 법안 전면 재검토하라!

- 안전과 인권보장이 우선이다! 우선허용ㆍ사후규제 원칙 폐기하라! 

2022년 3월 9일

경제정의실천연합, 광주인권지기 활짝, 건강권 실현을 위한 보건의료단체연합, 무상의료운동본부, 민주사회를 위한 변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 서울YMCA 시민중계실, 언론개혁시민연대, 연구공동체 건강과 대안, 전국민주노동조합총연맹, 전국사무금융서비스노동조합, 전북평화와인권연대, 진보네트워크센터, 천주교인권위원회, 참여연대, 홈리스행동

 



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사