AI 시스템이 투명성과 책임성을 갖고 운영될 수 있도록 감시할 것
어제(12/26) 국회는 시민사회의 수정보완 요구에도 불구하고, 끝내 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)(위원장)」(이하 ‘AI 기본법’)을 통과시켰다. 고위험 AI로 인해 발생할 수 있는 위험으로부터 시민의 안전과 인권을 보호해야 한다는 시민사회의 요구를 외면한 정부와 국회를 규탄한다.
우리 시민사회는 21대 국회에서부터 AI의 위험성을 통제하고 고위험 AI 사업자의 책임성을 강화하며, AI의 영향을 받는 사람의 권리를 보장하는 방향으로 AI 기본법이 제정되도록 노력해왔다. 그럼에도 불구하고, 이번 국회 본회의를 통과한 AI 기본법은 시민사회가 줄기차게 요구해왔던 핵심적인 내용을 누락하고 있어, 21대 국회에서 논의되었던 법안과 크게 다르지 않다. ▲금지해야 할 인공지능에 대한 규정이 없고, ▲고영향 인공지능 사업자의 범위는 여전히 협소하며, ▲고영향 인공지능 사업자의 책무 위반에 대한 처벌 규정도 미흡하다. 단지 책무 위반에 대한 과기정통부의 시정명령을 이행하지 않을 때에야 과태료를 부과하고 있을 뿐이다. ▲인공지능에 영향받는 자의 정의가 포함된 것은 다행이지만, 정작 영향받는 자의 권리 및 구제에 대한 조항은 두고 있지 않다. ▲학습 데이터 공개 등 범용 인공지능 사업자의 의무 조항 역시 포함되어 있지 않다. ▲인공지능 인권영향평가도 ‘노력할 의무’만을 부여하고 있어 실효성이 있을지 의문이다. 더구나 독소조항을 새롭게 포함하였는데, ▲국방 또는 국가안보 목적의 인공지능을 이 법의 적용에서 배제한 것이다.
그나마 정부여당안보다 보완된 일부 내용이 최소한의 규제로 작동할 수 있는 부분은 불행 중 다행이라 할 것이다. ▲일부 발의안에 포함되었던 ‘우선허용·사후규제 원칙’ 조항이 최종 AI 기본법에 포함되지 않았다. ▲국제적인 정합성을 위해 OECD 정의를 차용하여 ‘인공지능 시스템’을 정의하였고, ‘영향받는 자’의 개념도 정의에 포함되었다. ▲고영향[고위험] 인공지능에 ‘유아교육ㆍ초등교육 및 중등교육에서의 학생 평가’가 포함되었다. ▲기본원칙(제3조)에서나마 “인공지능이 사람의 생명ㆍ신체의 안전 및 기본권에 중대한 영향을 미치는 경우”, 그 결과의 이유 및 원리 등에 대하여 기술적ㆍ합리적으로 가능한 범위에서 명확하고 의미 있는 설명을 제공받을 수 있는 ‘영향받는 자의 권리’를 규정하였다. ▲영향받는 자를 포함한 이해당사자가 신고 및 민원을 제기할 수 있도록 하고, 사실조사를 통해 과기정통부 장관이 법 위반사항을 조사하고 시정명령을 할 수 있는 권한을 신설하였다. ▲딥페이크 등 생성형 AI의 고지 및 표시 의무 등 투명성 의무가 강화되었다. ▲미약하지만, 고영향 AI 사업자에 대해 영향평가를 위해 ‘노력’할 의무를 부과하였다.
이미 다양한 AI 제품과 서비스가 우리 사회에 도입되고 있다. 이번 국회를 통과한 AI 기본법이 AI의 위험성을 예방하고 통제하는데 과연 실효성이 있을지는 의문이다. 특히 실제 AI의 편향, 오류, 남용으로 인해 차별적 결정, 감시, 안전 위험 등이 발생하더라도 이에 대해 피해 당사자가 인지하지 못하거나 그 원인을 제대로 파악할 수 없을 가능성이 높다는 점이야말로 가장 큰 문제라고 할 것이다. 비록 이번에 제정된 AI 기본법 규정상으로는 AI에 대한 제대로 된 규율이 어렵게 되었지만, 행정당국의 권한을 확인하는 것을 넘어 영향을 받는 자가 적극 적인 권리를 행사하여 우리 사회에 도입된 AI 시스템이 투명성과 책임성을 갖고 운영되도록 시민사회는 감시의 노력을 게을리하지 않을 것이다.
AI 기술의 빠른 발전 속도를 고려할 때, 정부와 국회 역시 AI 기본법의 문제점을 빠르게 보완하고, 안전과 인권에 기반한 AI 기술 개발이 이루어질 수 있도록 노력할 것을 촉구한다. 특히 각 부처는 소관 분야별로 규제를 집행하는 특별법 제정을 통해 AI의 위험성을 최소화할 필요가 있다.
2024년 12월 27일
광주인권지기 활짝, 건강권실현을위한보건의료단체연합 (건강권실현을위한행동하는간호사회,건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회), 국제민주연대, 무상의료운동본부, 문화연대 기술미디어문화위원회, 민주사회를위한변호사모임 디지털정보위원회, 삶과노동을잇는배움터 이짓, 생명안전 시민넷, 서울YMCA 시민중계실, 소비자시민모임, 언론개혁시민연대, 연구공동체 건강과대안, 전국금속노동조합, 전국민주노동조합총연맹, 전국장애인차별철폐연대, 전북평화와인권연대, 정보인권연구소, 진보네트워크센터, 참여연대, 천주교인권위원회, 한국소비자연맹, 홈리스행동
