지난해 2월 과방위 소위를 통과한 인공지능산업육성법(AI법) 제정 논의가 진전될지도 지켜봐야 합니다. AI법은 AI 육성 도모와 이용자 신뢰 기반 마련을 입법 목적으로 삼는데요. AI와 알고리즘 연구와 개발을 위해 '우선 허용-사후 규제' 원칙을 보장하는 게 핵심입니다. 또 인간의 생명, 안전과 직결된 내용을 '고위험 영역 AI'로 설정해 사용 사실 고지 의무와 AI 도출 결과에 대한 설명 의무를 부과합니다.
최대 쟁점은 우선 허용-사후 규제 원칙 조항의 폐지 여부입니다. 해당 조항은 '누구든지 AI 기술 및 알고리즘의 연구·개발 및 AI 제품 또는 서비스 출시 등과 관련된 행위를 할 수 있다. 이 경우 AI 기술, 제품, 서비스가 국민 생명·안전·권익에 위해가 되거나 공공의 안전 보장, 질서 유지, 복리 증진을 현저히 저해할 우려가 있는 경우가 아니라면 제한해선 안 된다'는 내용입니다.
이 조항을 반대하는 목소리가 상당합니다. 참여연대와 민변 디지털정보위원회, 정보인권연구소 등 16개 시민단체는 지난해 3월 AI법에 대한 전면 재검토를 촉구했는데요. 우선 허용-사후 규제 조항이 AI 규제 도입을 선제적으로 가로막는 장치로 작용할 수 있는 부작용을 지적했죠.
국가인권위원회 역시 우선 허용-사후 규제 원칙 삭제를 주장합니다. 또 AI 육성과 규제 업무를 과기부가 전부 맡을 게 아니라 AI 감독과 규제에 특화된 별도 기관을 만들자는 의견도 내놨죠. 앞서 방송통신위원회도 과기부가 AI 규제까지 전담하는 부분에 이의를 제기했었는데요. 이용자 보호 규제는 방통위가 맡아야 한다고 주장했지만 소위가 받아들이지 않았습니다.
AI법 제정안의 소위 통과까지 이뤄졌지만 대대적인 수정이 유력합니다. 관련 법안을 발의한 의원들도 AI법에 대한 문제의식에 상당 부분 공감하고 있어서죠. 과방위 전체회의에 상정된다면 핵심 조항에 대한 수정이 이뤄지거나 소위로 돌려보낼 수 있습니다. 실제 심사가 진행된다면 우선 허용-사후 규제 조항은 삭제될 가능성이 높죠.