유럽연합(EU)이 세계 최초 인공지능(AI) 입법 규제인 'AI 법안'을 최종 승인했습니다. AI 법안은 지난 13일 열린 유럽 의회 본회의에서 압도적 찬성으로 통과됐는데요. 이제 AI 법은 EU 소속 27개 국가별 승인을 거쳐 발효됩니다. 일부 조항이 6개월 뒤부터 시행되기 때문에 올해가 AI 입법 규제의 원년이죠.

AI 법은 AI를 위험 수준에 따라 4가지(①허용될 수 없는 위험 ②고위험 ③제한된 위험 ④저위험)로 구분해 차등적으로 규제하는 게 핵심인데요. 사람의 잠재의식과 관련됐거나 의사결정 능력에 손상을 입히는 AI 기술은 금지합니다. 사람이나 특정 단체의 취약성을 활용하거나 불공정한 처우를 위한 행위도 허용하지 않죠. AI를 활용해 실시간으로 생체를 식별하는 시스템도 EU 내에선 운용할 수 없습니다.

주요 규제 대상은 고위험 등급의 AI 기술입니다. 공공·의료·교육·선거·자율주행·핵심 인프라 등과 관련됐거나 영향을 미치는 AI 기술이 여기에 해당하는데요. 고위험 AI 기술을 운용하려면 위험관리시스템을 구축하고, 반드시 사람이 감독해야 합니다. AI에서 문제가 생겼을 때 책임질 사람을 정해놓으라는 거죠. 각국 정부는 고위험 AI 시스템의 데이터 공개와 위험 평가를 요구할 수 있는 권한을 갖습니다.

AI 법은 AI가 생성한 이미지, 동영상 등을 식별할 수 있도록 라벨 부착 의무도 부과합니다. 범용 AI의 경우 기술문서와 사용지침, 시스템 학습에 활용된 데이터를 공개해야 합니다. 범용 AI 개발자는 저작권법을 포함한 EU 법을 준수해야 하는데요. 학습 데이터의 저작권 침해 여부를 따져볼 수 있는 근거 조항으로 기능할 전망입니다.

법 위반 시 최대 3500만유로(508억원) 또는 전 세계 매출의 7%에 해당하는 과징금을 부과합니다.

아직 미국은 EU처럼 포괄적인 AI 규제를 담은 법을 제정하진 않았습니다. 지난해 10월 바이든 정부가 발령한 'AI 행정명령'에 따라 AI 규율을 시작했죠. 행정명령은 AI 안전성 평가 의무화, AI 도구의 안전성 표준 마련, 개인정보 보호 등 내용을 골자로 합니다. 국가안보와 공공의 안전을 위협할 수 있는 AI 모델의 경우 개발 단계부터 정부에 보고하고, 정부 레드팀(전문가 검증)의 안전 검사를 필수적으로 받아야 하죠. 향후 AI 법 제정 논의에 본격 착수하면 행정명령 내용을 주요하게 반영할 것으로 보입니다.

최근 미국은 50개국 이상이 참여한 AI 결의안을 유엔에 제출했습니다. 구체적인 내용은 아직 공개되지 않았지만 AI 사용으로 벌어질 수 있는 문제들에 대한 안전장치를 마련하자는 의지를 담은 것으로 알려졌죠. 선진국과 개발도상국 간 AI 기술 격차를 줄이기 위해 노력하자는 내용도 포함됐습니다. UN 결의는 법적 구속력은 없습니다. 다만 AI에 대한 국제적 규범 설정을 주도하려는 미국의 의지가 반영된 점을 주목해야 합니다.

미국은 EU에 비해 AI 규제에 신중한 입장을 취할 수밖에 없습니다. AI 시장을 선도하는 주체가 미국 기업들이기 때문에 과도한 규제가 불러올 후폭풍을 의식해야 합니다. 만약 미국 내에서 강력한 규제를 시행한다면 EU를 포함한 해외의 미국 빅테크 타깃 규제에 이의를 제기할 명분이 떨어지겠죠. 국가 차원에서 이뤄지고 있는 중국의 AI 경쟁력 강화 노력도 신경쓸 수밖에 없습니다. AI 규제 주도권을 쥐려는 미국 정부의 움직임은 미국 기업들의 AI 지배력을 잃지 않으려는 행보이기도 합니다.