인공지능(AI)의 책임 소재를 강화하는 'AI 기본법' 시행이 다가오면서 산업계가 연이어 우려의 목소리를 내고 있다.

법규 자체가 매우 모호한데다 영업비밀 노출 위험도 크다는 점에서 오히려 의료 인공지능 산업의 경쟁력을 저하시킬 수 있다는 지적이다.

6일 국회에서 열린 'AI 기본법 투명성·책임성 라운드테이블' 토론회에서는 의료 분야 스타트업 대표들이 나서 이같은 우려를 전하며 이에 대한 대책을 촉구했다.

스타트업성장연구소 최성진 대표이사는 주제발표를 통해 AI 기본법을 둘러싼 쟁점들을 조명했다. 우선 그는 스타트업얼라이언스가 산업계를 대상으로 진행한 AI 기본법 인지도 및 준비 현황 설문조사를 공개했다.

■모호한 고영향 AI 판단 기준…산업계 "경영 불확실성 증폭돼"

이 조사에 따르면 응답 기업의 48.5%가 관련 법안의 내용을 모르며 준비도 안 되고 있다고 답했으며, 48.5%는 법령 내용을 인지하고 있으나 대응은 미흡하다고 답했다. AI 기본법 시행까지 한 달도 남지 않았지만, 대부분 기업이 관련 사실을 알지 못하거나 이렇다 할 대응을 하지 못하고 있는 것.

특히 그는 의료 영역이 속한 고영향 AI와 관련해 사업자가 스스로 여기 해당하는지 여부를 사전에 검토해야 하는 점을 문제로 꼽았다. 분야별 가이드라인에서도 고영향 해당 여부 판단이 쉽지 않다는 것.

필요 시 과학기술정보통신부 장관에게 해당 여부를 판단 요청할 수 있지만, 이는 행정절차로서 다른 행정해석과 마찬가지로 행정상 판단에 그친다는 지적이다. 이에 따라 민·형사상 최종 판단은 법원의 판단에 따라 결정된다는 것.

정부의 고영향 AI 여부 판단 기간 역시 길 것으로 판단돼, 서비스 출시를 미뤄야 하는 등 경영상 피해가 발생할 수 있다는 산업계 의견도 함께 제시했다. 자율규제 및 최소 규제가 법안의 목적이라고 하나, 수범 대상인 기업 입장에선 과도한 법적 부담으로 작용할 가능성이 크다는 것.

일례로 개인정보보호법에서도 개인정보 해당 여부에 대한 법률적 불명확성이 산업계 위험 부담을 키우고 있는데, AI 기본법 역시 이 같은 문제를 야기할 것이라는 지적이다.

이미 기존 법안을 통해 규제가 이뤄지고 있는 고영향 AI 분야에 대한 추가적인 규제는 기업의 부담을 키울 수밖에 없다는 것.

최성진 대표는 "임박한 법 시행으로 인한 혼란이 불가피하다. 과태료·사실조사 등에서 정부가 유연성을 보이더라도 투명성·책임성 등 법률적 의무가 효력을 발생하기 때문에 기업은 이로 인한 책임에서 자유로울 수 없다"며 "AI 기본법은 기업에 광범위한 규제 비용을 발생시키고, 경쟁국에 학습사례를 제공하는 등 AI 3강 달성에 걸림돌로 작용할 것"이라고 우려했다.

이어 "특히 고영향 인공지능은 범용 AI가 아닌 특정 분야에 해당하는 AI 시스템을 적용 대상으로 하고 있다. 해당 분야는 이미 규제 및 관리가 엄격한 분야가 많다"며 "따라서 해당 분야의 안전 및 인허가 기준 등을 AI 적용에 적합하게 개선해 사업자 책무 이행과 조화되는 방향으로 제도를 촉진할 필요가 있다"고 강조했다.

■영업비밀 노출 우려에 비용 부담까지 "스타트업 생태계 위축"

이어진 패널 토의에서 스타트업얼라이언스 정주연 선임전문위원 역시 고영향 AI 확인 절차에서 기업의 영업비밀이 노출될 수 있다는 점을 문제로 지적했다.

기업들은 확인을 요청할 때 학습 데이터의 개요를 제출해야 하는데, 여기에 개인정보나 영업비밀이 포함될 가능성이 크다는 것. 과도한 정보 공개 요구가 오히려 기업들로 하여금 확인 절차 자체를 회피하게 만드는 역효과를 낼 수 있다는 진단이다. 1차적으로는 서비스 개요서 중심으로 판단하고 상세 데이터는 단계적으로 요청하는 방식이 바람직하다는 요구다.

개발사와 이용사 간의 책임 소재와 자료 공유 문제도 해결해야 할 과제로 짚었다. 이용 사업자가 개발사에 자료를 요청할 수 있는 규정은 법적 근거가 모호할 뿐 아니라 영업비밀 유출로 인한 분쟁을 야기할 가능성이 크다는 우려다. 요청 가능한 자료의 범위를 구체적으로 한정하고, 기업의 거절권을 명시하는 등 제도적 안전장치가 시급하다는 것.

이와 관련 정주연 위원은 "어느 정도 규모를 갖춘 기업들도 AI 기본법에 대한 구체적인 대응 체계나 준비 계획을 갖추지 못하고 있다"며 "이는 단순히 기업들의 준비 부족이라기보다 법과 시행령이 너무 모호해 개선이 필요하다는 점을 방증하는 결과다. 시행을 앞둔 시점에서 실효성 있는 검증과 보완이 시급하다"고 말했다.

이어 "서비스 기능과 맥락을 고려한 위험 기반 평가 체계를 도입해야 한다. 특히 고영향 AI 확인을 위해 영업비밀이 포함된 학습 데이터까지 요구한다면 오히려 확인 절차 자체를 피하게 만들 우려가 크다"며 "개발 사업자와 이용 사업자 간 자료 요청 규정으로 인한 분쟁 가능성도 큰 만큼, 영업비밀 보호 장치와 거절권을 명시적으로 마련해야 한다"고 촉구했다.

코리아스타트업포럼 정지은 대외정책분과위원장은 소규모 스타트업이 많은 AI 업계의 특성을 고려해야 한다고 강조했다. 규제에 대응할 여력이 부족한 스타트업들이 본의 아니게 법 위반자로 전락할 가능성이 크다는 것.

인력과 예산이 한정된 상황에서 대기업 수준의 규제 문턱을 적용하다 보면, 결국 스타트업만을 겨냥한 독소 조항으로 작용해 생태계 위축을 초래할 수 있다는 진단이다.

정 위원장은 이 같은 문제를 해결하기 위해 해외 사례를 벤치마킹할 필요가 있다고 제언했다. 미국 콜로라도주의 경우 50인 미만 소규모 사업자에 대해 인공지능법 적용 예외나 유예를 인정하는 방향으로 정책을 추진하고 있다. 국내 근로기준법이 5인 미만 사업장에 대해 일부 조항 적용을 제외해 경영 부담을 완화해 주는 방식과 유사한 접근이 필요하다는 것.

■정부 "국민 안전 위해 기본법 시급…처벌 아닌 컨설팅 방점"

반면 정부 측은 단호한 입장이다. 한국지능정보사회진흥원 인공지능정책실 AI법제도센터 김형준 센터장은 고영향 AI의 규제 대상 설정과 관련해 정책적 판단의 중요성을 언급했다. 고영향 AI는 사용되는 맥락과 분야가 다양하기 때문에 모델 그 자체보다는 이를 활용하는 시스템을 규제 대상으로 삼는 것이 타당하다는 것.

업계에서 우려하는 사법적 리스크에 대해서도 선을 그었다. 현재 논의 중인 AI 기본법에는 형사 처벌 규정이 포함돼 있지 않아, 실질적인 사법적 리스크가 과대평가된 측면이 있다는 반박이다.

투명성 확보와 관련해서도 단순히 AI 표시 의무 역시 활용 비율의 문제가 아닌, 결과물이 미치는 영향력과 맥락에 따라 판단해야 한다고 주장했다. 인위적인 수치 기준보다는 실제 위험성과 맥락을 확인해 표시 여부를 결정하는 것이 합리적이라는 취지다.

일례로 규제의 기준을 AI 활용 50% 등으로 수치화한다면, 기업들은 이를 회피하기 위해 49.9% 수준에 맞추는 식의 편법이 횡행할 수 있다는 설명이다.

김 센터장은 "의료나 원자력, 교육 등 시민의 생명과 안전에 직결된 고영향 분야에선 안전성이 가장 중요하다. AI 기본법의 본질적 목적은 기업의 리스크 감소가 아닌 국민과 이용자를 보호하는 데 있다"며 "위험 관리와 이용자 보호 방안이 담보되지 않는다면 해당 서비스는 출시하지 않는 것이 맞다"고 강조했다.

이어 "AI 기본법이 모든 문제를 해결할 수는 있다는 것은 아니지만, 기본법으로서의 상징성과 토대 마련은 시급하다"며 "소비자 보호나 분야별 세부 쟁점은 개별법에서 해결하더라도, AI 생태계의 건강한 조성을 위해 기본법이 정하는 기초적인 사항들을 수용하고 시작하는 관점이 필요하다"고 전했다.

과학기술정보통신부가 AI 기본법 제정을 앞두고 업계에서 제기되는 불확실성과 불안감을 해소하기 위해 행정력을 집중하겠다는 의지를 밝혔다. 단순한 처벌이나 규제 강화보다는 현장의 목소리를 반영한 가이드라인 마련과 글로벌 상호 운용성 확보에 무게를 두겠다는 방침이다.

특히 스타트업 등 현장에서 법의 구체적인 내용을 파악하기 어렵다는 점에 공감하며, 공공 사이트 등을 통한 홍보와 컨설팅의 중요성을 강조했다.

과기정통부 인공지능안전신뢰지원과 최우석 과장은 "AI 기본법이 전 세계적으로 유례가 드물다 보니 기업들이 매우 불안해하는 것을 잘 알고 있다"며 "정부는 과태료 부과나 조사보다는 어떻게 효과적으로 계도하고 컨설팅을 제공할지에 대해 깊이 고민하고 있다"고 말했다.

최 과장은 "법에서 명시하지 않은 내용을 행정부가 임의로 완화하기는 어렵지만, 시행령과 가이드라인을 통해 업계의 궁금증을 최대한 풀어드리기 위해 노력 중"이라며 "법안은 더 강한 압박이 아니라 위험을 관리하라는 취지다. 국내 기업이 역차별받지 않도록 EU 등 주요국과 긴밀히 협력해 상호 운용성을 확보해 나가겠다"고 말했다.

이어 "일반 국민이 느끼는 AI에 대한 불안과 업계의 혁신 의지 사이에서 균형을 잡는 것이 정부의 역할"이라며 "AI가 블랙박스처럼 인식되는 사회적 분위기를 고려해 안전성을 확보하면서도, 우리나라가 글로벌 AI 강국으로서 지위를 유지할 수 있도록 인간 중심의 발전을 지원하겠다"고 강조했다.

■황정아 의원 "산업계 출혈 최소화…현장 목소리 담아 제도 보완"

마지막으로 토론회를 주최한 더불어민주당 황정아 의원은 AI 기술의 급격한 변화에 맞춰 국내 산업계 목소리를 적극적으로 수렴하고, 규제로 인한 기업들의 피해를 최소화하겠다고 밝혔다.

황 의원은 "우리가 규제 1등을 하는 것은 무모한 일이다. 선진국들의 사례를 지켜보며 불필요한 비용 감당이나 시행착오를 줄이는 것이 바람직하다"며 "이미 정해진 정책이라 하더라도 실제 시행 과정에서 국내 산업계의 출혈을 최소화하는 방향으로 다듬어가는 것이 핵심이다. 산업계가 느끼는 불안감이 소수의 목소리로 치부돼서는 안 된다"고 강조했다.

이어 "업계가 제기한 디테일한 우려 사항들을 모아 정책에 반영하는 것이 정부와 입법자의 역할이다. 전 세계적인 기술 진화 속도에 맞춰 로드맵과 규제 방안이 유연하게 바뀌는 것은 당연한 과정"이라며 " 앞으로도 현장과 소통하며 제도적 보완을 위해 지속적으로 공부하겠다. 또 시민들의 불안감까지 함께 고려해 정책적으로 보완해 나가겠다"고 전했다.