한경협, 'AI 기본법' 개선과제 19건 건의
사내 AI 규제 분리 및 책임 명확화 요구
신약 개발 도구 제외 및 안전 기준 고시 시급
한국경제인협회(한경협)가 올해 초 시행된 인공지능(AI) 기본법과 관련해 개선과제 19건을 과학기술정보통신부에 전달했다고 29일 밝혔다. 기업 현장에서 규제 대상과 책임 소재가 불명확해 혼선이 커지고 있다는 지적이다.
이번 건의는 5대 분야로 구성됐다. 규제 대상 명확화, AI 사용 사실 고지·표시 의무 합리화, 고성능·고영향 AI 규제 구체화, 학습 데이터 활용 기준 정비, 규제 확대의 예측 가능성 확보 등이다. 한경협은 기업들이 안심하고 기술을 개발하고 도입할 수 있도록 세부 지침을 다듬어야 한다고 주장했다.
우선 사내 업무용 AI의 규제 적용 제외를 요구했다. 최근 기업들은 업무 효율을 높이기 위해 자체 AI를 개발해 임직원이나 계열사와 공유하고 있다. 하지만 현행법상 내부 업무용 AI가 외부 상용 서비스와 동일하게 AI 사업자 의무 대상이 되는지는 명확하지 않다. 특히 지주사와 계열사가 AI를 함께 쓰는 경우 법 적용 여부를 판단하기 어렵다. 이에 한경협은 일반 사내 업무용 AI를 외부 상용 서비스와 구분해야 한다고 주장했다. 보안 요건을 갖춘 계열사 간 공동 활용도 내부 업무로 인정해 줄 것을 건의했다.
AI 개발 기업과 활용 기업의 역할 분담도 촉구했다. 현행법은 AI를 개발하는 기업과 이를 활용해 서비스를 제공하는 기업 모두에 일률적으로 위험관리 의무를 부과하고 있다. 한경협은 각 기업이 실제로 통제할 수 있는 역할과 범위에 맞게 책임을 나눠야 한다고 설명했다. 일반 업무용 AI를 들여와 사람의 안전에 영향을 미치는 고영향 AI로 용도를 바꾼 기업이 있다면, 해당 기업이 위험관리 책임을 져야 한다는 논리다. 유럽연합(EU) AI 법에서도 용도를 변경한 주체에게 관련 책임을 부과하는 방식을 취하고 있다.
제약·바이오 분야의 연구지원 AI에 대한 판단 기준 구체화도 요청했다. 신약 후보물질 탐색이나 전임상 단계 독성 예측 등은 연구 도구로 널리 쓰이고 있다. 현행 정부 가이드라인은 연구개발(R&D) 단계의 AI를 규제 대상에서 제외하고 있으나 기준이 모호하다. 한경협은 동물 실험 단계의 화합물 독성 예측, 의료기기 코딩 지원, 데이터 분석 도구를 고영향 AI에서 제외되는 대표 사례로 명시해 줄 것을 건의했다. 아울러 보건복지부와 식품의약품안전처 등 관계 부처의 의견을 한곳에서 신속히 확인할 수 있는 원스톱 창구 신설도 제안했다.
고영향 AI는 법정 영역에서 활용되면서 사람의 생명과 신체의 안전, 또는 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 기술을 뜻한다. 고성능 AI는 모델 학습에 사용된 누적 연산량과 기술 수준이 법정 기준을 충족해 안전성 확보 의무 대상이 된 AI를 의미한다.
AI 안전관리 의무의 세부 고시 확정도 서둘러야 한다고 강조했다. 현행법상 고영향 AI에는 위험관리와 설명, 이용자 보호 의무가 주어진다. 하지만 구체적으로 어떤 위험을 어떻게 관리하고 설명해야 하는지에 대한 정부 고시는 아직 확정되지 않았다. 이로 인해 기업들이 사전 준비에 어려움을 겪고 있다.
권혁민 한경협 성장전략실장은 "AI 기본법의 성과는 기업 현장에서 AI를 믿고 활용하는 사례가 얼마나 늘어나는지에 달려 있다"며 "AI의 실제 위험과 기업의 역할에 맞게 의무를 구체화해 기업이 안전한 AI 활용과 혁신에 집중할 수 있도록 해야 한다"고 강조했다.