고영향 AI란?
AI기본법 제2조 제6호에 따르면 고영향 인공지능이란 "사람의 생명·신체의 안전 또는 기본권의 보호에 중대한 영향을 미칠 우려가 있는 인공지능"을 말합니다. 이 정의만으로는 우리 회사 AI가 해당하는지 판단하기 어렵기 때문에, 시행령 제24조에서 구체적인 판단 기준을 제시하고 있습니다.
시행령 제24조 2단계 판단법
1단계: 분야 해당성 확인
시행령 제24조 제1항은 고영향 AI가 활용되는 분야를 열거하고 있습니다:
- • 생명·신체 안전: 의료 진단·치료 보조, 자율주행, 안전 관련 시스템
- • 기본권 관련 결정: 채용·인사 평가, 신용 평가, 보험 심사, 교육 평가
- • 공공 서비스: 사회보장 급여 결정, 법 집행 보조, 출입국 관리
- • 대규모 영향: 10만 명 이상 이용자에게 영향을 미치는 AI 시스템
- • AI의 자율성 수준: 최종 결정을 AI가 하는가, 사람이 하는가
- • 영향의 범위: 개인 vs 다수, 일시적 vs 지속적
- • 대체 가능성: AI 없이 동일 서비스 제공이 가능한가
- • 피해의 회복 가능성: 잘못된 결정의 피해를 되돌릴 수 있는가
- 1. AI가 사람의 생명·건강에 직접적 영향을 미치는 결정을 하거나 보조하는가?
- 2. AI가 개인의 법적 지위, 고용, 신용, 보험 등에 관한 결정에 관여하는가?
- 3. AI 시스템의 이용자가 10만 명 이상인가?
- 4. AI의 결정으로 인한 피해가 쉽게 회복되지 않는가?
- • 위험관리방안 수립 (제34조 제1항 제1호)
- • 투명성 사전고지 (제34조 제1항 제2호)
- • 이용자 보호 방안 (제34조 제1항 제3호)
- • 인적 관리·감독 체계 (제34조 제1항 제4호)
- • 인공지능 영향평가 (제35조)
- • 생성형 AI 결과물 표시 (제31조, 해당 시)
2단계: 영향 중대성 평가
분야에 해당하더라도, 영향의 중대성을 평가해야 합니다:
실무 체크리스트
다음 질문에 하나라도 "예"라면 고영향 AI에 해당할 가능성이 높습니다:
고영향 AI로 판단되면?
AI기본법 제34조에 따라 다음 의무가 발생합니다:
이 모든 의무에 대응하는 컴플라이언스 문서를 AI Comply에서 자동으로 생성할 수 있습니다.
AI Comply로 3분 만에 확인하기
복잡한 법 조항을 직접 읽을 필요 없이, AI Comply 무료 진단을 통해 시행령 제24조 기준에 따른 자동 판단을 받을 수 있습니다. 진단 결과에 따라 필요한 의무와 문서도 자동으로 안내됩니다.