본 시행령은 인공지능 기본계획의 신속한 수정, 투명성·안전성 확보 의무, 고영향 AI 확인 절차 등을 규정하여 AI 산업의 경쟁력 강화와 사회적 신뢰 구축을 목표로 한다. 기업은 새로운 의무 이행과 과태료 위험에 대비해야 하며, 일반 이용자는 사전 고지와 표시를 통해 AI 활용에 대한 인식을 높일 수 있다. 전반적인 규제 강도는 중간 수준이며, 지원 정책을 통해 부담 완화가 기대된다.
| 조문 | 의무 내용 | 비용/제재 |
|---|---|---|
| [제3조] 인공지능 기본계획의 수립 | 단순 착오·오기 등으로 인한 내용 변경 시 국가인공지능위원회의 심의·의결 없이 계획을 변경할 수 있다. | 해당 조항 자체에 과태료 규정은 없으며, 행정 절차는 간소화된다. |
| [제22조] 인공지능 투명성 확보 의무 | AI 사업자는 사전 고지·결과물 표시 의무를 이행하고, 딥페이크 등 특정 경우에는 연령·신체 조건을 고려한 고지를 해야 한다. 내부 업무용 등 예외 사유도 규정한다. | 투명성 의무 위반 시 3천만원 이하 과태료가 부과될 수 있다. |
| [제23조] 인공지능 안전성 확보 의무 | 누적 연산량이 10^26 부동소수점 연산 이상인 고성능 AI 시스템에 대해 위험 식별·평가·완화 조치를 시행한다. | 안전성 확보 의무 위반 시 별도 과태료 규정은 없으나, 시정명령이 가능하다. |
| [제24조·제25조] 고영향 AI 확인 및 절차 | 고영향 AI 여부 판단 요청 시 30일 이내 회신하고, 필요 시 1회 연장 가능하며 연장 사유와 기간을 명시한다. | 연장 미이행 시 시정명령 및 과태료 부과 가능성 존재. |
| [제26조] AI 사업자 책무 | 위험관리·결과 설명·이용자 보호·문서 보관·게시 의무를 수행하고, 영업비밀 제외 후 홈페이지 등에 공개한다. | 위반 시 3천만원 이하 과태료가 적용될 수 있다. |
| [제28조] 국내대리인 지정 기준 | 전년도 매출액 1조원 이상·AI 매출 100억원 이상·일 평균 국내 이용자 100만명 이상·AI 사고 기록 등 요건을 충족하는 경우 국내대리인 지정 의무가 있다. | 지정 의무 위반 시 과태료 부과 가능. |
| [제43조] 과태료 | 투명성 의무 위반, 국내대리인 미지정, 시정명령 불이행 등에 대해 3천만원 이하 과태료를 부과한다. | 최대 3천만원 이하 과태료. |
| 대상 | 영향 | 분석 |
|---|---|---|
|
AI 사업자 및 플랫폼 제공 기업
사업자
|
혼합 | 기업은 투명성 고지·표시, 고성능 AI 안전조치, 고영향 AI 확인 절차 등 새로운 의무를 이행해야 하므로 내부 프로세스 정비와 인력·시스템 투자 비용이 증가할 가능성이 있다. 다만, 과태료 계도기간 운영 및 지원 예산(약 20.3억원) 등 정부의 지원 정책이 일부 부담을 완화할 것으로 예상된다. 중소·스타트업은 특히 비용 부담이 크게 느껴질 수 있으나, 지원 프로그램 활용 시 비용 상승을 억제할 수 있다. |
|
일반 이용자·소비자
시민
|
긍정 | AI 서비스 이용 시 사전 고지와 결과물 표시가 의무화되어 이용자는 AI가 생성한 콘텐츠인지 여부를 명확히 인지할 수 있게 된다. 이는 특히 딥페이크와 같은 위험 콘텐츠에 대한 인식 개선에 기여할 것으로 보인다. 다만, 고지 절차가 추가되면서 서비스 이용 과정이 다소 복잡해질 수 있으며, 일부 서비스는 비용 전가 가능성이 있다. |
|
저소득층·장애인·미래 세대·환경 보호 단체 등 공익 그룹
공익
|
긍정 | 안전성 확보 의무와 고성능 AI에 대한 위험 관리가 강화되어 사회 전반의 AI 위험 노출이 감소할 것으로 기대된다. 또한, 정부의 검·인증 지원 및 과태료 계도기간 운영이 중소·비영리 기관의 참여를 촉진해 공공 데이터·AI 활용 기회를 확대할 가능성이 있다. 반면, 규제 강화에 따른 기업 비용 상승이 서비스 가격에 반영될 경우, 저소득층 등 취약계층이 AI 기반 서비스 이용에 제약을 받을 우려가 있다. |
기업 전체의 규제 이행 비용은 수십억 원 수준(10~30억 원)으로 추정되며, 중소기업의 경우 상대적으로 높은 비중의 부담이 발생할 수 있다.
필수 고지·표시, 안전성 평가, 고영향 AI 확인 등 절차가 추가되면서 행정 부담이 중간 정도로 증가하지만, 지원 정책과 계도기간 운영이 일부 완화한다.
과태료는 최대 3천만원 이하이며, 투명성 위반·대리인 미지정·시정명령 불이행 등에 적용된다.
공익 효과: AI 투명성 및 안전성 확보를 통해 이용자 신뢰가 강화되고, 고위험 AI의 사회적 위험이 감소한다. 공공 데이터 제공 및 검·인증 지원으로 혁신 생태계가 확대될 가능성이 있다.
잠재 부담: 규제 이행 비용이 기업에 전가될 경우 서비스 가격 상승이 발생할 수 있으며, 특히 저소득층·취약계층이 AI 기반 서비스 접근에 어려움을 겪을 위험이 있다. 또한, 고영향 AI 판단 절차가 복잡해질 경우 행정 소송 등 갈등이 발생할 가능성이 있다.