모두의 제안
국민의 목소리, 새로운 시작의 첫걸음
이재명 대통령이 듣겠습니다.
Ⅰ. 입법 배경
산업화의 막바지이던 1987년 제정된 헌법 제127조는 과학기술을 국민경제 발전 수단으로만 규정한다.
초거대 AI와 전방위 디지털 감시가 일상화된 2025년 현재, 이러한 경제 중심 관점은 국민의 존엄·자유·안전을 충분히 보호하지 못한다. 한편 경찰청은 2029년까지 보디캠 1만 4000대를 도입해 모든 현장 영상을 실시간 수집할 계획이며, 정부는 2027년까지 지자체 CCTV 53만대를 AI 관제 체계로 전환하려 한다. 그러나 이렇게 수집된 개인정보 데이터에 대한 헌법적 통제와 권리 구제 절차는 부재하다.
Ⅱ. 국제 규범 및 위험 관리 추세
1. EU의 AI법은 (EU AI Act)는 고위험 AI에 대해서 휴먼 오버라이드ㆍ설명가능성ㆍ자동로그를 의무화하고 공공장소 생체감시·사회적 신용시스템을 금지
2. 2023년 미국의 행정명령 14110호는 거대언어모델 안전성 사전 제출과 군방 및 정보·수사기관의 AI 등록제를 도입
3. AI경영정보시스템 세계최초 표준인 ISO/IEC 42001은 기업의 CEO에게 AI 윤리헌장·위험평가·모니터링 책임을 부여하여, 그 책임을 기업의 재무감사 수준으로 견인
4. EU의 사이버복원력법(Cyber Resilience Act)는 SW의 보안 설계, 5년 패치, SBOM 공개, 사고 24시간 통보 미이행 시 2027년부터 판매를 금지
5. 미국 표준기술연구소(NIST) AI 프레임워크(RMF)는 AI 시스템에 대해 GOVERN‑MAP‑MEASURE‑MANAGE 4단계 전 주기 위험 관리를 제시
6. CISA SBOM FAQ는 공급망 투명성을 핵심 가치로 제시
7. 영국 NCSC는 2035년까지 양자기술 시대를 대비하여 PQC 완전 전환을 권고
8. WEF 글로벌 리스크 2025는 AI 보안 공격과 양자 위협을 단기 상위 5대 글로벌 위험으로 지목
9. 작년 말 제정된 한국의 AI 기본법은 고위험ㆍ생성형 AI 영향평가와 국가인공지능위를 도입했으나 디지털 감시 감독은 시행령에 위임한 상황
10. 유럽의 AlgorithmWatch는 EU 디지털감시법(DSA) 아래 시스템적 위험 감사를 구체화
11. 미국의 AI Now 연구소는 일반목적 AI도 고위험 범주에 포함할 것을 촉구함
Ⅲ. 개헌ㆍ입법 핵심 내용
1. 헌법 본문 신설
가. "국가는 과학기술이 인간의 존엄ㆍ자유ㆍ안전ㆍ평등에 미치는 부정적 영향을 최소화하고 공공복리에 기여하도록 정책을 수립ㆍ이행할 의무를 진다."
2. 과학기술ㆍAI 권리감독위원회 설치
가. 이를 헌법기관으로 두어 고위험 AIㆍ디지털 감시ㆍ생체정보 처리에 대한 사전 영향평가와 연례 감사를 의무화하고 결과를 공개한다.
나. 그 수준은 EU의 AI법 정도의 설명가능성ㆍ휴먼 오버라이드ㆍ자동로그화 요건을 강제한다.
3. 사이버 회복력 부칙
가. SBOM 공개, 상시 패치, 제로트러스트 아키텍처, 2035년 PQC 완전 전환을 국가 의무로 명문화하여 EU CRAㆍ미 NIST RMF와 상호승인이 가능하도록 설계한다.
Ⅳ. 기대 효과
1. 기본권을 실질적으로 구제하고 정부기관의 대기업의 디지털 감시 남용을 예방한다.
2. 국제 규범과 정합성을 확보해 국내 기업의 해외 인증조달 장벽을 낮춘다.
3. SBOMㆍPQC 의무화로 공급망 해킹과 양자 위협(양자푸리에)을 선제 억제해 장기 사이버 안보와 산업 경쟁력을 동시에 제고한다.
Ⅴ. 추진 일정(가정)
1. 2026년 상반기 국회 헌법개정특위를 구성해 AI 기본법ㆍ개인정보보호법ㆍ전자정부법 등 하위 법률 정합성을 점검한다.
2. 2027년 감독위원회 설치법 제정과 인사청문을 완료한다.
3. 2028~2030년 고위험 AIㆍ디지털 감시 영향평가 의무를 단계적으로 확대하고 SBOM·PQC 적용 대상을 넓힌다.
Ⅵ. 결론
과학기술을 인간 존엄ㆍ자유ㆍ안전ㆍ평등의 틀로 재배치하는 일은 초거대 AI 시대 대한민국 헌법이 수행해야 할 역사적 과제다. 헌법 제127조 개정과 권리감독위원회 신설은 디지털 감시ㆍAI 편향ㆍ양자기술 위협에 대한 국가의 예방ㆍ보호 책임을 명문화한다. 본 개헌안은 국민의 기본권 보장, 산업 경쟁력, 국가 안보를 동시에 끌어올리는 헌법적 투자다. 국회와 사회 각 주체가 지금 논의를 시작해야 한다.
댓글 -
정렬기준
0/300