모두의 제안
국민의 목소리, 새로운 시작의 첫걸음
이재명 대통령이 듣겠습니다.
Ⅰ. 제안 배경
AI, 드론, 로봇 등 기술혁신은 인류를 반복적이고 위험한 노동에서 해방시킬 수 있는 잠재력을 가지고 있다. 이는 단순한 효율성 증대를 넘어, 인간이 자기 삶의 주체로 살아갈 수 있도록 돕는 문명사적 전환의 기반이 될 수 있다.
그러나 이러한 전환이 책임의 공백, 통제되지 않은 감시, 인간성의 배제로 이어진다면, 기술의 진보는 곧 디스토피아적 판옵티콘 사회의 시작이 될 수 있다. 우리는 지금, 기술이 인간을 위한 도구로 기능하도록 법적·윤리적 감시체계와 인간 중심 책임체계를 재설계해야 할 시점에 있다.
Ⅱ. 핵심 원칙
1. 사각지대 없는 최소 감시체계
- 수술실, 교실, 상담실, 돌봄시설, 군부대 등 폐쇄적 권력 공간에 대해 비공개 기록 기반 감시체계를 의무화한다.
- 이는 실시간 공개가 아니라, 문제 발생 시 객관적 대응을 위한 최소한의 중립적 기록을 남기는 것이다.
2. 인간과 AI의 상호감시·책임 분담 체계
- AI는 탐지, 분석, 자동경고 등 기계적 기능을 담당하되, 최종 판단과 책임은 반드시 인간 전문가에게 귀속된다.
- 모든 공공 AI 시스템에는 감독자로서의 인간 책임자가 지정되어야 하며, 이중감시 및 감독기록이 보존되어야 한다.
3. 교육과 의료의 인간 중심 협력 체계
- 수업과 수술은 AI가 개개인에게 초정밀 맞춤형 콘텐츠와 진단 정보를 제공하되, 교사와 의사는 윤리적 판단, 관계적 돌봄, 사회적 책임을 수행한다.
- 교육·보건 전문가 양성과정에 AI 리터러시 및 기술윤리 교육을 포함한다.
4. 시민의 자기기록권과 위기 대응 시스템
- 모든 국민이 웨어러블 바디캠 등 기록장치를 선택적으로 소지하고, 위기 발생 시 공공DB에 자동 기록되도록 제도화한다.
- AI가 폭언, 고함, 심박이상 등의 위기 신호를 탐지할 수 있도록 하고, 사용자는 녹화기록에 대한 열람·삭제·제한권을 갖는다.
5. 타인의 권익 보호 및 무단 유포 방지
- 웨어러블·공공기록 영상은 개인 보호 목적 외 무단 유포를 엄격히 금지하며, 위반 시 형사처벌·과징금·플랫폼 운영자 책임이 함께 부과된다.
- 공익 제보 목적의 제한적 공개는 심의 절차를 통해 판단되며, 무고 또는 왜곡된 공개에 대해서는 피해자가 손해배상을 청구할 수 있다.
6. 공공 감시와 인권 보호의 균형
- 사생활 침해가 우려되는 공간(탈의실, 화장실 등)에는 감시장비를 금지하고, 모든 기록은 암호화·자동삭제·이력기록 원칙 하에 운영한다.
- 열람 권한은 당사자, 법적 대리인, 독립감시기구, 법원의 명령을 받은 기관에만 부여된다.
7. AI 오판 또는 기술 고장에 대한 책임 구조
- AI 오작동으로 인한 피해 발생 시 시스템 설계자, 운영기관, 감독자로 지정된 인간 책임자가 공동으로 손해배상을 부담한다.
- 이와 관련하여 기술책임보험제도 및 피해보상심의기구를 설립한다.
8. 국가기관 감시 남용 방지 조치
- 국가·지자체·사법기관이 기록 시스템을 정치적 통제, 사상검열, 사회운동 억제 등의 목적으로 활용하는 것을 법률로 금지한다.
- 감시시스템 운영은 독립된 시민감시기구가 정기 점검하고, 국민에게 그 결과를 투명하게 공개한다.
9. 감시기록의 상업화 금지 및 데이터 주권 보장
- 모든 공공 기록 영상 및 데이터는 오직 공익 목적에만 사용되며, 보험사, 마케팅 기업, 사설분석기관 등 민간기업에의 제공 또는 판매는 원천 금지한다.
- 이를 위반한 기업은 영업정지, 과징금, 민·형사상 처벌을 받으며, 해당 플랫폼은 책임을 분담한다.
Ⅲ. 법·제도 실행방안
- 「공공기록보호 및 윤리적 감시체계에 관한 기본법」 제정 추진
- 공공기관·의료기관 시범 도입 → 민간·교육·복지현장으로 단계적 확대
- 기술표준 마련, 데이터 저장/삭제 주기 표준화, 플랫폼 사업자 규제
- 독립시민감시위원회 또는 국가인권위원회의 감독 권한 강화
- 피해 구제 절차 간소화 및 피해자 지원센터 운영
- 기술윤리 및 디지털권리 교육을 공교육·공직자·전문직 연수 과정에 포함
Ⅳ. 기대 효과
- 위기 발생 시 진실 규명과 책임소재 명확화
- 무고 방지 및 전문가의 직무 방어권 확보
- 사각지대 해소를 통한 공동체 신뢰 회복
- 기술 남용과 국가 감시의 남용을 방지하는 공적 장치 확보
- 디지털 인권과 기술윤리가 공존하는 지속가능한 사회 구축
Ⅴ. 결론
기술은 인간의 도구이지, 인간을 감시하고 통제하는 주체가 되어선 안 된다.
AI는 교육과 의료의 맞춤형 기능을 담당하되, **윤리적 책임과 공동체적 판단은 인간만이 수행할 수 있다.**
기록은 통제를 위한 것이 아니라, 책임을 남기고 피해를 방지하기 위한 최소한의 장치이다.
그리고 타인과 공동체에 중대한 위해가 발생할 수 있는 공간에는 그 어떤 ‘성역’도 있어서는 안 된다.
기술은 인간 존엄을 지키는 방향으로 설계되어야 하며, 감시와 해방은 함께 조화롭게 작동할 수 있을 때에만 정의롭다.
댓글 -
정렬기준
0/300