비공개·개인 정보 입력 금지, 인공지능 생산물 검증 후 활용 등 당부
행정안전부는 최근 챗GPT, 딥시크 등 다양한 생성형 인공지능 서비스가 지속적으로 출시되고 있으며, 공공분야에서도 활용이 확대됨에 따라 인공지능 서비스 이용 시 개인정보와 민감정보 유출 등의 보안 사고에 각별한 주의를 기울여야 한다고 7일 밝혔다.
생성형 인공지능 서비스의 확산과 보안 문제
생성형 인공지능(AI)은 방대한 데이터를 학습하여 새로운 정보를 생성하는 기술로, 업무 자동화, 문서 요약, 콘텐츠 제작 등 다양한 분야에서 활용되고 있다. 이에 따라 공공기관에서도 업무 효율성 증대를 위해 생성형 AI 도입을 검토하고 활용하고 있다. 그러나 이러한 기술이 가져올 수 있는 보안상의 위험 또한 무시할 수 없다.
인공지능 모델에 입력된 데이터가 학습 데이터로 활용될 가능성이 있으며, 이 과정에서 민감한 정보가 유출될 수 있다는 점이 주요한 우려사항이다. 예를 들어, 기밀 문서, 행정 내부정보, 개인 정보 등이 인공지능 모델에 입력될 경우 외부에 노출될 위험이 있으며, 이러한 정보가 악용될 경우 심각한 보안 사고로 이어질 수 있다.
AI는 생성된 데이터의 출처를 정확하게 명시하지 않으며, 가짜 정보가 생성될 가능성도 있다. 따라서 공공기관에서는 AI가 제공하는 정보를 검증 없이 활용할 경우 정책 결정 과정에서 오류가 발생할 가능성이 크다. 이러한 위험을 방지하기 위해 보안 강화와 검증 절차가 필수적이다.
행안부의 보안 강화 조치
행안부는 지난 2023년 5월 생성형 인공지능 서비스 이용 시 보안 유의사항을 안내한 바 있으며, 이번에는 그 내용을 보완하여 2024년 2월 3일 각 중앙부처, 지방자치단체 및 공공기관에 추가적인 보안 유의사항을 전달했다.
주요 보안 유의사항은 다음과 같다.
- 비공개 정보 및 개인정보 입력 금지
- 생성형 인공지능 서비스를 사용할 때 행정 내부정보, 비공개 자료, 기밀문서, 개인정보 등을 입력하지 않도록 주의해야 한다.
- 특히, 정책 결정과 관련된 기밀 정보는 AI 서비스 활용에서 배제해야 한다.
- AI 모델은 입력된 데이터를 학습하여 추후 유사한 내용이 외부로 유출될 가능성이 있기 때문에 더욱 주의가 필요하다.
- 인공지능 생산물 검증 후 활용
- 생성형 인공지능이 제공하는 정보의 정확성과 신뢰성을 충분히 검토한 후 활용해야 한다.
- AI의 답변은 실제 사실과 다를 수 있으며, 허위정보가 포함될 가능성이 있으므로 전문가의 검토가 필요하다.
- AI 생성물이 정책 결정이나 대외 발표 자료로 활용될 경우, 반드시 공식적인 검토 절차를 거쳐야 한다.
- 보안 및 윤리적 측면 고려
- AI 서비스 이용 시 보안성을 확보하기 위해 암호화된 네트워크를 사용하고, 외부와의 데이터 공유가 제한된 환경에서 운영해야 한다.
- 공공기관에서는 AI 윤리 가이드라인을 마련하고, AI의 오남용을 방지할 수 있는 내부 통제 시스템을 강화해야 한다.
- AI의 의사결정 과정에서 발생할 수 있는 편향성과 윤리적 문제를 고려하여 공정성과 투명성을 확보해야 한다.
- 국가정보원과 협력하여 보안 체계 강화
- 행안부는 국가정보원을 비롯한 유관 기관과 협력하여 공공분야에서 AI를 보다 안전하게 활용할 수 있도록 보안 시스템을 마련할 예정이다.
- 이를 통해 공공기관이 안전하게 AI를 도입하고, 보안 문제를 사전에 예방할 수 있도록 지원할 계획이다.
- 또한, AI 기술의 발전에 맞춰 보안 지침을 지속적으로 업데이트하여 새로운 위협 요소에 신속하게 대응할 방침이다.
생성형 인공지능의 미래와 안전한 활용
AI 기술의 발전과 활용이 가속화됨에 따라 공공분야에서도 이를 적극적으로 활용할 필요성이 커지고 있다. 그러나, 기술 발전에 따른 보안 위협도 함께 증가하고 있으며, 이에 대한 선제적 대응이 필수적이다.
행안부는 앞으로도 공공기관이 생성형 인공지능을 안전하고 효과적으로 활용할 수 있도록 보안 가이드라인을 지속적으로 개선하고, 관련 교육과 점검을 강화할 계획이다. 또한, AI의 윤리적 사용을 위한 정책적 지원을 확대하여 신뢰할 수 있는 인공지능 생태계를 구축하는 데 집중할 방침이다.
AI 기술이 발전하면서 공공분야에서의 활용 가능성이 더욱 커지고 있지만, 동시에 보안 리스크도 증가하고 있다. 따라서 공공기관들은 AI를 적극적으로 활용하되, 보안 지침을 철저히 준수하고 AI 사용의 한계를 명확히 인식해야 한다. 특히, AI를 활용한 행정 서비스 도입을 검토할 때는 기술적 안정성뿐만 아니라 보안과 윤리적 기준도 고려해야 한다.
행안부 관계자는 “생성형 AI 서비스가 공공기관에서 업무 효율성을 높이는 데 큰 기여를 할 수 있지만, 보안 문제를 간과해서는 안 된다”며 “각 기관이 보안 지침을 철저히 준수하고, AI를 활용할 때 신뢰성을 확보하는 데 주의를 기울여야 한다”고 강조했다. 또한, AI 기술 발전에 따라 공공기관의 보안 체계를 지속적으로 업데이트하고, 신기술 도입과 함께 보안 리스크를 최소화하기 위한 대응책을 마련할 필요가 있다고 덧붙였다.
문의처
- 행정안전부 디지털정부혁신실 공공지능데이터정책과(044-205-2467)
▶️ 출처 : 정책브리핑(http://www.korea.kr)
▶️ 산업통상자원부 바로가기
▶️ 해양수산부 바로가기
▶️ 클로저 최신 기사 보기