의견수렴을 위해 작성된 초안으로 내용변경 가능

공공분야 인공지능 도입을 위한

실무자 안내서(안)

2 0 21 . 04 .

디 지 털 정 부 국
공공지능정책과
본 안내서는 공공기관에서 인공지능 기술을 내부업무 및 대민서비스에 도입 시
담당 실무자가 고려해야할 사항과 참고 사항을 포괄적으로 제공하려는 목적으로
『공공분야의 인공지능 촉진 및 활성화 방안 연구(행정안전부, 2020.12월)』 결과를
토대로 제작되었으며, 법적 효력을 가지는 것은 아닙니다.

또한, 본 안내서에서 기술한 법령ㆍ지침ㆍ규정ㆍ표준 등은 수시로 제ㆍ개정될 수

있으므로 최신 내용을 반드시 확인하고 활용하시기 바랍니다.

※ 「정부조직법」 등에 따라 해당 법령‧지침‧규정‧표준‧가이드‧매뉴얼에 대한 소관
기관이 변경될 경우 그에 따름

<문의처>

행정안전부 공공지능정책과 (044-205-2823)

<수정이력>

2021.01. 초안 작성
 목 차

I. 개요 ································································································· 1

1. 배경 ······························································································· 2

2. 목적 및 활용 방법 ···································································· 3

3. 주요 용어 ····················································································· 4

II. 인공지능 소개 ············································································· 5

1. 인공지능 개념 및 분류 ···························································· 6

2. 인공지능 기술 ············································································ 7

III. 인공지능 동향 ·········································································· 13

1. 인공지능 국내외 도입 현황 ················································· 14

1.1. 국내 공공‧민간분야 ···························································· 14

1.2. 해외 공공‧민간분야 ···························································· 18

2. 공공분야 인공지능 도입 방해요인 ····································· 22

3. 공공분야 인공지능 도입 사업 절차 ··································· 24

- 3 -
 목 차

IV. 사업 단계별 고려사항 ··························································· 25

1. 기획 단계 ··················································································· 26

1.1 ISP 수립 및 정보화 기획 ···················································· 27

1.2 예산 확보 및 편성 ······························································· 33

1.3 사업계획서 작성 ··································································· 35

1.4 인공지능 윤리 심의 ····························································· 37

2. 구축 단계 ··················································································· 39

2.1 제안요청서 작성 ··································································· 40

2.2 기술평가 및 사업자 선정 ··················································· 47

2.3 사업 착수 및 개발 ······························································· 48

2.4 사업 종료 ··············································································· 51

3. 운영 단계 ··················································································· 53

3.1 운영 및 유지관리 ································································· 54

3.2 연계사업 기획 및 추진 ······················································· 57

부록 인공지능 도입 사업 단계별 체크리스트

[ 1] ·················· 59

부록 참고 법령 및 가이드라인
[ 2] ············································· 63

부록
[ 년 조달청 발주 인공지능 사업 목록
3] ’18-’20 ············· 66
I. 개요

- 1 -
 1 배경

❑ 배경

❍ 인공지능을 비롯한 정보통신 신기술이 신성장 동력으로 부상함에 따라

공공기관에서도 인공지능 기술을 도입하려는 수요가 꾸준히 증가하고 있음
- 자원제약, 서류부담, 대기시간 등을 줄일 수 있어 공공분야 업무에 인공지능을
활용한다면 많은 시간과 비용을 절감할 수 있으며,
- 방대한 데이터로부터 새로운 가치를 창출하여 국민의 다양한 요구에 응대할 수
있는 질 높은 공공서비스를 제공할 수 있음
- 또한 공공기관의 인공지능 기술 도입을 위해 민관 협력 프로젝트를
수행함으로써 민간분야 인공지능 산업을 견인하는 등 큰 파급 효과가 기대됨
❍ 그러나, 국내 공공분야 인공지능 도입은 초기단계로 인공지능 기술을
도입하는 데 필요한 경험과 노하우가 부족하고, 통일된 매뉴얼이 없어
중복투자 등 다양한 시행착오를 겪고 있음
- 인공지능이 모든 문제를 해결할 수 있다*는 막연한 기대감을 가지고
보여주기식 사업을 추진하게 될 경우 현실적 한계에 봉착하며
* 인공지능 기반 서비스는 법적 효력이 없으며 모든 문제를 해결할 수 없음
- 고도의 인공지능 기술은 판단 결과 및 과정에 대한 설명이 불가능한
블랙박스 모델 이어서 발생 가능한 위험요소를 사전에 예측하기 어려움
*

* 블랙박스(black box): 아웃풋은 인간과 유사하게 원하는대로 도출할 수 있지만 어떻게,

무엇을 근거로 결과가 나왔는지 알 수 없는 특성. 딥러닝은 최소 수십 개 이상의
레이어로 구성되어 그 계산이 매우 복잡하기 때문에 어떤 과정을 거쳤는지 설명 불가능
❍ 따라서, 기존 정보화사업과 차별화된 공공분야 인공지능 기술 기반 서비스
및 시스템 구축 사업 전반에 대한 안내서를 작성하여 활용토록 하고자 함
※ ’20년 9월 행정‧공공기관 대상 인공지능 사업 운영현황 및 수요조사 결과, 도입
가이드라인의 부재 및 필요성에 대한 응답이 60% 이상
- 2 -
 2 목적 및 활용 방법

❑ 목적

❍ 본 안내서는 공공분야에서 인공지능 기술 기반 정보시스템 구축 시 기획, 개발,

운영 단계에서 고려해야 할 사항과 사례들을 제시하여 공공기관에서 인공지능
기반 정보시스템을 구축하려는 실무자를 위한 안내서가 되고자 하였음
❑ 활용 방법

❍ 도입예정기관
- 인공지능 기술에 대한 이해도를 높이고 원활한 도입을 위한 방향성 설정 및

추진체계 마련을 위한 준비 자료로 활용

- 국내외 공공‧민간분야 인공지능 도입 현황 및 분석 자료를 통해 인공지능

기술 수준을 사전에 파악하고 기술 활용범위를 구체화

- 최근 3개년 국내 공공기관 인공지능 도입 사업* 목록을 제시하여 기관

환경에 맞는 적절한 사례를 벤치마킹할 수 있는 참고자료로 활용

* ’18～’20년 조달청 나라장터를 통해 발주한 공공기관 인공지능 사업 89건
❍ 사업추진기관
- 인공지능의 특수성을 고려할 수 있도록 일반 정보화사업과 차별화된 절차를

수행하여 인공지능 도입 과정에서 발생할 수 있는 어려움을 최소화

※ (기획단계) 도입 타당성 검토, 데이터 수집‧조달 계획 수립, 윤리 심의 등
(구축단계) 인공지능 모델 및 알고리즘 선정, 학습 성능평가, 데이터 관리 계획 수립 등
(운영단계) 인공지능 역기능 모니터링, 재학습 계획 수립 등
- 고려사항 및 체크리스트를 활용하여 사업의 기획 및 추진 과정에서
인공지능을 올바르게 적용하기 위한 자가 점검 자료로 활용

- 3 -
 3 주요 용어

❑ 주요 용어
❍ 공공분야 인공지능 도입 사업
- 공공기관에서 진행하는 정보화사업의 전체 또는 일부에 인공지능 기술을
적용한 사업
❍ 공공기관

- 대통령 소속 기관과 국무총리 소속 기관을 포함한 중앙행정기관과 그

소속기관 및 지방자치단체를 비롯하여 공공기관의 운영에 관한 법률 「 」

제4조에 따른 공공기관, 지방공기업법 에 따른 지방공사 및 지방공단

「 」

※ 「초ㆍ중등교육법」, 「고등교육법」 및 그 밖의 다른 법률에 따라 설치된 각급 학교와

특별법에 따라 설립된 특수법인에 해당하는 법인·기관 및 단체 포함
❍ 데이터
- 정보처리 능력을 갖춘 장치를 통하여 생성 또는 처리된 상태의 정보로서
기계에 의한 판독이 가능한 형태로 존재하는 정형* 또는 비정형**의 모든 것
* 정형 데이터: 데이터베이스에서 정해 놓은 형식과 구조에 맞게 들어간 데이터(스프레드시트, CSV 등)
** 비정형 데이터: 정해진 구조가 없어 정형화되지 않은 데이터(음성, 이미지, 영상 등)
❍ 정보화전략계획 (IS P)

- 조직 내의 전략적 정보 요구를 파악하여 업무활동과 이에 대한 자료영역을

기술하고, 정보시스템 개발을 위한 통합된 프레임워크를 제공하며, 이것을
구현하기 위하여 정보기술을 활용한 통합정보시스템 계획을 작성하는
체계적인 접근 활동
※ 본 안내서에서는 공공기관에서 ISP 수립 시 통상적으로 업무재설계(BPR)가 일부
수반됨에 따라 ISP가 업무 재설계(BPR)를 포함하는 개념으로 사용
❍ 데이터셋 (Data S et)

- 분석에 즉시 활용될 수 있는 데이터의 집합 또는 여러 데이터를 가공하여

생성한 데이터
※ 일반적으로 ‘데이터셋’과 ‘데이터세트’를 혼용하여 사용하나 본 안내서에서는 ‘데이터셋’으로 통일
- 4 -
II. 인공지능 소개

- 5 -
 1 인공지능 개념 및 분류

❑ 인공지능 정의

❍ 인공지능이란, 인간의 이해‧학습‧추론‧지각 능력 등을 컴퓨터 프로그램으로

실현한 기술
- 사람처럼 보고 듣고 말하고 행동하는 기계를 만드는 연구와 사람의
사고방식을 모방해서 문제를 해결하고자 하는 연구가 진행
❑ 인공지능 기술 분류

❍ 인공지능 기술은 조사 시기와 목적, 조사기관 등에 따라 다르게 분류됨

- 본 안내서는 ’20.12월 진행한 「공공분야의 인공지능 촉진 및 활성화 방안」

연구에서 제시한 분류체계를 채택

[그림 2-1] 인공지능 기술분류체계 구조

인공지능

기계학습
딥러닝 규칙기반시스템 기타
(딥러닝 제외)

자연어 처리 음성 처리
이미지 처리
(챗봇 제외) (챗봇 제외)

챗봇
(자연어 + 음성)

❍ 사용 기법에 따라 기계학습, 딥러닝, 규칙기반시스템으로 분류 후, 사용

데이터 종류에 따라 이미지처리, 자연어처리, 음성처리로 분류
❍ 챗봇은 자연어처리와 음성처리의 융합에 가까우며, 현재 공공분야에서 가장

인기 있는 분야이므로 편의상 별도의 분류로 정의

- 6 -
 2 인공지능 기술

❑ 기계학습( 머신러닝 , Machine Learning)

❍ 사람의 직접적인 지시 없이 컴퓨터가 학습을 통해서 문제를 해결할 수

있도록 하는 알고리즘이나 통계적 모형을 활용하는 기술
- 학습 방식에 따라 지도학습, 비지도학습, 강화학습, 전이학습으로 분류

[표 2-1] 학습방식에 따른 기계학습의 분류

분야 주요 내용

▶입력(학습 데이터)과 정답을 함께 제공하여 학습

지도학습
▶주어진 입력에 대한 출력을 예측할 때 사용

비지도학습 ▶정답 없이 학습 데이터만 제공하여 학습

▶어떤 존재(agent)가 주어진 환경에 대해 어떻게 행동하는가를 학습

▶입출력 쌍으로 이루어진 훈련 집합을 사용하지 않고 자율적으로 수집‧학습

강화학습 ▶딥마인드 社가 개발한 ‘알파고 Zero’의 업데이트 버전인 ‘알파 Zero’는

기존 장기‧체스 컴퓨터 챔피언과의 경기에서 단기간 내 인간의 개입

없이 스스로 학습하여 승리함

▶학습이 완료된 모델을 데이터가 적은 다른 유사 분야에 전이하여

정확하고 빠르게 학습

전이학습 ▶펜실베니아 대학과 구글社의 팀은 탄자니아의 카사바 질병 진단을 위해

식물 질병 학습 모델과 전이학습을 활용하여 소량의 카사바 이미지
데이터를 통해 98%의 정확도로 갈색 줄무늬병을 구분

- 7 -
❑ 딥러닝(Deep Learning)
❍ 인공신경망에서 은닉층을 깊게(deep) 쌓은 신경망 구조를 활용하여
학습하는 기술로, 기계학습의 한 방식
※ 인공신경망: 생물의 신경망구조와 뉴런을 수학적으로 모델링한 구조
[표 2-2] 딥러닝에 사용하는 인공신경망(예)
종류 주요 내용
CNN ▶사람의 시신경 구조를 모방하여 데이터의 특징에 대한 패턴을 파악
(합성곱 신경망) ▶얼굴 인식, 정보 추출, 문장분류 등
RNN ▶신경망을 순환적으로 구성하여 오래된 데이터를 기억하는 인공신경망
(순환 신경망) ▶문장 생성, 기계 번역, 주가‧날씨 예측 등
GAN ▶가짜 데이터를 만드는 생성자 신경망과 진위를 가리는 판별자 신경망이
(적대적 생성 경합하면서 진짜같은 가짜 데이터를 생성하는 신경망
신경망) ▶가상의 인물 사진 생성, 스타일 변환, 합성 등

- 글로벌 IT 기업들은 딥러닝 기술 기반 프레임워크를 오픈소스로 공개하고

있으며, 머신러닝 관련 기술 중 가장 빠르게 활용될 것으로 전망
[표 2-3] 딥러닝 주요 프레임워크 비교

기반 언어 지원단체 속도 범용성 개발‧학습 난이도 인기

파이썬, C++,
텐서플로우 구글 ++ ++ ++ +++
자바 등

케라스 파이썬, R 등 MIT +++ +++ + +++

파이썬, C++
파이토치 페이스북 +++ + + ++
등
자바, 스칼라,
스카이마인드
DL4J 클로저, ++ +++ +++ +
DL4J 커뮤니티
파이썬, 코틀린
C++, 파이썬, 버클리 대학
카페 + + +++ +
매트랩 연구팀
C++, 파이썬,
매트랩, 아파치 재단,
MXNext ++ +++ ++ ++
자바스크립트, AWS
R, 스칼라 등
※ 출처: 딥러닝 프레임워크 6선(테크월드, 2019.8.28.)
- 그 외에도 마이크로소프트 CNTK, 일본 프리퍼드 네트웍스 Chainer
社 社

등이 있으며 중국 기업인 바이두, 텐센트에서도 딥러닝 프레임워크를 개발 중

- 국내의 경우 삼성전자에서 딥러닝 응용 프로그램 개발을 위한 분산형
플랫폼인 ’베레스(Veles)’를 오픈소스로 공개
- 8 -
❑ 규칙기반시스템
❍ 지식표현 추론 논리 등에 기반하여 문제를 해결할 수 있는 지식을 규칙으로
· ·

표현하고, 추론을 이용해 새로운 명제를 유추하거나 기존 명제의 참 거짓 ·

여부를 판별함으로써 문제를 해결하는 기술

- 기계학습이 등장하기 전 인공지능 연구의 대부분을 차지한 분야로, if-then
형태의 규칙을 지식베이스로 저장하고 데이터베이스에 저장된 사실과
매칭함으로써 새로운 사실을 추론해내는 형태로 구성
❑ 이미지처리
❍ 딥러닝 등의 방법을 이용하여 마치 사람처럼 이미지 혹은 동영상을
인식하고 처리하는 기술
- 이미지 인식‧이해‧생성 등 다양한 세부 분야 존재

- 이미지‧영상 데이터 기반의 시각지능은 이미 인간 수준을 넘은 시각 인식률을

보이고 있으며 상황을 이해하고 새로운 이미지를 생성하는 기술로 발전하여
자율주행, 의료, 제조 등 거의 모든 분야에서 응용
[표 2-7] 이미지처리 기술의 세부 분야

분야 주요 내용
▶이미지 인식 경진대회인 ILSVRC에서 2015년 마이크로소프트사가
96.43%의 인식률을 달성하여 사람의 인식률(94.9%)을 능가하는
수준에 도달했음이 증명

이미지 인식 ILSVRC(ImageNet Large Scale Visual Recognition Challenge):

※
스탠포드 대학교가 주관하는 대용량의 이미지 데이터셋을 주고
이미지 분류 알고리즘의 성능을 평가하는 대회
▶얼굴 인식을 통한 본인인증 서비스 상용화

이미지 이해 ▶이미지를 보고 어떤 이미지인지 ‘이해’하고 이를 주석(캡션)으로 설명

▶GAN 알고리즘이 등장하여 데이터의 양이 부족한 환경에서도 실제와

유사한 이미지를 생성 가능
이미지 생성
▶딥페이크(Deepfake): 특정 인물의 얼굴과 신체 부위를 전혀 다른
영상과 합성해 새로운 영상을 만들어내는 작업

- 9 -
- 국내의 경우 ETRI의 딥뷰 프로젝트에서 시각 지능 핵심기술을 개발하였으며,
2017년에 ILSVRC에서 사물 검출 부문 2위를 달성

- 네이버 社는 StarGAN을 개발하여 머리색, 성별, 나이, 감정 등 여러 개의

특징을 한 번에 변화시킬 수 있는 이미지 변환 모델로 CVPR2018 학회에서
국내 산학기관 중 유일하게 상위 2% 논문으로 선정
❑ 자연어처리

- 우리가 일상생활에서 사용하는 한국어, 영어, 속어 등의 자연어를 컴퓨터가

처리할 수 있도록 하는 기술로, 딥러닝 알고리즘을 활용하여 문서 분류,
문서 생성, 질의응답, 기계 번역 등을 수행
- 기존 온톨로지 기반 기술에서 인간의 개입을 최소화하고 데이터 기반

학습을 통해 스스로 언어를 이해하게 하는 워드 임베딩 방식으로 전환

※ 온톨로지(Ontology): 단어와 단어 사이의 관계를 컴퓨터에서 다룰 수 있는 형태로
표현하는 방식
※ 워드 임베딩(Word Embedding): 수치화되어 있지 않은 인간의 언어(단어)를 머신러닝,
딥러닝에서 기계가 이해할 수 있는 벡터로 표현하는 방법
[표 2-4] 최신 자연어처리 딥러닝 모델

종류 주요 내용
▶문장의 시작부터 순차적으로 계산하는 일방향 언어모델로, 이전 단
어들이 주어졌을 때 다음 단어가 무엇인지 맞춤
GPT
※ (예) 어제 카페 갔었어 거기 사람 많더라
▶새로운 문장을 생성하는 데 유용
▶단어의 앞뒤 문맥을 모두 살피는 양방향 언어모델로, 문장 중간에
빈칸을 만들고 해당 빈칸에 어떤 단어가 적절한지 맞춤
BERT
※ (예) 어제 카페 갔었어 거기 사람 많더라
▶문장 의미를 추출하는 데 유용

- 10 -
❑ 음성처리

- 딥러닝 등의 방법을 이용하여 음성을 인식하거나 합성‧처리하는 기술

- 자연어처리 시스템에서 사용자 인터페이스를 개선하기 위해 사용

[표 2-8] 음성처리기술의 세부 기술분야

분야 주요 내용
음성인식
▶사람의 음성 언어를 인식하여 텍스트로 변환하는 기술
(STT, Speech-to-Text)
음성합성
▶텍스트로부터 인간의 음성을 인공적으로 합성하는 기술
(TTS, Text-to-Speech)

- 딥마인드 는 기존 최고 수준이었던 구글 의 음성 생성기술(TTS,

社 社

Text-to-speech)를 발전시켜, 방대한 데이터를 통해 사람의 목소리 패턴을

분석하여 언어를 생성하는 방식의 WaveNet 논문을 발표

- IBM 社 는 음성 인식에서 딥러닝 기술과 WaveNet을 결합한 모델로
정확도가 에러율 5.5%에 도달하였으며, 마이크로소프트 는 음성 인식의 社

정확도가 에러율 5.1%에 도달하여 인간 수준을 넘었다고 발표

- 국내에서는 2017년 한국전자통신연구원(ETRI)에서 9개 언어를 음성 인식해
문자로 변환하는 원천 기술을 개발하여 국내 기업체에 기술이전 등 수행
❑ 챗봇

- 사람과의 문자 혹은 음성 대화를 통해 질문에 알맞은 답이나 각종 연관

정보를 제공하는 인공지능 기반의 커뮤니케이션과 관련한 기술
- 인간의 가장 원초적인 의사소통 방식인 대화를 기반으로 하고 있으며,

인간에게 가장 직관적인 방식으로 컴퓨터와 정보를 주고받을 수 있는 수단

- 학습 여부에 따라 검색기반 챗봇과 생성기반 챗봇으로 분류

- 11 -
 [표 2-5] 학습 여부에 따른 챗봇의 분류
분야 주요 내용
▶사전에 수집한 질의와 답변을 바탕으로 입력 질의에 대처

검색기반 챗봇 ▶정해진 규칙에 의해 동일한 답변을 생성(규칙기반)하거나 질의에 대

한 답변의 확률 통계를 이용(통계기반)하여 구현

생성기반 챗봇 ▶입력 질의에 따라 새로운 답변을 생성

- 일반적인 기업에서 인공지능 챗봇의 기능을 처음부터 하나씩 모두

구축하기는 쉽지 않기 때문에, 챗봇 엔진을 제공하고 챗봇 개발에 필요한
다양한 기능을 제공하는 챗봇 개발 플랫폼*이 다수 등장
* 네이버 클로바(Clova), 카카오 i, 구글 다이얼로그 플로우, 매니챗(ManyChat), IBM 왓슨 등
[표 2-6] 공공분야 챗봇 서비스 사례
구분 기관 챗봇명 활용 내용

강남구 강남봇 ▶불법주정차 단속‧민원

대구시 뚜봇 ▶여권, 자동차등록, 코로나19 등 민원 업무

국내
법무부 버비 ▶주택‧상가 임대차, 임금‧해고 등 법률 정보

경기도 지방세 상담봇 ▶재산세, 자동차세 등 지방세 관련 민원

싱가포르 Ask Jamie ▶정부기관 30개 이상 통합 질의응답

해외 영국 앤필드 의회 Amelia ▶영국 앤필드 의회의 민원 상담 및 처리

미국 농림부 Ask Karen ▶식품 안전 정보 제공 및 식품 안전검사

- 12 -
III. 인공지능 동향

- 13 -
 1 인공지능 국내외 도입 현황

1.1 국내 공공‧민간분야

❑ 국내 공공분야 인공지능 도입 현황

❍ 국내 공공분야는 데이터 인공지능(AI) 경제 활성화 계획 (’19.1월) 및

「 · 」

인공지능(AI) 국가전략 (’19.12월)을 바탕으로 인공지능 도입 추진

「 」

❍ ’18-’20년 동안 조달청 나라장터를 통해 발주된 인공지능 관련 사업 89건을

분석하여 국내 공공분야 인공지능 서비스 유형을 분류
- 대국민 서비스를 위해 기존 서비스의 발전 및 강화, 신규 서비스의
개발‧부가가치 창출, 서비스 영역의 확대 및 인프라 구축을 통한 가치
창출과 관련된 내용이 다수
※ 챗봇을 이용한 민원상담(23건, 26%), 기계학습을 적용한 예측예방(15건, 16%) 등
[표 2-9] 국내 공공 빈도수
사례별 맞춤형 센서데이터 업무편의 예측예방 특수분야
민원상담 계
기술별 서비스 활용 자동화 시스템 (자율주행)

기계학습 10 3 5 15 1 34

음성처리 2 2 4

이미지
2 9 7 1 19
처리

챗봇 4 23 1 28

자연어
2 2 4
처리

규칙기반 0

계 16 25 3 19 24 2 89

※ ’18～’20년 조달청 나라장터 발주 인공지능 사업 분석. 세부내용은 부록3 참고

- 14 -
❍ 맞춤형 서비스 최적화된 맞춤형 결과를 산출하는 인공지능 기술이
( )

전통적으로 합리성과 효율성을 기반으로 하는 공공서비스의 본 목적에 적합

- 데이터 기반 정책 결정으로 거시적, 미시적 분석 및 대응이 가능

[표 2-13] 맞춤형 서비스 분야 인공지능 도입 대표 사례

사례명 기관 주요 내용

머신러닝 기반 일자리매칭시스템 한국고용정보원 ▶구직‧구인 정보를 분석해 일자리 추천

지능형 인재추천서비스 인사혁신처 ▶국가인재 DB를 바탕으로 인재 추천

딥러닝 영상인식기술 기반
한국방송광고진흥공사 ▶시각지능기술 접목해 공익‧정책홍보 광고 창작
개방형 광고창작 시스템

❍ 민원상담 여러 가지 대국민 서비스 중 가장 밀접하게 국민의 생활과

( )

연관되어 서비스 품질에 따라 국민의 만족도가 첨예하게 달라지는 영역

- 범용적인 대국민서비스를 제공할 수 있는 챗봇 기술 위주로 도입하였으나,

- 민원상담 영역에서 챗봇의 주 활용목적*이 단순 질의응답 등 기존 서비스의

대체이므로 새로운 서비스를 개발하여 영역을 확장할 필요가 있음

* 민원 상담 사례 25건 중 기존 서비스의 강화 및 프로세스 개선을 주목적으로 하는 사례가 18건
[표 2-10] 민원상담 분야 인공지능 도입 대표 사례

사례명 기관 주요 내용
인공지능기반의
병무청 ▶병무관련 대민행정 민원 챗봇
병무민원신청 시스템

우체국금융 AI 로보텔러 구축 과학기술정보통신부 ▶금융 챗봇, 보험상품 완전판매 모니터링

인공지능 기반 에너지
강원도청 ▶태양광 발전량 예측, 유지관리 등
프로슈머 관리 플랫폼

범정부 민원상담365 행정안전부 ▶교통, 교육, 건강 등 기관 연계 민원상담

- 15 -
❍ 업무 편의‧자동화 가장 전통적이고 기술적 토대가 탄탄한 인공지능 영역
( )

중 하나로 범용성 및 적용의 확장성이 큼

- 차후 업무 편의 자동화 시스템 구축 시 시스템의 내부적 활용뿐 아니라
장기적 관점에서 타 부서 영역과의 공유에 대한 가능성 고려 가능
·

[표 2-12] 업무 편의‧자동화 분야 인공지능 도입 대표 사례

사례명 기관 주요 내용

지능형 수입식품통합시스템 구축 식품의약품안전처 ▶스캔데이터를 통해 수입 이력 확인

AI X-ray 판독 시스템 구축 관세청 ▶불법‧관세 물품 적발‧관리 자동화

토지피복지도 자동분류를
환경부 ▶영상자료를 통해 국토 이용변화 모니터링
위한 지능형 시스템 구축

❍ ( 예측‧예방 시스템 양질의 방대한 데이터를 가지고 정교화된 알고리즘을 통해

)

원하는 수준의 분석력을 얻어낼 수 있어 수요가 더욱 증가할 것으로 예상

[표 2-11] 예측‧예방 분야 인공지능 도입 대표 사례

사례명 기관 주요 내용
AI 기반의 보안관제 전용
한국과학기술정보연구원 ▶보안 관제 과정 자동화 플랫폼
사이버위협 자동분석 시스템

인공지능 기술 기반
한국인터넷진흥원 ▶침해사고 로그 자동 분석‧판단
침해사고 로그분석 시스템

지능형 도로포장상태 예측
경기도청 ▶도로 포장상태 자동 분석‧평가
및 예방시스템

인공지능 건강예측 기반
국민건강보험공단 ▶지능형 질환 발생위험 예측
확대 사업

- 16 -
❑ 국내 민간분야 인공지능 도입 현황

❍ ICT 인프라 시장 성숙으로 인공지능을 활용한 신규 분야에 대한 관심 급증

- 자연어처리, 이미지, 그리고 자연어와 음성인식을 결합한 챗봇 관련
중소기업 및 스타트업이 국내 민간 인공지능 분야에서 다수를 차지
[표 2-16] 국내 민간분야 인공지능 적용 현황

▶챗봇을 이용한 상담 품질이 향상되고 다양한 금융 업무로 확대

금융 ▶3D 아바타와 개인화된 1:1 상담, 이미지 인식 기술로 고지서 자동납부 등
▶(예) NH 농협 챗봇, KEB하나은행 금융챗봇, 크래프트 테크놀로지스 등

▶의료진의 업무 효율성 및 정확도 개선

▶(의료진단) 영상자료, 투약 및 수술 기록, 유전정보, 과거 사례 데이터 등을
종합적으로 분석하여 개인별 치료방법을 제안하고 의료진의 진단을 보조
▶(제약) 신약개발을 위해 수백만 종류의 화학물질 중 최적 물질을 탐색하고
신약 후보 물질이 어떤 작용을 일으킬 것인지를 시뮬레이션을 통해 임상시험
의료
결과 예측
▶(건강 관리) 개인의 신체 상태, 식습관, 생활방식 정보를 실시간으로 수집하고
개인의 건강 관리 정보를 제공하며 특히 고령자를 대상으로 발병 확률 및
위험 상황을 알림
▶(예) 아산병원 뷰노: 의료영상 진료, 판독 서비스로 의료진 지원

▶대학‧중소기업‧스타트업과 활발한 협업을 통해 모든 공정에 스마트팩토리 적용

▶축적된 데이터 분석을 통해 제조공정의 최적 운영방안을 제시하고 작업의
효율성을 높임
제조
▶(스마트 팩토리) 제조설비 이상 감지, 불량제품 자동검사, 안전관리, 시장 수요
예측 등 생산 최적화 가능
▶(예) 포스코 스마트제철소 : 공장 데이터를 수집‧학습하여 스스로 공장 제어
▶상담 내용(음성)을 텍스트로 변환, AI 기반 자동 주문 등 콜센터를 스마트
고객
컨택센터로 전환
상담
▶(예) 이노그리드 스마트 컨택센터: 인공지능과 빅데이터 활용한 상담원 능력 향상

▶생활 밀착형 플랫폼 구축을 목표로 실시간 맞춤형 마케팅 구현

마케팅
▶(예) 롯데백화점: 디지털 AI 플랫폼

▶학습데이터 표준 마련, 개인별 맞춤 학습 지원 및 컨텐츠 제공

교육
▶(예) 뤼이드: 개인화된 학습 경험 제공, 아이스크림에듀: 비대면 스마트러닝 서비스

▶작업의 편의성‧효율성 향상으로 택배 업무 증가에 대응

물류
▶(예) CJ대한통운: 택배기사용 인공지능 가상비서, 센서 데이터 기반 최적 분류 등

- 17 -
1.2 해외 공공‧민간분야

❑ 해외 공공분야 인공지능 도입 현황

❍ 해외에서도 공공부문의 인공지능 시스템 도입에 관한 국가 차원의 전략을

마련하기 위한 논의가 활발하게 진행 중
※ OECD 국가 중 28개국이 인공지능 국가전략에 공공부문의 혁신을 포함하거나
개별 공공부문 혁신 전략을 수립
❍ 미국과 중국을 중심으로 인공지능 경쟁이 심화되고 있으며, 국가별 강점에
적합한 추진 전략을 수립
- 인공지능 기반 기술 확보, 인력양성, 인프라 조성, 생태계 조성, 산업
분야에서의 인공지능 활용 촉진 등
[표 2-14] 국가별 인공지능 주요 정책 및 특징
국가 주요 정책 특징
▶오바마 정부 인공지능 3부작 보고서(2016)
▶자율주행 관련 가이드라인(2016~2018) ▶산업 분야별 AI 활용・촉진을
▶기계를 활용한 정보증강 이니셔티브(2019.1.) 위해 관련 AI 기술개발을 지원
미국
▶국방부 AI 전략(2019.2.) ▶산업 적용을 저해하는 규제를
▶미국 AI 이니셔티브(2019.12.) 완화하기 위한 정책에 중점
▶AI 어플리케이션 규제에 관한 가이드(2020.1.)

▶인공지능 협력선언(2018.4.) ▶인간중심의 가치, 윤리, 보안 등

▶유럽을 위한 인공지능 정책(2018.4.) 균형 잡힌 AI 정책 추진을 지향
EU
▶신뢰할 수 있는 AI 윤리 가이드라인(2019.4.) ▶디지털 싱글 마켓이라는 거시적
▶AI・데이터 전략(2020.2.) 목표와 연결하여 정책 추진
▶빅데이터 발전 촉진 행동 강요(2015.9.)
▶정부 주도의 대규모 투자와
▶빅데이터산업 발전계획(2016.5.)
중국 강력한 인력양성, 데이터 개방
▶차세대 인공지능 발전계획(2017.7.)
・공유 등 기업친화적 정책 추진
▶AI 혁신 행동계획(2018.4.)
▶일본 재흥전략(2016.4.)
▶경제, 산업, 사회, 윤리 등의
일본 ▶AI 산업화 로드맵(2017.2.)
관점에서 포괄적 접근
▶新산업구조 비전(2017.5.)

- 18 -
 국가 주요 정책 특징
▶AI 개발 가이드라인(2017.7.)
▶인간중심의 AI 사회 원칙(2018.3.)
▶AI 활용전략(2019.2.)
▶AI 전략 2019(2019.3.)
▶인공지능 산업 육성 전략 권고안(2017.10.)
▶연구개발, 규제, 윤리, 교육 등
▶AI Sector Deal(2018.4.)
영국 전방위적으로 정책 추진
▶영국 상원 인공지능 전략 보고서(2018.4.)
▶민관의 협력을 강조
▶영국 공공분야 AI 활용 지침(2019.6.)
▶경제‧사회를 포함하는 국가발전
▶AI 권고안(2018.3.)
프랑스 전략의 일환으로 추진
▶AI 투자 및 육성 방안 (2018.3.)
▶데이터와 AI 인재 부문에 집중
▶공공부문 AI 인식개선을 위해
에스토 ▶에스토니아 국가 AI 전략(2019.7.)
정부 서비스에 대한 접근성,
니아 ▶국가 AI 프로젝트 KrattAI(2020.2.)
활용성 최대화 목표

에스토니아) 인공지능에 대한 정부의 인식 이해 부족을 주 장애 요소로

- ( ·

인식하고 공공부문 인공지능 인식 개선을 위한 전략적 비전 수립

에스토니아 국가 AI 프로젝트 “KrattAI”
▶에스토니아 국가 AI 전략(2019-2021) 발표 (2019.7.)
◦(목표) 공공·민간분야에 AI 활용, 기술개발에 필요한 인력양성, AI 활용을 위한
법률적인 지원
◦(내용) AI 테스트베드, 수발주제도, 법령 정비, 오픈 데이터, AI 기반 정부포털개편, AI
공모, 핵심 기술개발, 거버넌스 정비(Chief Data Officer 신설), 인식개선, 공무원 교육 등
▶에스토니아의 새로운 디지털정부 서비스 비전인 ‘KrattAI’ 발표(2020.2.)
◦(목표) AI 전략에서 AI에 대한 정부의 인식·이해 부족을 주 장애 요소로 인식,
공공부문 AI 인식개선을 위한 과제를 추진하여 디지털 정부서비스에 대한 접근성
및 활용성 최대화
◦(내용) 음성기반 공공 서비스를 통해 국민에게 부처별이 아닌 통합적인 서비스 제공
- 에스토니아어 음성 인식 및 합성 기술, 개인 데이터 제공 동의 및 공유 플랫폼 구축,
국민이 제공 동의한 데이터, 사용자와 정부의 상호 소통 내역, 사용자 선호 등을
보관하고 사물통신의 기반으로 활용할 수 있도록 디지털 트윈 솔루션을 정부서비스
플랫폼(eesti.ee)에 구축, 디지털 인증체계(디지털서명, 디지털ID) 기반 인증 등

- 19 -
❍ 인공지능을 공공분야에 적용하여 얻을 수 있는 잠재 가치가 높을 것으로
예측*됨에 따라 방대한 공공데이터를 기반으로 하여 각종 인공지능 서비스 개발
※ 공공영역에 인공지능을 활용할 경우 ’25년에 이르러 세계 GDP는 1.93% 추가 성장
예측(국내외 AI 활용 현황과 공공적용, IITP, 2017)
- 외국 공공분야의 경우 단순 민원처리를 넘어 특정 분야의 전문 지식을
제공하거나 직원의 업무를 대신하는 등의 영역으로 확장하여 사용
[표 2-15] 해외 공공분야 인공지능 사례
국가 사례명 주요 내용
▶게놈 정보와 핀란드 국민의 헬스케어 정보를 결합하여
정밀의료 핀란드 병원 바이오뱅크 네트워크를 통해 프로젝트 진행
핀란드
핀젠 프로젝트 ▶게놈 연구의 촉진과 유전체 정보를 고려하여 진단하고
최적의 치료 방법 제공 가능

▶소프트뱅크는 IBM 인공지능 시스템 ‘왓슨’을 활용하여

지원자 정보를 확인하고 합격 수준 도달 여부를 판단
일본 인사 채용‧선정
▶인공지능이 떨어뜨린 지원자들을 대상으로 서류 점검하여
채용 효율성 증대

▶횡단보도 주변에 설치된 카메라에서 수집된 영상을 신경망

학습으로 분석
▶평소에는 횡단보도를 나타내는 하얀색 줄무늬가 없다가
AI 횡단보도 사람이 등장하면 표식들이 나타나게 되는 기술
영국
(스탈링 크로싱) ▶보행자 안전을 우선 순위에 놓고 보행자의 잠재적 위험
요소를 파악해 신호를 변경
▶차량 중심의 기존 횡단보도 대신 상황에 맞게 변화하는
지능형 횡단보도

▶인공지능 폐쇄 카메라를 이용해 실시간 사람들의 정보를

안면인식 수집하고 분석, 색출해내는 기술 구축
중국
(텐왕프로젝트) ▶공안 경찰은 안면인식 특수안경 착용
▶사회치안 개선 및 사회 안정유지로 활용

식품안전정보 ▶음식 안전 및 검사를 안내하는 메신저 기반의 챗봇 서비스

미국
및 검사 ▶언제 어디서나 국민들이 간편하게 식품안전 관련 정보 확인
(농림부)
(Ask Karen) 및 검사 서비스 활용

- 20 -
❑ 해외 민간분야 인공지능 도입 현황

❍ 인공지능이 전통 산업을 포함한 전 산업에 걸쳐 확산‧보편화되면서

인공지능 핵심 기술을 가진 글로벌 대형 IT 기업의 역할이 증대
- 아마존, 구글, 애플 등의 미국 기업들과 바이두, 알리바바, 텐센트 등 중국
기업들을 중심으로 인공지능 분야 주도권 확보를 위한 경쟁이 심화
- (자율주행 ) 기존의 차량 제조회사뿐 아니라 비제조사인 IT 기업에서도

인공지능을 활용한 자율주행차량 개발

- (AI 스피커) 자연어처리 기술을 활용한 인공지능 스피커를 이용해 가상

개인 서비스를 제공하고 있으며 다양한 산업 분야로의 응용 가능성이 큼

[표 2-17] 해외 민간분야 인공지능 적용 현황

▶챗봇과 가상 에이전트를 이용하여 24시간 고객 응대, 실시간 금융 정보 제공

금융
▶(예) Bank of America: 자산관리형 인공지능 비서 Erica, 필리핀 신용평가 인공지능: Lenddo
의료 ▶의료 기록 분석, 이미지 분석 기법을 이용하여 치료 방법 추천 및 질병 예측
헬스 ▶챗봇 기반 환자 응대, 신약 개발 기간과 비용 감소 등을 위해 인공지능 활용
케어 ▶(예) 미국 존슨앤존슨: 신약개발, 중국 보험회사 평안: 인공지능 기반 의료서비스
▶자연어 처리와 법률 추론을 통해 판례 학습 및 형량 예측
법률 ▶계약서 분석부터 자동 작성 등에 인공지능 활용
▶(예) 미국 로펌 베이커 & 호스테틀러: 인공지능 변호사 ‘로스’

▶품질 점검, 장비 고장 예측, 공급망 관리, 스마트 팩토리 등

제조
▶(예) 독일 BMW: 공장 설비 잠재적 고장요인 예측
▶이미지, 비디오 분석 기술을 활용하여 오프라인 상점에서의 고객의 행동을
마케팅 분석하고 이를 기반으로 광고와 마케팅 전략 수립
▶(예) 미국 할리 데이비슨: 인공지능 개인 맞춤형 추천 마케팅 플랫폼 알버트:
▶인공지능 기반으로 학생 개개인의 소질과 잠재력에 맞춰 개별화된 학습
교육 경로를 제공하는 ‘적응학습(adoptive learning)’을 기초학문에서 도입
▶(예) 미국 아리조나 주립대: 인공지능 기반 적용 학습
▶매출 예측 및 재고관리, 점포의 위치 선정 등 모든 물류, 재고, 매장 관리
물류 영역에 인공지능 활용
▶(예) 미국 월마트: 인공지능 기반 매장, 프랑스 로레알 社: 인공지능 스타일리스트

- 21 -
 2 공공분야 인공지능 도입 방해요인

❑ 인공지능 특성과 도입 환경의 상관관계

❍ 인공지능은 목적에 맞는 최적의 모델을 생성하여 다량의 고품질 데이터를

학습해야 원하는 성능에 도달할 수 있음
- 최적의 모델을 생성하기 위해서는 기술검증을 실시하여 알고리즘 간 성능을

측정‧비교해야 하고, 고품질 데이터를 확보하기 위해서는 데이터 보유

현황을 조사하고 활용 목적에 적합한 형태로 데이터를 가공해야 함
❍ 사업 종료 이후에도 인공지능의 성능을 유지하려면 최신 데이터를 수집해서

학습시키는 등 꾸준한 관리가 필수적

⇨ 국내 공공분야 정보화사업 환경에서는 이러한 인공지능 기술의 특성을

제대로 반영하지 못하여 도입 과정에 어려움과 부작용 발생

[표 2-18] 세계경제포럼(WEF)에서 제시한 공공부문 AI 도입의 5가지 방해요인(2019)

장애 요인 내용

효과적인 데이터 ▶공공부문의 데이터 형태와 AI 활용의 연계성이 아직 어렵고 데이

활용의 어려움 터 이해를 위한 기능 및 거버넌스가 부족

▶높은 수준의 AI 관련 전문인력이 필요하며, 정책입안자, 부서

기술적 부족
책임자, 실무자 등의 AI에 대한 이해가 부족

▶AI 기술력이 뛰어난 중소기업들과 정부와의 협력 경험 부재로 대

AI 생태계
규모 업무수행을 위한 인력 및 자금이 부족

▶공공기관은 기존 관행과 절차를 중시하고 민간보다 조직의 경직성

조직 문화
이 강해 위험을 감수하지 않으려는 경향이 존재

▶정부와 민간의 알고리즘에 대한 인식차이로 민간과의 계약에 어려

조달 매커니즘 움이 있을 수 있으며, 소기업의 경우 복잡하고 상당한 시간이 소요
되는 공공조달 매커니즘에 대응하기 어려움

- 22 -
❑ 국내 공공분야 인공지능 도입 방해요인

공공분야 인공지능 도입 시 발생하는 주요 문제점을 파악하기 위해 ’18～’20년 조달청 나라장터를

통해 발주한 인공지능 관련 사업 89건 중 도입 우수 사업을 대상으로 담당자 심층 인터뷰 진행

❍ 사업 초기 단계부터 도입 목적, 사용 기술, 데이터 운용 등이 모호한

상태에서 사업계획서를 수립하는 경우가 많음
- 인공지능 활용범위, 학습에 사용할 데이터의 양, 특성 등과 관련된 세부
내용에 대한 설정이 부족한 제안요청서 제안서를 작성 ·

- 시스템을 구축하면서 예산 인력 부족, 데이터 확보 등 현실적 한계에 부딪혀

·

원하는 수준의 성능을 얻지 못함

❍ 규모가 큰 사업일수록 부가적인 기능을 중심으로 인공지능을 도입함에 따라
실제 활용하려는 인공지능 활용 기능과 목적이 불분명한 상태로 사업 진행
- 특히 SI 기업을 통한 일괄발주 형태로 진행하는 경우 발주자가 직접 기획‧설계를
수행하지 못하고 업무 전반을 업체에 일임하여 상세 개발이 어려워짐
❍ 국내 공공기관의 인공지능 사업은 잠재력은 크지만 이제 막 도입을 시도하는 초기
단계로 선행 사례를 찾기 어렵고 인공지능 기술에 대한 전문지식, 경험, 노하우가 부족
- 공무원 순환근무제도에 따라 평균 1년 6개월~3년마다 사업 담당자가 바뀌어
해당 분야의 분석 및 설계역량을 갖출 수 있는 충분한 기간 확보가 어려움
공공분야 인공지능 사업 담당자가 느끼는 주요 애로사항

▶구체적인 계획을 수립하지 않고 사업을 발주하여 과업내용이 불명확

▶사업 기간이 짧아 학습을 위한 충분한 시간이 확보되지 못함
▶잦은 사업자 변경으로 이전 사업 결과물 활용이 어려움(단년도 사업)
▶인공지능 도입 사업 추진 중 발생가능한 위험요소를 예측하기가 어려움
▶학습‧시험 데이터를 확보하기가 어렵고 확보하더라도 데이터 가공에 오랜 시간 소요
▶사업 종료 후 1년에 대한 운영 예산이 배정되지 않아 초기 운영이 어려움
▶사업 관리자를 위한 전문적인 교육이 없음
▶인공지능 성능 평가를 위한 공통 기준이 없어 업체 선정 및 사업 검수가 어려움
▶알고리즘이 공개되지 않아 내부 구조 접근이 제한되며 돌발상황 대처가 어려움

- 23 -
 3 공공분야 인공지능 도입 사업 절차

❑ 공공분야 인공지능 도입 사업 프로세스

❍ 기존 정보화사업 발주 절차마다 인공지능 기술 특성을 효과적으로 고려하기
위한 항목을 제시하고 기획 단계에서 윤리 심의 절차를 새롭게 추가
❍ 인공지능 사업 경험자 또는 관련 전문가가 참여하는 TF를 구성하여 사업
단계별 고려사항을 체계적으로 검토하여 사업추진 시 발생하는 어려움 최소화
[그림 3-1] 공공분야 인공지능 도입 사업 프로세스

※「사례기반 SW 단계별 발주 가이드」(과학기술정보통신부, ’20.1월) 참고하여 재구성)

- 24 -
IV. 사업 단계별 고려사항

- 25 -
 1 기획 단계

❑ 기획 단계
[그림 3-2] 공공분야 인공지능 도입 사업 절차(기획 단계)

❍ 기획 단계는 본격적인 사업을 시작하기에 앞서 조직을 구성하고 기획,

예산을 확보하여 사업계획서를 수립하는 단계를 지칭
- 인공지능은 일단 구축하고 나면 쉽게 바꾸기 어려우며 개인‧사회에 큰
영향을 미치므로 도입 전에 신중히 검토해야 함
❍ (ISP 수립) 사업 목표를 명확히 하여, 인공지능이 목표 달성에 도움이
되는지 판단하여 도입 여부 결정하고 3개년 이상의 중장기 로드맵 수립
- 본격적인 추진 이전부터 인공지능 학습을 위한 데이터 운용방안에 대한 고민 필요
- 사업을 기획하는 단계부터 기술검증, 윤리원칙, 데이터 운용 등 인공지능 특성을
고려하고 관련 사항을 준비할 수 있도록 지원하기 위한 사업 기획 TF 구성
❍ (예산 확보) 데이터 수집‧전처리, 학습 등 인공지능 도입을 위해 반드시
업무를 정의하고 이에 대한 적정 규모의 예산을 충분히 확보해야 함
❍ (사업계획서) 수립한 ISP와 예산을 바탕으로 당해년도 사업의 구체적인 계획 수립
- 데이터의 경우 인공지능 모델 학습을 위해 필수불가결한 요소이므로
수집‧조달 방안에 대한 계획을 최대한 구체적으로 수집
❍ (윤리 심의) 인공지능 도입 사업이 야기할 수 있는 개인적‧사회적 피해와
논란에 대해 인지하고 대응방안 마련
- 26 -
1.1 ISP 수립 및 정보화 기획

❑ 사업 기획 TF 구성

❍ 인공지능 도입 사업 경험자, 인공지능 관련 산‧학 전문가로 구성된 사업

기획 TF를 구성하여 초기 단계부터 철저하게 관리
- (도입 환경 분석) 인공지능 도입의 목표를 구체화하고 조직구성, 데이터
보유현황 등 사업 환경이 인공지능 도입에 적절한지 분석
- (윤리 심의) 사업계획서 확정 전 인공지능 도입의 목적과 제공하려는
서비스의 최종 형태에 관한 윤리적 측면에 대한 심의 진행
[표 3-1] 사업 기획 TF 구성원별 역할
구 성 역 할
▶인공지능 상용 기술 자문 및 인공지능 도입 유사 사례 제시 등
외
산‧학계 ▶인공지능 사업 예산 수립을 위한 대가 산정 검토
부
▶관련 연구 사례 제시를 통한 인공지능 기술검토, 윤리 원칙 제시 등
현업부서 ▶서비스 아이디어 제공, 행정업무 현안, 문제점 및 처리 노하우 공유 등

❑ 정보화전략계획(ISP) 수립

❍ 기획재정부 예산안 편성 세부지침 과 예산 집행지침 에 따르면,

「 」 「 」

정보화시스템 구축 예산은 원칙적으로 ISP 수립 이후에 요구

- 「ISP 수립 공통 가이드 를 준수하여 사업 전체의 방향성을 설정하는
」

장기적 관점에서 인공지능 활용을 위한 ISP 계획 마련

※ 일부 사업의 경우 기획재정부장관과 사전협의를 거쳐 ISP 수립 절차를 제외하거나, 수립
완료 이전에 정보시스템 구축 예산 요구 가능
❑ ISP 수행 업체 선정

❍ ISP 수행기관으로 컨설팅 업체를 선정할 경우 인공지능 기술 내용이

전문적이지 않고 결과물의 활용성이 낮은 편
- 기술 전문 업체 또는 기술전문가가 소속되어 있는 컨설팅 업체와 계약 체결

- 단기적 기술 현황뿐만 아니라 미래의 기술 변화‧발전을 고려하여 ISP 수행 내실화

- 27 -
❑ 인공지능 도입 타당성 검토

❍ ( 방향성 구체화) 인공지능을 도입하여 해결하려는 문제에 대한 정의, 데이터

보유 여부 및 품질, 결과물 활용방안 등을 구체화
- 의사결정권자의 지원 및 현업 담당자 참여를 위한 선행 성공 사례 조사

❍ (실현가능성 판단) 국내외 인공지능 도입 현황을 분석하여 현 기술 수준을 파악

- 인공지능이 만능이 아니며 업무 및 데이터 특성에 따라 학습에 비용과

시간이 많이 들 수 있으며, 인공지능 도입이 반드시 성공한다는 보장을 할

수 없으므로 무작정 타 기관을 따라 도입하는 것은 지양
- 인공지능 도입으로 해결이 가능할 것으로 예상되지만 윤리적 논란의 소지가

있는 경우 관련 전문가 자문을 거쳐 도입 여부를 신중하게 결정

❍ (편익 분석) 인공지능 도입으로 예상되는 비용(학습 비용, 유지인력 등)과

이익을 정량적으로 비교하여 도입 결과를 사전에 예측한 후 도입 결정

※ 선행 연구, 유사 서비스 사례 등을 조사하여 효과성과 예상 장애요인을 미리 예측 가능
- 의사결정권자로부터 전사적인 지원을 약속받아야 지속적‧안정적 추진 가능
❍ (환경 분석) 사업 추진 조직의 내외부 환경을 분석하여 인공지능 도입으로

원하는 목표에 도달할 수 있는지 종합적으로 판단

[표 3-1] ISP 수립을 위한 내외부 환경 분석

환경 주요 내용

▶사용자 집단이 인공지능을 비롯한 신기술을 활용할 역량이

사용자
충분한가? (연령, 디지털기기 보유 여부 등)

▶도입하려는 인공지능 기술이 실제로 원하는 수준의 성능에

외부 기술
도달해있는가?

▶활용 가능한 외부 데이터 확보를 위한 기관 간의 협의가

협업부서
되어있는가?

- 28 -
 ▶조직 구성원의 인공지능 도입 사업의 목적과 필요성에 대한
공감대가 형성되었는가?
인력
▶최고책임자가 프로젝트에 대한 이해와 확고한 추진 의지를 가지고
있는가?

▶인공지능에 활용하려는 데이터를 충분히 보유하였는가?

※데이터 규격(필드값), 크기, 용량, 형태, 생산 주기, 개인정보 포함
여부, 전처리 난이도 및 예상 비용 등
데이터 ▶(자체 보유 데이터가 없다면) 데이터 조달 방법을 마련했는가?

내부 ※데이터 출처 및 신뢰성, 품질, 조달 주기, 구매 및 전처리 비용 등

▶외부 데이터와 내부 데이터를 통합하여 활용할 수 있는지
확인했는가?

▶데이터 활용 관련 보안 사항 및 개인정보보호 문제를 점검했는가?

보안‧윤리
▶활용 예정 데이터에 개인정보가 포함되어 있다면, 개인정보 데이터
점검
제공범위 및 보안 방안에 대해 협의가 되었는가?

▶인공지능의 안정적 도입을 위해 최소 2년 이상의 사업기간을

계획
확보하고, 연차별 준비사항(Action Plan)을 제시하였는가?

❑ 필요 데이터 현황 분석

❍ 필요 데이터 정의 및 보유현황 분석
- 데이터를 자체 보유하고 있다면, 데이터 양과 품질을 조사하여 추가 조달이

필요한지 검토
- 외부에서 수집해야 한다면, 학습용 데이터로 가공할 원천 데이터를 온라인

및 오프라인으로부터 수집‧제작‧축적
- 데이터 보유기관(부서), 데이터명, 데이터 설명, 데이터 형태, 용량 및 데이터

제공 형태 등 현황을 검토하고 데이터 수집에 법률상 제약사항(저작권,

개인정보 등)은 없는지 확인
- 외부 데이터 중 민간 데이터의 경우, 활용 대상 범위와 데이터 수집 및 구매

비용을 고려

- 29 -
 [표 3-2] 데이터 수집 방안(예시)
수집 예시 특징
경로
▶기관에서 보유중인 데이터의 형태, 크기, 용량 및 형식 등을 검토
내 기관 보유
▶보유 데이터를 학습에 적합하게 가공하는 전처리 과정 필요
부 데이터 현황 조사
▶데이터의 관리‧활용 권한에 관한 부서 간 협의 필요

▶민간에서 보유‧수집 데이터 구매

인공지능 데이터
▶민간 데이터 활용에 따른 법적 제약사항 및 구매 비용에 대한
유통 업체
검토 필요

▶과학기술정보통신부에서 운영하는 인공지능 인프라(데이터, SW,

AI hub 컴퓨팅 자원 등) 지원 플랫폼
(aihub.or.kr) ▶국내 공공‧민간 기관을 대상으로 막대한 비용으로 자체 확보가 어려운
외 인공지능 학습 데이터 공개(자연어, 이미지, 영상, 지식베이스 등)
부
공공데이터 포털 ▶공공기관이 생성‧취득하여 관리 중인 공공데이터를 한 곳에서
제공 데이터 제공하는 행정안전부 운영 통합 포털
(www.data.go.kr) ▶파일데이터, 오픈API, 시각화 등 다양한 방식으로 제공

▶행정안전부에서 운영 중인 공공‧민간의 데이터를 연계, 수집,

빅데이터 포털 혜안
저장하고 분석 결과를 공유하는 범정부 빅데이터 분석 시스템
(www.insight.go.kr)
▶공공정보와 소셜 데이터를 연계한 다양한 분석 기능 제공

데이터 보유현황 분석(예시)

 위해 물건 적발 인공지능 구축 사업
▶파일 형태: JPEG 이미지 파일
▶파일 용량: 100KB ~ 1,000KB(최대 1MB)

▶파일 사이즈: 가로 900px ~ 1,100px, 세로 640px ~ 960px

▶파일 해상도: 72px~200px
▶파일 수: 위해물품 25종. 종별 약 900 ~ ,000장

▶보유기관: 자체 보유(동일 기관 내 타 부서)

▶특이사항: 위해물품 종별 데이터양에 편차 존재

- 30 -
❍ 데이터 전처리 환경 분석
- 인공지능 학습데이터는 현실세계에서 인간이 생성하는 원천데이터에 각종

지식과 정보를 라벨링하여 기계가 읽고 이해할 수 있는 형태로 가공한 것

원천 데이터(raw data) 전처리 학습 데이터
파일 크기‧규격 통일
인공지능 학습이 가능한
말소리, 필기체, 동영상 등 데이터 라벨링
형태로 정제된 데이터
디지털 형태로 변환 등

- 인공지능 사업 목표에 따라 동일한 원천데이터라도 가공 형태는 천차만별

- 소규모 사업이거나 인공지능이 사업의 일부를 차지하는 경우 사업 전처리에

드는 시간‧비용 부담이 크므로, 외부의 데이터를 활용하는 등 사전 준비 필요

[표 3-3] 학습 데이터 구축을 위한 데이터 전처리 절차
예시 특징
▶수집이 필요한 데이터 정의
▶학습이 가능하도록 학습 데이터 모델과 구조 설계
1. 수집
▶저작권, 개인정보 등 법적 문제 사전 검토
▶크라우드 소싱 등 수집 전문 업체를 통한 원천 데이터 수집
▶수집한 데이터를 목적에 맞게 수정하는 과정
▶유사 데이터 간 중복성 제거
※ 예: 동일한 각도에서 찍은 동일한 물체사진 등
2. 정제
▶수집 과정에 발생한 형식 오류 등 부적합 데이터 삭제
※ 예: 흔들린 사진, 손상된 음성파일 등
▶의도치 않게 포함된 개인정보 비식별화 등
▶인공지능 모델이 학습할 수 있도록 사전에 설계한 구조에 따라
데이터 변환
▶추출(Sampling)
학습에 영향을 미치는 데이터만 별도로 선별
▶축소(reduction)
3. 가공
컴퓨팅 시간을 단축하고 학습효과를 높이기 위하여 데이터 분석에
활용되지 않는 불필요한 항목을 제거
▶라벨링(labeling)
데이터(이미지, 언어문장 등) 파일을 설명하는 정보(라벨)를 입력하는
인공지능 학습에서 가장 중요한 과정
▶외부 자문단을 통한 품질 인증
전체 번역 문장 평가/검증을 위해 별도 기관이 검사, 검사 지침 필요
4. 검사
▶전수 검사
데이터, 입력 라벨 등 가공 결과를 담당자(사람)가 확인
※ 사업 목적, 데이터의 성격에 따라 생략 또는 추가되는 절차가 있을 수 있음
※ 출처: 데이터 구축 가이드북(한국정보통신기술협회, 2020.1.10.)
- 31 -
❍ 데이터 저장‧관리 환경 분석
- 확보한 데이터는 원천 데이터와 정제 데이터를 구분하여 보관하고,
지속적으로 활용할 수 있는 계획을 수립
- 원천 데이터 활용계획에 수집 방법, 수집 주기, 보유 기간 등을 포함
- 원천 데이터를 정제하여 구축한 학습 데이터는 목적에 따라 훈련용, 검증용,
테스트용으로 구분하여 관리
[표 3-4] 용도에 따른 학습 데이터 구분
구 분 용 도
▶인공지능 모델을 학습시키기 위해 사용하는 데이터
훈련 데이터
※ 좁은 의미의 학습 데이터는 훈련 데이터를 지칭
(training data)
▶훈련 데이터가 너무 적으면 모델 학습이 충분히 이루어지지 않음
▶모델이 얼마나 잘 생성되었는지 측정하고 그 결과에 따라 모델을
수정하여 최적의 모델을 선택하기 위해 사용하는 데이터
검증 데이터 ▶검증 데이터 없이 학습할 경우 과적합이 발생할 수 있음
(validation data) ※ 과적합(Overfitting): 훈련데이터를 과하게 잘 학습하여 훈련 데이터에
대해서는 정확성이 매우 높지만 실제 데이터(테스트 데이터)에
대해서는 오차가 증가하는 현상
▶훈련 데이터와 검증 데이터를 반복적으로 훈련시켜 생성한 최종
테스트 데이터 모델이 새로운 데이터에 대하여 얼마나 좋은 성과를 갖는지
(test data) 평가하기 위해 사용하는 데이터
▶모델 생성‧수정에 한 번도 사용된 적 없는 실제 데이터
※ 학습 데이터 분할 방법(hold-out 교차검증 방식)

점검 항목 비고
최고책임자가 프로젝트에 대한 이해와 확고한 추진 의지를 가지고 있는가?

AI 도입을 위한 현업/정보화 담당자 간의 명확히 역할과 책임이 정의되어 있는가?

사업 관련 구성원 사이에 사업의 목적과 필요성이 충분히 공감되고 있는가?

과거 도입 사례와 선행연구 등을 참고하여 인공지능 도입 비용과 이익을 분석하였는가?

인공지능 활용의 점진적 확대를 위한 연차별 준비사항(Action plan)을 제시하였는가?

인공지능 학습을 위한 데이터를 정의하고 보유 현황 및 환경을 분석했는가?

사업 목표를 고려할 때 해당 문제를 해결하기 위한 수단으로 인공지능을 도입하는 것이 적절한가?

타 기관의 인공지능 공통기반을 활용 또는 연계‧통합이 가능한지 사전에 검토했는가?
(챗봇 공통기반, 국민비서 알림 서비스, 빅데이터 분석 플랫폼 혜안 등)
행정안전부 “공공데이터 관리지침”에 따라 민간 서비스와의 중복‧유사성을 검토했는가?
국내외 사례 벤치마킹, 최신 기술 수준 조사 등을 통해 실현 가능성을 판단했는가?
인공지능 도입으로 기대되는 성과 및 도입 효과가 구체적으로 제시되었는가?

- 32 -
 1.2 예산 확보 및 편성

❑ ISP 검토

❍ 각 중앙관서의 장은 ISP 수립 공통가이드 에 따라 정보시스템 구축 예산

「 」

요구에 앞서 ISP 최종산출물에 대한 검토를 기획재정부에 요청

- 검토 결과를 토대로 내용 조정 등의 절차를 거친 후 예산안 편성을 위한
타당성 및 규모를 확정
❑ 사업비 산출

❍ 「SW 사업 대가산정 가이드 를 준용하여 개략적인 소요 예산 규모 산정

」

※ 「SW 사업 대가산정 가이드」는 행정안전부의 「행정기관 및 공공기관 정보시스템 구축‧운영

지침」, 기획재정부의 「예산안 편성 및 기금운용계획안 작성 세부지침」에 그 근거가 명시
❍ 인공지능 도입 사례를 분석하여 인공지능 사업에만 존재하는 특수 과정*을
파악하여 세부 과업으로 정리함으로써 인공지능 도입 사업의 예상 소요
비용을 포괄적으로 점검해야 함
* 학습 데이터 조달‧전처리 비용, 인공지능 모델 학습, (사업 종료 후) 안정화를 위한 학습에
필요한 인력‧비용 등
- 정확한 세부 과업 정의를 위해서는 ISP 단계에서 인공지능 도입을 위한
환경 분석을 최대한 구체적으로 하는 것이 매우 중요함
※ 필요하다면 관련 개발 경험이 있는 기업들로부터 사전에 견적을 의뢰하여 비용 고려 가능
❑ 인공지능 단위 업무 생성

❍ 예산안 수립 시 데이터 수집, 데이터 전처리, 알고리즘 선정, 학습 및 검증,

테스트, 안정화 기간 운영, 재학습 등 인공지능 사업의 특수성을 고려하여
단위업무(서브 시스템)를 추가하여 투입공수(M/M) 산정
- 33 -
 [표 3-5] 인공지능 시스템 구축 사업 사업비 산출을 위한 단위업무(예시)

단위업무명 (대기능) 주요 내용
▶기계학습 모델을 생성하기 위해 기계학습 알고리즘에

입력하는 데이터를 추출하는 시스템

AI 데이터 수집 시스템
▶배정된 연계 시스템에서 데이터 수집, 실시간으로 데이터

검색 추출하여 분류
▶인공지능 학습 데이터 정제는 기계학습 모델을 생성하기

AI 데이터 전처리 시스템 위해 기계학습 알고리즘에 사용되는 데이터를 추출‧변환하여

기계학습에 사용할 수 있는 수치로 전처리

▶수치화된 학습 데이터를 인공지능 알고리즘에 입력하여

AI 기계학습 시스템 원하는 결과를 얻을 수 있도록 인공지능 모델을 생성하고

학습하여 목표기능 수행
▶인공지능 모델을 생성하기 위한 데이터, 알고리즘 등 정보와
AI 관리시스템
학습 결과, 성능 모니터링을 위한 시각화 정보 제공
STT(Speak-To-Text) ▶음성회의록, 스마트 컨택트 센터 등 음성을 문자(텍스트)로

시스템 변환하는 과정이 필요한 시스템에서 필요한 단위업무

❑ 예산 확보 및 편성

❍ 기획재정부의 예산안 편성 지침*을 토대로 사업 필요성, 산출 근거 등을

기술한 예산요구서를 기획재정부로 제출
* 「예산안 편성 및 기금운용계획안 작성 세부지침」
- 인공지능 기반 시스템 구축 시 확보해야할 사업비에 누락이 없는지 검토
점검 항목 비고
학습용 데이터 수집·전처리 단가를 적절히 산정하였는가?

학습데이터 수집, 제작, 가공, 시스템 운영비 등 인공지능 특성을 반영한 기능단위 업무를 설계했는가?

- 34 -
1.3 사업계획서 작성

❑ 사업 범위 및 방향성 수립

❍ 사업 범위 도출
- 인공지능 구축사업의 추진 목적, 배경 및 필요성을 충분히 이해하고

정보화전략계획과의 연계성을 파악하여 사업 추진범위를 도출

- 정보화전략계획(ISP)이 수립되어있는 경우 기존의 정보화전략 및 방향에 변화가

없는지 관련 담당자와 확인하고 ISP와 연관성을 고려하여 계획 도출

❍ 사업 방향성 확립

- ISP가 인공지능 구축사업의 추진 방향과 일치하지 않으면 이해관계자

대상으로 인터뷰를 실시하여 추진범위 및 목표, 방향 재정의

※ 정보화전략계획이 없는 사업은 정보화부서와 인공지능 구축사업에 대한 전략 협의
- 기술 수준을 비롯한 사업 환경을 고려하여 당해년도 사업의 추진범위를
현실적으로 설정
- 인공지능 시스템 운영 유사사례를 조사하여 시스템 제공 기능 및 문제점,

구축 시 유의사항 등을 파악하여 사업계획서에 반영

❑ 데이터 수집‧조달 계획 수립

❍ 데이터 수집 필요성 검토
- ISP 수립 시 데이터 현황 분석 결과를 토대로 금년도 사업 추진에 필요한

데이터의 양, 범위, 수준 등을 구체적으로 정의

- 필요 데이터 정의에 따라 자체 보유 데이터의 양과 품질을 조사하여

추가적인 수집‧조달이 필요한지 검토

- 35 -
❍ 데이터 조달 방안 적절성 검토
- 데이터 제작 또는 수집 과정에 검토해야하는 저작권법, 개인정보보호법 등
법률상 제약사항을 확인
※ 데이터 자체의 내용 뿐 아니라 보유기관(부서), 제작 방식 등 외부 요인도 고려
- 외부 데이터 중 민간 데이터의 경우, 활용 대상 범위와 데이터 수집 및 구매
비용을 고려
❑ 사업계획서 확정

❍ 기술적용계획, 상호운용성 확보를 위한 기술평가, 보안성 검토, 인공지능

윤리 심의, 사전협의 결과 등을 반영하여 사업계획서 확정
점검 항목 비고

정보화전략계획(ISP)과의 연관성을 고려하여 구축사업의 방향성을 도출했는가?

인공지능 학습을 위한 데이터 보유 현황을 조사하고 수집‧조달‧방안을 마련했는가?

AI허브 등에서 기 구축되어 있는 인공지능 학습용 데이터를 우선적으로 활용하는 것을 고려했는가?

빅데이터 관련 활용인 경우, ‘혜안’ 등 기 개발된 빅데이터 공통기반 시스템 및 공공

빅데이터 표준 분석 모델 활용 여부를 검토하였는가?

사업 수행에 적합한 인공지능 기술(알고리즘)이 검토되었는가?

오류데이터 제거, 활용을 위한 데이터 타입 통일을 위한 변환, 데이터 검증 및 정제 과정의

절차를 수립하였는가?
수집‧이용 예정 데이터에 개인정보가 포함되어 있다면, 개인정보 침해 발생 대응 방안에
대해 법적 타당성 등을 사전에 검토했는가?

- 36 -
1.4 인공지능 윤리 심의

❑ 목적

❍ 인공지능의 특성으로 인해 국가산업 전반에 가져오는 변화가 양극화 심화,

분쟁 증가, 개인정보 유출, 인간 소외 등의 역기능으로 발생할 우려가
있으므로 이에 대한 대응방안을 기획단계에서부터 논의 필요
[그림 3-2] 인공지능의 기술적 특성과 법적 이슈(출처: KISDI, 인공지능 시대의 법제 정비 방안, ’19)

❑ 심의 내용

❍ 신뢰가능한 인공지능 구현을 위해 사업 전반에 대해 윤리적 측면에서 평가

- 기획 단계에서부터 인공지능의 블랙박스 특성을 최소화하고 신뢰성 향상

❍ 다양한 이해관계자가 참여하여 인공지능 공정성‧투명성을 확보할 수 있는

방안 모색하여 사업계획서를 확정
❍ 인공지능으로 우려되는 역기능과 대책은 완전한 사회적 합의(consensus)에
이르지는 못했으나 다양한 윤리 원칙이 제시되어있으므로 적절하게 참고
[표 3-7] 인공지능 윤리 관련 원칙‧가이드

분류 제 목 발행기관 발행연도
신뢰가능한 AI 원칙 OECD ’19.5월
국외 신뢰가능한 AI를 위한 윤리 가이드라인 EU ’19.4월
국제적 논의를 위한 AI 개발 가이드라인 일본 ‘17.7월

- 37 -
분류 제 목 발행기관 발행연도
국가 인공지능 윤리 기준안(’21년 확정 예정) 과학기술정보통신부 ’20.11월
이용자 중심의 지능정보사회 원칙 방송통신위원회 ‘19.11월
인공지능 윤리 헌장 한국인공지능윤리협회 ‘19.10월
국내
지능정보사회 헌장 정보문화포럼 ‘18.6월
카카오 알고리즘 윤리 헌장 카카오 ‘18.1월
로봇 윤리헌장 산업자원부 ‘07.3월

인공지능 개발 및 활용에서 고려할 3대 기본원칙

(출처: 국가 인공지능 윤리 기준안, 과학기술정보통신부, ’20.11월)
 인간 존엄성 원칙
▶인공지능 개발 및 활용은 안전성과 견고성을 갖추어 인간에게 해가 되지 않도록 해야
한다.
 사회의 공공선 원칙
▶공익 증진을 위한 인공지능 개발 및 활용은 사회적, 국가적, 나아가 글로벌 관점에서
인류의 보편적 복지를 향상시킬 수 있어야 한다.
 기술의 합목적성 원칙
▶인공지능은 궁극적으로 인간에게 도움이 되어야 한다는 목적에 맞도록 개발 및
활용되어야 한다.

`분 류 고 려 사 항 비고
인공지능 모델의 학습 결과에 영향을 줄 수 있는 편견이 존재하는가?
공정성 (설계 공정성) 사업 계획 및 사용 기술(알고리즘)이 합리적인가?
(비차별성) (데이터 공정성) 공정한 데이터를 수집‧활용하는가?
(결과 공정성) 차별적인 영향이 없는 시스템인가?

투명성 이해관계자에게 학습 및 판단의 과정에 대해 설명이 가능한가?

(설명가능성) 판단의 결과에 대해 제3자가 보더라도 받아들일 수 있는가?

개인 및 사회 집단에 차별적 영향을 미칠 수 있는 잠재력이 있는가?

인공지능이 개인과 사회에 긍정적 사회변화를 이끄는 방향으로
활용되는가?
공공성
결과물에 영향을 받는 이해관계자는 누구이며, 어떤 영향을 미치는가?
인공지능 알고리즘 결정으로 발생하는 피해에 대한 대응 방안을
마련했는가?

- 38 -
 2 구축 단계

❑ 구축 단계
[그림 3-0] 공공분야 인공지능 도입 사업 절차(구축 단계)

❍ 구축 단계는 사업을 수행할 업체를 선정하고 시스템 구축 등 본격적인

사업을 추진하는 단계
- 목표 성능에 도달할 수 있도록 충분한 학습을 통해 최적의 모델을 개발하는
동시에 신뢰 가능한 인공지능을 구축할 수 있도록 지속적인 점검이 필요
❍ (제안요청서 작성) 사업계획서를 바탕으로 작성하되, 제안사가 인공지능의
실질적인 개발 범위를 알 수 있도록 구체적인 제안요청서를 작성
- 제안요청서를 확정‧변경을 심의하는 과업심의위원회에 인공지능 전문가가
참여하여 제안요청서의 인공지능 관련 요구사항들을 검토
❍ (사업자 선정) 제안사의 이력보다는 사업에 대한 이해도와 전문성있는
인력보유 여부를 중심으로 기술평가 후 사업자 선정
- 제안요청서와 함께 공개한 샘플 데이터를 바탕으로 사업자는 PoC를
실시하고 제안서를 공개
❍ (착수 및 개발) 사업의 목적과 의도에 부합하면서 윤리적인 방향으로
인공지능이 개발되도록 관리
❍ (사업 종료) 제안요청서에서 요구한 사항을 준수하였는지 검사‧검수

- 39 -
2.1 제안요청서 작성

❑ 과업심의위원회 구성

월 개정된 소프트웨어진흥법에 따라 소프트웨어사업은 과업심의위원회를

❍ ‘20.12
의무적으로 구성하여 과업내용을 심의‧확정해야 함
- 효과적인 인공지능 사업 수행을 위해 인공지능 전문가, 실제 인공지능 사업을
수행한 경험이 있는 기관 담당자 등을 포함하여 과업심의위원회를 구성
※ 단, 과업심의위원회 위원은 제안요청서 작성에 관여할 수 없음(소프트웨어 진흥법 시행령 제46조)
소프트웨어 진흥법
(과학기술정보통신부, 2020.12.10. 시행)
▶제50조(소프트웨어사업 과업심의위원회) ① 국가기관등의 장은 소프트웨어사업의
추진에 관한 다음 각 호의 사항을 심의하기 위하여 소프트웨어사업
과업심의위원회(이하 “과업심의위원회”라 한다)를 두어야 한다.
1. 과업내용의 확정
2. 과업내용 변경의 확정 및 이에 따른 계약금액ㆍ계약기간 조정
② 국가기관등의 장은 특별한 사정이 없으면 제1항에 따른 심의결과를 계약 등에
반영하여야 한다.
③ 국가기관등의 장과 소프트웨어사업의 계약을 체결한 사업자는 과업내용 변경으로
인한 계약내용 변경이 필요한 경우 국가기관등의 장에게 과업심의위원회의 개최를
요청할 수 있다. 이 경우 국가기관등의 장은 특별한 사정이 없으면 요청을 수용하여야
한다.
④ 제1항 및 제3항에 따른 과업심의위원회의 구성ㆍ운영, 과업내용의 확정ㆍ변경 및
개최 요청 절차 등에 관하여 필요한 사항은 대통령령으로 정한다.

❑ 요구사항 정의
❍ 입찰대상자들에게 발주기관의 요구사항을 알리고 제안서의 제출을 요청하기
위하여 정보화사업 발주대상에 대한 요구사항, 소요예산, 사업기간, 제안서
평가기준, 계약 조건 등을 기술한 제안요청서 작성
- 이해관계자의 요구사항을 충분히 파악하고 누구나 쉽게 이해할 수 있는
수준으로 요구사항을 상세히 정의해야 함
- 제안요청서 작성 시 현업 담당자 뿐만 아니라 산업‧학계 전문가, 도입 경험이
있는 유관 기관 담당자 등에게 자문을 요청할 수 있음
- 40 -
❍ 기능 요구사항
- 인공지능 시스템이 반드시 수행해야 하거나 해당 시스템에서 반드시 구현되어야

하는 기능(동작)을 기술
[표 3-8] 기능 요구사항(예시)

분 류 고 려 사 항
▶다수의 인공지능 알고리즘 적용을 시도하고 성능이 가장 적합한
알고리즘을 선택
인공지능
▶검증된 알고리즘을 복합적으로 적용하여 정확도 높은 인공지능 모델을 생성
모델
▶데이터셋에 최적화된 모델을 개발하여야 하며, 최적화된 모델 개발을 위해
2개 이상의 모델에 대한 비교

▶데이터 분석부터 AI 모델 개발‧학습‧운영‧관리를 GUI 방식으로 구현

▶업무 담당자의 변경 등에도 성능에 영향이 없도록 환경을 구축
편의성 ▶시나리오 기반 구축 시 쉽고 편리하게 작성하는 기능을 제공
▶인공지능 학습을 자동 또는 관리자에 의해 시행이 가능하도록 설계
▶인공지능 알고리즘을 통해 얻은 결과를 분석 및 시각화하는 서비스 구축

▶모델 학습 중 사용자가 의도하지 않은 상황으로 인해 학습이 정지되었을 시,

가장 최근에 학습 및 저장된 모델을 로드하여 재학습이 가능
▶인공지능을 활용하여 적절한 답변을 하지 못하거나, 기능을 호출할 수
장애 대응
없을 시 처리방안을 구현
▶인공지능 기반의 즉흥적 상황에 대해 지속적인 업데이트를 지원
▶모델 학습 시 각 학습 단계마다 저장
▶개발시스템의 구조는 서비스 확대를 고려하여 확장이 유연한 구조로 설계
및 구현
확장가능성
▶현재 인공지능 시스템은 불완전하다는 한계를 인식하고 인간과의 상호작용에
의해 시스템이 업데이트 가능하도록 구현되어야 함(active learning)

▶공정하고 투명한 인공지능 시스템 구축을 위해 설명 가능해야함

설명가능성 ▶내부 구조를 알기 쉽고 누구나 활용할 수 있는 오픈소스 형태로
도입하려고 노력

❍ 성능 요구사항
- 최적화된 시스템이 기능을 수행할 때 필요한 시간이나 처리량, 최대 자원
가용량 등에 대해 기술
- 41 -
- 제안업체에서 PoC를 실시하도록 요구사항에 기술하고 이를 위한 샘플
데이터셋, 테스트 환경 등을 반드시 공개
※ PoC(Proof of Concept, 개념증명): 기존 시장에 없었던 신기술을 도입하기 전에 이를
검증하기 위한 과정
- 기술력있는 사업체의 참여를 독려하기 위해 제안서평가 기준에 PoC 결과를
반영하고, 실시 비용 일부를 보상하는 방안 검토
[표 3-9] 성능 요구사항(예시)

분 류 고 려 사 항
입출력 ▶결과는 데이터 입력 후 ○○초 이내 출력 및 저장

▶도입되는 인공지능 인프라(HW, SW)는 제안요청서에서 요구하는 성능을

충족하는지 발주 기관이 제시하는 기준에 따라 증명
성능 평가
※원활한 PoC 진행을 위해 발주기관에서 샘플 데이터 공개 필수
(PoC)
▶제안업체는 구축대상인 업무의 최대 성능을 보장할 수 있도록
구축하여야 하고, 향상된 성능결과를 보고서로 제출

▶새롭게 누적되는 수학적 특성의 데이터와 성취 결과 데이터를 반영하여

인공지능 알고리즘을 지속적으로 최신화 관리
성능 관리
▶인공지능 적용 알고리즘 평가와 성능을 객관적 지표로 측정
▶인공지능 알고리즘별로 정탐율과 오탐율의 모델 정확도 지표를 산출

▶시스템 개발 중 로그 또는 툴(도구)를 이용하여 시스템 성능 상태를

오류
모니터하여 성능상 문제를 미리 파악‧조치한 후 시스템을 오픈

❍ 데이터 요구사항
- 목표 시스템의 서비스에 필요한 초기자료 구축 및 데이터 변환을 위해
필요한 요구사항으로, 데이터 구축‧절차는 목표 시스템에 따라 달라짐
- 데이터는 인공지능 학습을 위해 필수불가결한 요소이므로 제안사가 사업의
규모 등을 파악할 수 있도록 데이터 요구사항을 최대한 상세히* 기술
* 데이터 조달, 규격, 크기, 가공‧활용 방안 등
- 인공지능 학습 과정의 공정성‧투명성 보장에 데이터 수집‧전처리 과정이 큰
영향을 미치므로 해당 과정에 대한 요구사항 기술 필요

- 42 -
 [표 3-10] 데이터 요구사항(예시)

분 류 고 려 사 항
▶행정기관이 보유한 데이터 연계를 적극적으로 고려
▶내부 데이터 뿐만 아니라 외부 데이터 등과 병합한 결과를 고려
데이터 ▶데이터 수집 기준‧절차의 타당성을 확보하고 확인하는 기능을 구현
수집‧가공 ▶데이터의 취득을 어떻게 할 것인지 정의하고 데이터셋을 결정
▶학습 데이터셋과 검증 데이터셋과의 중복 데이터를 배제
▶사전테스트 진행 및 시스템 점검 후 수집 활동 진행
▶여러 단계 점검을 통한 데이터 품질 기준 마련
▶데이터 품질 관리에 대한 기준‧체계를 제시
▶데이터 품질 준수여부 및 한계를 구체적으로 명시.
데이터 관리 ▶종합적인 데이터 품질평가 작업과 저품질 데이터 보완계획 포함

▶기존의 데이터셋을 훈련 및 검증데이터로 구분하여 관리

▶학습 데이터는 타 시스템에서 쉽게 활용할 수 있도록 API 형태로
구성·제공

▶데이터 수집 후, 데이터에 대한 외부인 접근 방지 및 유출 시 대체방안

마련
▶데이터 수집 시, 향후 장애점검 등을 위하여 로그 기록을 수집·분석

데이터 보안 ▶수집 과정에서 발생하는 개인정보보호 수집 및 활용에 대한 동의절차 구현

▶데이터 수집 및 보호에 대한 방안을 제시
▶오염 데이터의 유입 방지 대책 및 위변조 여부 확인 방안 마련
▶수집정보는 개인정보 수집·이용에 관련된 법령에 기준

- 43 -
❍ 품질 요구사항
- 인공지능 사업은 비정형의 원시데이터를 인공지능이 학습할 수 있는 정형
데이터로 가공하는 과정이 필수적이므로 학습 데이터 내용을 반드시 포함
- 과기정통부에서 ’20년 10월 제안한 인공지능 데이터 품질 표준안 을 「 」

참고할 수 있음(’21년 하반기 확정 예정)

인공지능 데이터 주요 품질 요구사항(예시)
(출처: 인공지능 데이터 품질 표준안, ’20.10월)

▶(데이터 요구사항) 품질관리 대상이 되는 데이터 상태에 따라 원시데이터, 데이터

라벨링, 인공지능 활용 품질 요구사항으로 구분
구분 원시 데이터 품질 데이터 라벨링 품질 인공지능 활용 품질
◦기준 적합성
◦라벨링 정확성
주요 -대표성, 다양성, 사실성 등
-의미적 정확성 ◦유효성
요구사항 ◦기술 적합성
-구문적 정확성
-표준 포맷 준수 여부
◦라벨링 데이터 구조의
◦질의응답 F1-score 90점
오류율 0.1% 미만
◦충분성 기준 -(근거) SQuAD2의 리
◦바운딩박스 정밀도(95%),
예시 클래스별 최소 1,000개 더보드 최저 성능은
재현율(85%)
인스턴스 획득 F1-score 90.037(’19년
-(근거) MS COCO, 구글
11월 기준)
오픈 이미지셋

▶(구축절차 요구사항) 품질관리가 수행되어야 하는 데이터 구축 단계에 따라 데이터

획득, 정제, 라벨링, 품질검수 및 활용 품질 요구사항으로 구분
구분 획득 정제 가공(라벨링) 품질검수
◦법/제도 준수 ◦정제 기준 ◦라벨링 포맷
주요 ◦검수 기준
◦획득 환경 ◦비식별화 ◦라벨링 도구
요구사항 ◦검수 방법 등
◦획득 대상 등 ◦중복성 방지 등 ◦작업 방식 등
◦이미지/동영상 어노테
◦자연어 데이터 수집
이션 데이터 포맷은
시 동일 단어가 일정 ◦일반 데이터 작업 숙
참조할 수 있는 사실
◦획득환경의 사실성 비율을 넘지 않도록 련자가 검수가능한
상 표준 데이터 포맷
CCTV 영상 촬영 제한 일반분야, 해당분야
이 있는 경우 하위호
시 CCTV 카메라를 ◦자율주행 동영상 속 전문가의 검수가 필
예시 환성 확보가 가능하도
해당 지역 실제 동의 받지 않은 차량 요한 전문분야로 구
록 해당 포맷을 준용
CCTV 카메라와 동 번호, 사람얼굴은 비 분
◦(PASCAL VOC 데이터
일 식별 처리하고 성적 ◦2인 이상 교차검증
셋의 XML 포맷, MS
차별 발언 등 민감 및 전수조사 필수
COCO 데이터셋의
정보는 제거
JSON 포맷)

- 44 -
❍ 테스트 요구사항
- 구축된 인공지능 시스템이 목표 대비 제대로 운영되는지 테스트하고
점검하기 위해 테스트 유형, 환경, 방법, 절차 등에 대한 요구사항을 기술
- 유사 서비스 또는 관련 이론‧연구에서 제시한 기술 수준과 성능 측정
결과를 토대로 현실적인 성능 목표 설정
인공지능 도입 사업의 테스트 요구사항(예시)
▶기존의 데이터셋 훈련 및 검증데이터로 구분하여 성취 예측을 한 결과 기준 제시
▶인공지능 사업은 사업별 특성을 고려하여, 객관적인 검수 측정 기준 제시
▶발생 가능한 상황에 대하여 시나리오를 작성하고 실제 데이터(오류 데이터 포함)를
입력하여 테스트를 실시
▶모델의 신뢰성을 높이기 위해 다양한 조합의 검증 데이터셋으로 반복 테스트 수행
▶인공지능 알고리즘 검증 데이터셋은 판독자(사람) 검증 데이터셋과 동일
▶인공지능 사업 관련 정량‧정성 기준을 모두 활용하여 성능을 테스트.
▶개발 초기부터 구축 완료 시까지 지속적으로 테스트를 실시
▶테스트 결과 발생한 결함에 대해서는 조치계획(조치일정, 조치사용자 등)수립‧반영
▶데이터 편향성에 대한 테스트 절차 수립

❍ 보안 요구사항
- 시스템 및 데이터에 대한 침해사고를 예방하기 위해 시스템이 사용하거나 생성하
는 데이터 보호에 영향을 미치는 보안, 기밀성, 무결성 관점에서 요구사항 도출
- 인공지능 시스템에서 우려되는 보안 위협에 대해 국정원에서 ’19.2월 발간한
국가‧공공기관의 인공지능 시스템 도입‧운용 관련 정보보안 고려사항 준용
「 」

[표 3-11] 인공지능 시스템 보안‧운용 체크리스트(일부)

영 역 항 목
▶데이터를 새롭게 수집하는 경우, 전송 과정에 사용자 인증, 암호화 등의
오염 데이터 적용이 필요한지 판단하여 오염 데이터의 유입을 방지하여 위변조 여부를
유입 방지 확인하는가?
▶수집 과정 종료 후, 저장된 학습 데이터에 대한 비인가 접근을 차단하는가?
데이터 비식별 ▶데이터를 통한 개인식별이 불가하도록 비식별 조치를 시행하는가?
조치 ▶민감한 정보를 암호화 등을 통해 보호하고 있는가?
▶인공지능 서비스 모델에 적합한 변조 데이터를 충분하게 확보했는가?
변조 데이터
▶확보한 변조 데이터를 모델에 학습하여 해당 변조 데이터에 오작동을
학습
발생시키지 않는지 확인하는가?
▶회피 공격에 강건하도록 모델을 변형하는 최신 기술을 적용하는가?
유사 모델 ▶잘 알려진 학습모델을 활용하는 경우에 동일 공격에 오작동을 발생시키지
회피 않도록 모델을 변형하는가?
▶유사한 모델 회피를 위한 모델 변형의 최신 기술을 적용하는가?
※ 출처: 국가‧공공기관의 인공지능 시스템 도입‧운용 관련 정보보안 고려사항 (국가정보원, ’19.2월)

- 45 -
❍ 제약사항
- 기관의 환경을 고려하여 시스템 개발환경 등 시스템 특성, 유연성과 확장성
고려, 각종 규정이나 표준 등의 제약 요구사항을 기술
- 알고리즘 개발자의 편향성, 사회적 편향성이 발생하지 않도록 관리하는 방법
등 윤리적인 측면을 평가할 수 있는 요소 마련
인공지능 도입 사업의 제약사항(예시)

▶인공지능 솔루션에 대한 소유권(제안사가 보유 등)을 명시하고 발주기관 요구 시

커스터마이징 수행
▶챗봇의 경우 질문별 대응 시나리오 및 대화세트 구성 일체에 대한 개발 소스 제공
▶빅데이터·인공지능 기반의 저작권을 침해하지 않아야 하는 사항에는 제안사가 개발
과정에서 사용하는 장비(H/W, S/W 등)와 적용되는 기술, 콘텐츠 모두를 포함
▶인공지능 시스템 구축과 관련하여 발생하는 저작권 침해사항에 대해서는 제안사의
책임 범위를 명시
▶입찰 참가업체에게 인공지능 등에 대한 적절한 능력을 갖춘 팀을 구성하도록 요구

점검 항목 비고
사업 담당자가 업무지식과 인공지능 기술지식 모두 보유하고 있는가?

타 기관의 유사 사례를 조사하여 구축과정에서 예상되는 장애요인에 대한

극복방안을 사전에 검토하였는가?

목표 성능, 측정 지표 등 성능 요구사항을 현 기술수준, 유사 사례, 전문가 의견

등을 고려하여 현실적으로 제시하였는가?

인공지능 학습에 충분한 양의 데이터를 준비했는가?(또는 확보가능한가?)

수집한 데이터 가공, 관리, 보안 관련 요구사항을 정의하였는가?

인공지능 학습 데이터 구축 시 발생할 수 있는 저작권 침해사항에 대한 책임을

명시했는가?

과기정통부 “데이터 품질 관리를 위한 가이드”를 준수하였는가?

행정안전부 “공공기관의 데이터베이스 표준화 지침”을 준수하였는가?

인공지능 전문가가 참여한 과업 심의위원회를 구성하여 과업내용을
심의‧확정했는가?
제안사에서 PoC를 실시할 수 있도록 샘플 데이터를 공개했는가?

- 46 -
 2.2 기술평가 및 사업자 선정
❑ 사업 설명회
❍ 제안요청 설명회를 개최하여 인공지능 도입 사업 내용을 사업자에게
구체적으로 설명하여 사업 의도와 내용을 이해하도록 도움
❑ PoC 실시( 제안사)
❍ 제안요청서에서 공개한 내용을 바탕으로 사업체에서는 PoC를 실시
- 단, 이를 위해서는 사전에 데이터 규격 등을 상세히 공개해야 함
❍ 제안사에서는 최적의 성능을 가진 모델을 생성하여 평가 후 성능 시험
결과서와 PoC 결과를 함께 제출
- 제안사의 PoC 결과 검토를 위한 기술 자문에 참여
❍ 우수 업체의 참여를 장려하기 위하여 PoC 실시 비용 일부를 보상할 수
있는 방안 검토
❑ 기술 평가
❍ 인공지능 관련 기술 중심의 제안서평가를 위해, 업체의 이력보다는 사업
이해도 및 사업 수행 인력의 이력을 중심으로 평가
- 기존 평가 배점표에서 인공지능 기술에 대한 평가를 세분화하여, 문제
해결을 위한 기술 중심으로 과제 수행의 적절성 평가
❍ 인공지능 시스템 평가위원으로 유사 과업을 수행한 경험이 있는 전문성
있는 위원을 추천하고, 해당 과제를 기획‧제안한 자가 평가 위원들에게
과제에 대한 사전 설명을 해야함
❑ 협상 및 계약 체결
❍ ( 기술 협상) 제안서 평가를 통해 종합평가점수가 높은 우선협상대상자와
제안서 내용에 대한 기술 및 가격 협상 실시
- 기술 이행사항 확인 및 사업내용, 이행방법, 이행일정, 제안가격 등 협상
❍ (계약 체결) 제안서 평가와 협상 결과에 의해 결정된 사업자와 계약 체결
- 사업자는 착수계를 비롯한 필요 서류를 제출하고 사업 착수

점검 항목 비고
다수의 알고리즘(기법)을 대상으로 가상 시뮬레이션, PoC, BMT 등을 실시하여 최적의
성능을 측정하였는가?
수행 업체가 인공지능 기술의 역할 및 특성을 이해하고 있으며 관련 사업 경험이 충분한가?

- 47 -
 2.3 사업 착수 및 개발

❑ 인공지능 모델 생성 및 학습

❍ 인공지능의 특성상 수행 알고리즘 선택과 학습데이터의 수집 및 활용

가능한 방안을 고민하여 시스템 구축
- 도입 목적과 구현하고자 하는 서비스의 종류에 따라 적절한 인공지능

기술과 최선의 알고리즘이 선택되어야 함에 따라 충분한 사전 검토 필요

[표 3-12] 진도‧품질 관리 고려사항
점검 사항 주 요 내 용
AI모델링 ▶AI 서비스의 분석 대상 및 범위가 요구사항에 맞게 정해졌는가?
시나리오 ▶AI 도입에 필요한 데이터가 정의되었는가?
작성 ▶AI 도입목표에 따른 서비스 구현 모델(분석 기법)을 정하였는가?
▶현업, 개발자, 데이터 관리자들로 구성된 회의체를 통해 분석모델 설계를
AI모델링　
검토하였는가?
설계
▶AI 도입 목적에 맞는 결과를 제공하기 위한 분석모델 설계안은 타당한가?
▶AI 도입 결과를 활용하여 사회적 문제를 해결하고 기관과 사용자
모두에게 가치를 창출할 수 있는가?
AI시스템
▶AI 도입 결과가 논리적으로 이해할 수 있고 구체적으로 도출되는가?
성과
▶AI 도입목표 달성을 위해 필요한 정보 항목을 정의하였나?
▶AI 도입을 위한 성과 목표와 활용 방안이 도출되었는가?

❍ 신뢰할 수 있는 인공지능 구축
- 개발과정에서 인공지능이 사업의 목적과 의도에 부합하는 방향으로 구축될

수 있도록 노력
- 필요시 사업 담당자를 포함한 산‧학‧연 전문가로 구성된 자문위원회를

개최하여 진행 중 발생하는 이슈에 대해 논의

- 학습 과정에 부적절한 데이터가 포함되지 않도록 시스템 구조를 설계

- 데이터 수집, 인공지능 모델링 등 구축 전반에서 알고리즘 편향성이

발생하지 않고 신뢰성을 보장하기 위한 개발도구를 활용하여 개발

- 48 -
 신뢰할 수 있는 인공지능 구축을 위한 개발 도구(예시)
▶구글 TFX(Tensorflow Extended)
구글의 인공지능 프레임워크 텐서플로우(tensorflow)에서 제공하는 라이브러리로,
인공지능 알고리즘의 공정성을 기술적 관점에서 접근하고 평가할 수 있는 도구
※ 구글 TFX를 통해 평가 가능한 공정성 지표
◦데이터 세트의 분포 평가
◦정의된 사용자 그룹에 걸쳐 분할된 모델 성능 평가
◦여러 임계값에서 신뢰 구간 및 평가를 통해 결과에 대한 신뢰도 확인
◦개별 조각을 심층 분석하여 근본 원인과 개선 기회 모색

▶캐나다 AIA(알고리즘 영향 평가)

알고리즘이 개인이나 공동체의 권리‧건강‧복지‧경제적 이익‧지속가능성에 영향을
미치는 범위는 level 1~4로 분류하고 결과를 되돌릴 수 있는지 여부와 영향의
지속성에 따라 구분한 설문으로, 오픈 소스로 제공되어 누구나 활용 가능

level 1 결과를 어느 정도 되돌릴 수 있고, 단순한 영향인 경우

level 2 결과를 어느 정도 되돌릴 수 있고, 단기적인 영향인 경우
level 3 결과를 대부분 되돌릴 수 없고, 지속적인 경우
level 4 결과를 대부분 되돌릴 수 없고, 영구적인 경우

❑ 데이터 저장‧관리 계획 수립
- 확보한 데이터는 원천 데이터와 정제 데이터를 구분하여 보관하고,
지속적으로 활용할 수 있는 계획을 수립
[표 3-13] 학습 데이터 처리 및 저장 시 고려사항
분 류 고 려 사 항
▶AI 도입을 위한 다양한 데이터 원천을 고려하였는가?
▶분석 대상 범위 정의가 완료되었는가?
데이터 정의 ▶데이터 수집 대상 목록을 작성하였는가?
▶데이터 종류, 양, 보관방식, 수집 주기, 백업과 이중화 등 원 데이터에
대한 요구사항 도출 및 분석이 되었는가?
▶활용 가능한 외부 데이터 확보를 위한 기관 간의 협의가 되어있는가?
▶외부 데이터와 내부 데이터를 통합하여 활용할 수 있는지 확인했는가?
▶활용할 데이터는 사용 또는 수집 가능한가?
데이터 수집
▶데이터 활용 관련 보안 사항 및 개인정보보호 관련 문제의 점검을 했는가?
▶활용 예정 데이터에 개인정보가 포함되어 있다면, 개인정보 데이터
제공 범위 및 보안 방안에 대해 협의가 되었는가?

- 49 -
 분 류 고 려 사 항
▶수집한 데이터에 저작권 등 법적 제약사항은 없는가?
▶확보한 데이터는 중립적이고 공정한가?
▶이상 값이나 오류를 발견하기 위해 데이터 시각화 등 체계적인 도구를
활용했는가?
▶데이터 전처리에 대한 계획이 수립되었는가?
▶오류데이터 제거, 활용을 위한 데이터 타입 통일을 위한 변환, 데이터
데이터 전처리
검증 및 정제 과정의 절차를 수립하였는가?
▶데이터에 포함된 개인정보가 모두 비식별화되었는가?
▶AI 활용에 필요한 데이터 목록과 유형이 정의되고 변환 기준이
정의되었는가?
데이터 저장 ▶데이터를 추출-변환-탑재하기 위한 표준화 과정을 진행할 시스템의
자동화 방안이 구성되었는가?
▶데이터를 통합 및 저장할 계획이 수립되었는가?
▶인공지능 시스템의 유효성 및 성능을 확보하기 위해 일정량 이상의
충분한 학습 데이터와 테스트 데이터를 분리하여 관리하는가?
데이터 관리
▶학습 데이터 및 테스트 데이터의 유효성 및 무결성이 일관되게
유지되도록 데이터 관리 및 통제정책을 수립하고 관리하는가?

❑ 보안 관리
❍ 용역 참여자를 대상으로 보안교육, 보안점검 등 관련 보안 조치를 수행
- 인공지능 시스템에서 우려되는 보안 위협에 대해 국정원에서 ’19.2월 발간한
「국가‧공공기관의 인공지능 시스템 도입‧운용 관련 정보보안 고려사항 준용 」

점검 항목 비고
의도하지 않은 상황으로 인해 학습이 정지되었을 때, 가장 최근에 저장된 모델을 로드하여
재학습이 가능한가?
인공지능 솔루션에 대한 소유권(제안사가 보유 등)을 명시하고 커스터마이징을 수행할 수 있는가?
데이터 수집 정보원(출처)이 신뢰성 있고 중립적이며 충분한 대표성이 있는가?
인공지능 시스템의 유효성 및 성능을 확보하기 위해 일정량 이상의 충분한 학습 데이터와 테스트
데이터를 분리하여 관리하는가?
인공지능 학습을 위해 편향되지 않은 중립적인 데이터셋을 사용하였는가?
인공지능 시스템 장애가 발생하였을 때 관리자가 내부구조에 접근할 수 있는가?
구축한 인공지능 시스템을 타 시스템에서도 활용할 수 있도록 API 등의 형태로
구성·제공하는가?
관리자가 변경되어도 학습과 유지관리가 자동으로 이루어지도록 시스템을 구축했는가?
국가정보원 “국가‧공공기관의 인공지능시스템 도입‧운용 관련 정보보안 고려사항”을 준용하여
시스템을 구축했는가?
국가정보원 “국가‧공공기관 빅데이터 보안 가이드라인”을 준수하여 시스템을 구축했는가?
데이터 수집 후, 데이터에 대한 외부인 접근 방지 및 유출 시 대처 방안을 마련했는가?
활용 데이터에 대한 보안 사항 및 개인정보보호 관련 문제를 점검하였는가?

- 50 -
 2.4 사업 종료

❑ 사업완료 검사‧검수
❍ 사업 완료 후 제안요청서에서 요구한 사항을 준수하였는지 검사‧검수
❍ 사업 감리 진행은 정보화사업 감리수행 가이드 를 준용하여 진행
「 」

- 인공지능 기술을 적용한 부분에 대해서는 해당 사업의 제안요청서 등을

참고하여 원활한 검사가 이루어질 수 있도록 해야 함
검사‧검수 주요 고려사항

▶사업 수행에 인공지능의 활용 목적이 명확하게 정의되었는가?

▶다양한 조합의 검증 데이터셋으로 반복적으로 테스트를 실시했는가?
▶성능 측정을 위한 검증 데이터셋은 훈련을 위한 데이터셋과 구분하여 조달했는가?
▶업무전문가(판독자)에게도 검증 데이터셋을 제공하여 인공지능 식별역량을 인간의
수준과 비교하여 평가했는가?
▶인공지능 도입 시 공정한 데이터셋을 사용하였는가?
▶인공지능에 사용한 기술(알고리즘)은 공정하게 설계되었는가?
▶인공지능 모델에 대한 알고리즘 공개를 검토했는가?
▶인공지능이 도출한 결정(결과물)의 근거를 설명할 수 있는가?

❍ 사업계획서와 제안요청서에 작성한 성능 및 테스트 요구사항을 바탕으로

현실적인 목표치(정확도, 만족도, 응답률 등)를 설정하여 인공지능 시스템
성능을 측정
인공지능 시스템 성능 검사‧검수 예시
(나라장터(https://g2b.go.kr)에 등록된 각 사업 제안요청서 분석)

 동일분야 전문가(사람)그룹과 비교
▶AI X-Ray 판독시스템 구축 사업(관세청, 2019)
◦(1차 Test) 경력 1년 미만 판독자(5명 이내)보다는 식별 정확도가 우수하여야 하며,
경력 10년 이상 판독자(5명 이내)와는 오차범위 5% 이내의 식별 정확도를
구현해야 한다.
◦(2차 Test) 경력 1년 미만 판독자(5년 이내)와 함께 Test용 영상을 이용하여
식별하여 1차 Test때의 경력 10년 이상 판독자의 식별역량과 오차범위 5% 이내의
식별 정확도를 구현해야 한다.

- 51 -
  외부 기관 데이터를 활용한 테스트
▶2020년 지능형 인재추천서비스 고도화(인사혁신처, 2020)
◦opm.gov(미연방 생산관리국) 오픈 데이터인 연방정부 공무원 Human Resources
데이터를 테스트 데이터셋으로 활용(https://www.opm.gov/data/index.aspx)
◦인물 데이터에 대한 분석 정확도를 90% 이상 충족해야함

 측정지표 활용
▶AI 기반 보안 관제 사이버 위협 자동분석 시스템(한국과학기술정보연구원, 2020)
◦생성한 인공지능 모델의 성능 평가를 위해 학습 종료 후, 학습 데이터와 관리자가
선택한 데이터 각각에 대한 분류를 수행하고 결과를 4가지 방식(정확도, 재현율,
정밀도, f1 점수)으로 표출할 수 있어야 함
※ F1-measure(F1-score): 모델이 ‘참’으로 예측한 데이터 중 실제로 ‘참’인 데이터
비율인 precision(정밀도)와 실제로 ‘참’인 데이터를 모델이 ‘참’으로 예측한 비율인
recall(재현율)의 조화평균
▶AI 기반 지역 축제 챗봇 서비스(한국정보화진흥원, 2020)
◦측정 시점 이전의 챗봇 대화의 응답 속도에 대한 평균으로 측정. 단위는 소수 둘째
자리에서 반올림하여 소수 첫째 자리까지 표기
  ∑건별대화응답시간  건별대화요청시간
◦ 처리속도(평균)=  전체대화건수 
❑ 산출물 인수 및 하자보수 내용 확정
❍ ( 산출물 인수) 검사에 의하여 용역의 완성을 확인한 후 계약상대자가
서면으로 인수를 요청하였을 때는 즉시 해당 용역 목적물을 인수
- 개발한 시스템의 핵심 알고리즘에 대한 아키텍처, 소스 코드 등을 인계받아야 함
❍ (하자보수 내용 확정) 계약완료 후 1년간 발생하는 하자보수는 무상으로
수행하게 되어 있으므로 사업자와 하자보수에 대한 내용 및 범위에 대해서
상호 협의하고 확정
- 하자보수 내용 확정 시 지속적인 기술이전 등에 관한 내용에 대해서도 협의

점검 항목 비고
업무전문가(판독자)에게도 검증 데이터셋을 제공하여 인공지능 식별 역량을 인간의
수준과 비교하여 평가했는가?
인공지능을 활용하여 적절한 답변을 하지 못하거나 기능을 호출할 수 없을 시
처리방안을 구현했는가?
인공지능이 도출한 결과물의 근거를 설명할 수 있는가?

- 52 -
 3 운영 단계

❑ 운영 단계

[그림 3-2] 공공분야 인공지능 도입 사업 절차(기획 단계)

❍ 운영 단계는 구축한 시스템을 안정적으로 유지‧관리하여 수년 후 성능

고도화 또는 확대를 위한 연계사업을 추진하기 전까지의 단계를 지칭
- 성능이 유지되도록 최신 데이터를 확보해서 주기적으로 인공지능 모델 학습이 필요

- 사용자에게 인공지능 활용 유의사항에 대해 사전에 고지하고 개선의견 수렴

❍ (운영‧유지관리) 인공지능으로 발생할 수 있는 윤리적 측면의 역기능,

개인과 사회에 미치는 파장 등 위협요인 관리

- 위협요인을 모니터링하고 피해 발생 시 인공지능 특성을 고려하여 효과적인

대응 방안 마련을 지원하는 사업 운영 TF 구성
❍ (연계사업 기획) 다년간의 인공지능 사업 운영 경험을 바탕으로 기존

시스템을 보강하기 위한 고도화 사업 또는 기능 확대를 위한 연계사업 기획

- 53 -
 3.1 운영 및 유지관리

❑ 사업 운영 TF 구성
❍ 인공지능 시스템 운영 경험자를 중심으로 구성함으로써 운영과정에 발생
하는 이슈에 원활히 대응하고 연계‧고도화에 적합한 사업 아이디어 결정
- (운영 모니터링) 사업 종료 후 제공되는 서비스 내용을 파악하고 이를
기반으로 유지관리 관련 점검리스트를 제작하여 지속적으로 점검
- (고도화 추진) 인공지능 시스템 고도화사업 추진 시 사업 범위‧규모 등 결정 지원
- (연계사업 발굴) 신규 연계 서비스 발굴 구축 및 운영 경험을 바탕으로
보완사항 도출 및 새로운 인공지능 도입 서비스 발굴
[표 3-16] 사업 운영 TF 구성원별 역할

구성 역할
▶데이터 운용 관리 현황 파악
외 ▶최신 기술 성능 공유
산‧학계
부 ▶운영 과정에서 발생 가능한 윤리 문제 대응방안 제시
▶점진적 도입 확대를 위한 신규 서비스 발굴
▶시스템 운영 및 유지관리
현업부서
▶시스템의 확장 가능성 검토 및 추가 연계 수요 파악

❑ 운영 및 유지관리
❍ 과년도 시스템 운영 결과를 바탕으로 유지관리 계획을 수립하고 데이터
수집‧전처리‧기계학습 등에 필요한 유지관리 예산을 확보
❍ 인공지능 시스템의 구축과 유지보수 관련 알고리즘, DB 관리, 학습데이터의
현행화, 보안지침 등이 인수인계되지 않았을 경우 성능 저하 가능성이
크므로 전반적인 지식을 보유하고 있는 담당 인력에 대한 교체 자제
- 차년도 유지보수 업체는 구축 업체와 달라질 수 있으므로 인공지능 시스템
유지보수에 필요한 내용(학습데이터 운용, 보안 사항 등)은 상세히 문서화
- 부득이하게 사업 담당자의 업무 전환 및 교체 상황이 발생할 것에 대비하여
도입 시스템 전반에 대한 인수인계를 위한 체계를 사전에 마련‧현행화
- 성능 평가항목을 추가하여 주기적으로 시스템 평가 및 성능 저하 요인 분석

- 54 -
❑ 위협요인 관리( 역기능 모니터링 )

❍ 사업계획서, 제안요청서 및 제안서에서 제시한 윤리 원칙이 지켜지는지 모니터링

❍ 사업 종료 후 제공되는 서비스 내용을 파악하고 이를 기반으로 유지관리
관련 점검리스트를 제작하여 지속적으로 점검
- 역기능 방지를 위한 자체 점검항목 및 대응 방안 마련

[표 3-14] 인공지능 시스템 운용 체크리스트(일부)

영 역 항 목
▶운영자가 인공지능 시스템 의도와 기능을 쉽게 이해하고 검증할 수
있으며, 판단 결과를 설명할 수 있도록 인공지능 시스템의 공정성 및
의사결정의 투명성을 제공하는가?
투명성 ▶인간의 뇌나 신체에 연계되는 인공지능 시스템의 경우, 생명윤리에
관한 논의 등을 참조하며, 학습 데이터에 포함되는 편견 등에 기인한
부당한 차별이 없도록 필요한 조치를 강구하는가?
※ 출처: 국가‧공공기관의 인공지능 시스템 도입‧운용 관련 정보보안 고려사항 (국가정보원, ’19.2월)
❑ 재학습

인공지능 시스템 재학습 절차

① (운용) 구축한 인공지능 시스템으로 목표 서비스를 제공하고 운영하면서

생산된 데이터를 저장
② (정제) 시간과 인력을 투입하여 시스템 운용 과정에 누적된 데이터 중
학습에 적절한 데이터를 선별하고 인공지능이 학습 가능한 형태로 전처리
③ (정밀도 저하) 사용자 변화, 사회 요인 등으로 인해 기존에 생성한 인공지능
모델의 성능이 재학습 요구 기준 이하로 하락
④ (재학습) 새롭게 확보한 학습 데이터셋으로 인공지능 모델을 재학습

※ 출처: 2019.12월, 인공지능 신문

- 55 -
❍ 인공지능 시스템은 성능을 유지하려면 원칙적으로 모니터링과 재학습이 필요
- 인공지능 서비스의 목적과 내용에 따라 재학습 주기와 규모는 다양함
※ (정기 재학습) 연 1회, 분기별 1회, (수시 재학습) 기관 내 조직‧업무개편 등
❍ 재학습 주기가 도래하기 전 학습을 위한 데이터를 수집하고 인력과 예산을
확보하되, 예산은 투입공수(M/M)로 산정
- 특히 AI에 적용할 학습데이터는 매년 갱신을 통해 정제하지 않게 되면 품질
저하 발생으로 문제가 발생하므로 지속해서 관리
[표 3-15] 재학습을 위한 데이터 수집 시 고려사항
요인 내용
▶수집 방법의 경우 수동(사람)과 자동화 시스템 중 선택하여 구축했는가?
▶동일한 출처라도 시간에 따라 데이터 패턴이 변하지 않았는가?
출처 ▶데이터를 수집하려는 정보원(출처)의 신뢰성, 정확성 등을 보증할 수 있는가?
▶데이터를 수집하려는 정보원(출처)이 충분한 대표성이 있는가?
▶구축 시 사용한 학습 데이터와 품질 수준이 비슷한가?
오류 ▶수집한 데이터 학습에 불필요한 요소가 없고 데이터의 품질이 안정적인가?
▶잠재적인 편견이 데이터 분석 결과에 미치는 영향을 고려했는가?
▶(측정의 편견) 모집단을 대변하지 못하는 데이터
▶(사회적 편견) 데이터에 담긴 사회적 편견은 알고리즘의 편향으로 도출
편견
▶(미디어 편견) 소셜 미디어 데이터는 실시간으로 통찰력있는 데이터를
제공할 수 있으나, 편견을 포함할 가능성이 높음
▶(설문 조사) 낮은 응답률로 인한 응답의 편향성은 부정확한 결과 초래

점검 항목 비고
AI 서비스가 최신의 데이터와 업무 내용을 반영하여 결과를 도출하고 있는가?
기관장을 포함한 사업 관련자들의 인공지능 관심 및 전문성 향상교육 방안을
마련했는가?
운영(유지관리) 사업 전문성 확보를 위해 전문직위 등 인력 투입을 검토했는가?
재학습에 필요한 활동을 정의하고 충분한 예산을 확보했는가?
안전하고 지속 가능한 기술을 사용하여 인공지능이 올바른 의사결정의 수단으로
활용될 수 있도록 노력하였는가?
국가정보원 “국가‧공공기관의 인공지능시스템 도입‧운용 관련 정보보안 고려사항”을
준용하여 시스템을 운영하는가?
개인정보‧사생활 침해 문제 발생 시 대처방안을 마련했는가?
인공지능 활용 내용과 활용 과정에서 발생할 수 있는 위험 등의 유의사항을 사전에
고지했는가?

- 56 -
3.2 연계사업 기획 및 추진

❑ 성능 고도화
❍ 시스템 구축‧운영에 대해 평가하고 그 결과를 바탕으로 서비스 확대 또는
성능 고도화 추진
- 기존에 제공하던 인공지능 서비스의 제공 범위‧대상 등을 확대
※ (예) 챗봇 민원상담 종수를 4건 → 9건 → 20건으로 확대
- 성능을 향상시켜 인공지능 시스템 활용성을 제고할 수도 있음
※ (예) 악성 행동 탐지 적발률을 90%→98%으로 향상
❍ 시스템 개발 및 유지보수 과정에서 사업 기획 단계에서 예상하지 못한
요구사항이 발생할 수 있으며, 이를 융합해서 차년도 고도화 사업에
반영하는 사업주기를 형성해야함
※ agile DevOps: 개발 및 운영과정에서 발생하는 요구사항을 즉각적으로
반영하여 (agile) 사업 기획과 개발, 운영을 함께 처리(DevOps)
❑ 연계사업 기획
❍ 신규 연계 서비스 발굴 구축 및 운영 경험을 바탕으로 보완사항 도출 및
새로운 인공지능 도입 서비스 발굴
- 새로운 업체를 선정할 경우 데이터 수집과 모델 설계 등을 처음부터 해야하는
윈백(Winback) 상황이 발생할 수 있으므로 기존 시스템과의 호환성에 유의
❍ 연계 사업 기획 및 추진
- 타 기관‧부서 시스템과 연계를 고려할 경우 빅데이터 포털이나 공통기반
인프라를 활용하여 표준화된 통합이 가능하도록 추진
점검 항목 비고
정보화전략계획(ISP)에 따라 차년도 고도화 및 연계사업을 기획했는가?
기존 제품과 다른 제품으로 연계 사업을 추진하더라도 기존 시스템과 동등하거나 그
이상의 성능을 확보할 수 있는가?
차년도 시스템 갱신을 위하여 학습데이터베이스, 시스템 품질, 시스템 보안에 대한
보완사항을 도출하였는가?
개발한 인공지능의 정확성, 신뢰성을 단계적으로 높이기 위한 전략을 수립했는가?

일원화된 인공지능 데이터 학습 정확도 향상 등을 위해 장기계속계약을 검토했는가?

호환성, 확장 가능성 등을 고려하여 관련 표준이 존재하는지 파악하고 준수하였는가?

- 57 -
참고자료

- 58 -
 부록1 인공지능 도입 사업 단계별 체크리스트

영역 점검 항목 비고
최고책임자가 프로젝트에 대한 이해와 확고한 추진 의지를 가지고
있는가?
AI 도입을 위한 현업/정보화 담당자 간의 명확히 역할과 책임이 정의되어
있는가?
사업 관련 구성원 사이에 사업의 목적과 필요성이 충분히 공감되고
있는가?
과거 도입 사례와 선행연구 등을 참고하여 인공지능 도입 비용과 이익을
분석하였는가?
인공지능 활용의 점진적 확대를 위한 연차별 준비사항(Action plan)을
제시하였는가?
ISP
인공지능 학습을 위한 데이터를 정의하고 보유 현황 및 환경을 분석했는가?
수립
(11) 사업 목표를 고려할 때 해당 문제를 해결하기 위한 수단으로 인공지능을
도입하는 것이 적절한가?
타 기관의 인공지능 공통기반을 활용 또는 연계‧통합이 가능한지 사전에
검토했는가?
(챗봇 공통기반, 국민비서 알림 서비스, 빅데이터 분석 플랫폼 혜안 등)
기
획 행정안전부 “공공데이터 관리지침”에 따라 민간 서비스와의 중복‧유사성을
검토했는가?
단 국내외 사례 벤치마킹, 최신 기술 수준 조사 등을 통해 실현 가능성을
계
(23) 판단했는가?

인공지능 도입으로 기대되는 성과 및 도입 효과가 구체적으로 제시되었는가?

예산 학습용 데이터 수집·전처리 단가를 적절히 산정하였는가?

확보 학습데이터 수집, 제작, 가공, 시스템 운영비 등 인공지능 특성을 반영한 기능단위
(2)
업무를 설계했는가?
정보화전략계획(ISP)과의 연관성을 고려하여 구축사업의 방향성을
도출했는가?
인공지능 학습을 위한 데이터 보유 현황을 조사하고 수집‧조달‧방안을
마련했는가?
사업 AI허브 등에서 기 구축되어 있는 인공지능 학습용 데이터를 우선적으로 활용하는
계획
것을 고려했는가?
서
(7) 빅데이터 관련 활용인 경우, ‘혜안’ 등 기 개발된 빅데이터 공통기반
시스템 및 공공 빅데이터 표준 분석 모델 활용 여부를 검토하였는가?

사업 수행에 적합한 인공지능 기술(알고리즘)이 검토되었는가?

- 59 -
 영역 점검 항목 비고
오류데이터 제거, 활용을 위한 데이터 타입 통일을 위한 변환, 데이터
검증 및 정제 과정의 절차를 수립하였는가?
수집‧이용 예정 데이터에 개인정보가 포함되어 있다면, 개인정보 침해
발생 대응 방안에 대해 법적 타당성 등을 사전에 검토했는가?
인공지능 모델의 학습 결과에 영향을 줄 수 있는 편견이 존재하는가?

(설계 공정성) 사업 계획 및 사용 기술(알고리즘)이 합리적인가?

(데이터 공정성) 공정한 데이터를 수집‧활용하는가?

(결과 공정성) 차별적인 영향이 없는 시스템인가?

윤리 이해관계자에게 학습 및 판단의 과정에 대해 설명이 가능한가?

심의
판단의 결과에 대해 제3자가 보더라도 받아들일 수 있는가?
(10)
개인 및 사회 집단에 차별적 영향을 미칠 수 있는 잠재력이 있는가?

인공지능이 개인과 사회에 긍정적 사회변화를 이끄는 방향으로 활용되는가?

결과물에 영향을 받는 이해관계자는 누구이며, 어떤 영향을 미치는가?

인공지능 알고리즘 결정으로 발생하는 피해에 대한 대응 방안을
마련했는가?
사업 담당자가 업무지식과 인공지능 기술지식 모두 보유하고 있는가?
타 기관의 유사 사례를 조사하여 구축과정에서 예상되는 장애요인에 대한
극복방안을 사전에 검토하였는가?
목표 성능, 측정 지표 등 성능 요구사항을 현 기술수준, 유사 사례, 전문가
의견 등을 고려하여 현실적으로 제시하였는가?
인공지능 학습에 충분한 양의 데이터를 준비했는가?(또는 확보가능한가?)
제안요 수집한 데이터 가공, 관리, 보안 관련 요구사항을 정의하였는가?
청서
구 작성 인공지능 학습 데이터 구축 시 발생할 수 있는 저작권 침해사항에 대한
축 (10)
책임을 명시했는가?
단 과기정통부 “데이터 품질 관리를 위한 가이드”를 준수하였는가?
계
(27) 행정안전부 “공공기관의 데이터베이스 표준화 지침”을 준수하였는가?
인공지능 전문가가 참여한 과업 심의위원회를 구성하여 과업내용을
심의‧확정했는가?

제안사에서 PoC를 실시할 수 있도록 샘플 데이터를 공개했는가?

다수의 알고리즘(기법)을 대상으로 가상 시뮬레이션, PoC, BMT 등을

기술 실시하여 최적의 성능을 측정하였는가?
평가
(2) 수행 업체가 인공지능 기술의 역할 및 특성을 이해하고 있으며 관련 사업
경험이 충분한가?

- 60 -
 영역 점검 항목 비고
의도하지 않은 상황으로 인해 학습이 정지되었을 때, 가장 최근에 저장된
모델을 로드하여 재학습이 가능한가?
인공지능 솔루션에 대한 소유권(제안사가 보유 등)을 명시하고 커스터마이징을
수행할 수 있는가?
데이터 수집 정보원(출처)이 신뢰성 있고 중립적이며 충분한 대표성이
있는가?
인공지능 시스템의 유효성 및 성능을 확보하기 위해 일정량 이상의 충분한 학습
데이터와 테스트 데이터를 분리하여 관리하는가?
인공지능 학습을 위해 편향되지 않은 중립적인 데이터셋을 사용하였는가?
인공지능 시스템 장애가 발생하였을 때 관리자가 내부구조에 접근할 수
사업 있는가?
착수
관리 구축한 인공지능 시스템을 타 시스템에서도 활용할 수 있도록 API 등의
(12) 형태로 구성·제공하는가?
관리자가 변경되어도 학습과 유지관리가 자동으로 이루어지도록 시스템을
구축했는가?
국가정보원 “국가‧공공기관의 인공지능시스템 도입‧운용 관련 정보보안
고려사항”을 준용하여 시스템을 구축했는가?
국가정보원 “국가‧공공기관 빅데이터 보안 가이드라인”을 준수하여
시스템을 구축했는가?
데이터 수집 후, 데이터에 대한 외부인 접근 방지 및 유출 시 대처 방안을
마련했는가?
활용 데이터에 대한 보안 사항 및 개인정보보호 관련 문제를
점검하였는가?
업무전문가(판독자)에게도 검증 데이터셋을 제공하여 인공지능 식별
역량을 인간의 수준과 비교하여 평가했는가?
사업
종료 인공지능을 활용하여 적절한 답변을 하지 못하거나 기능을 호출할 수 없을 시
(3) 처리방안을 구현했는가?
인공지능이 도출한 결과물의 근거를 설명할 수 있는가?
AI 서비스가 최신의 데이터와 업무 내용을 반영하여 결과를 도출하고
있는가?
기관장을 포함한 사업 관련자들의 인공지능 관심 및 전문성 향상교육
운 방안을 마련했는가?
영 운영 운영(유지관리) 사업 전문성 확보를 위해 전문직위 등 인력 투입을
유지
검토했는가?
단 관리
계 (8) 재학습에 필요한 활동을 정의하고 충분한 예산을 확보했는가?
(14) 안전하고 지속 가능한 기술을 사용하여 인공지능이 올바른 의사결정의
수단으로 활용될 수 있도록 노력하였는가?
국가정보원 “국가‧공공기관의 인공지능시스템 도입‧운용 관련 정보보안
고려사항”을 준용하여 시스템을 운영하는가?

- 61 -
영역 점검 항목 비고
개인정보‧사생활 침해 문제 발생 시 대처방안을 마련했는가?

인공지능 활용 내용과 활용 과정에서 발생할 수 있는 위험 등의

유의사항을 사전에 고지했는가?

정보화전략계획(ISP)에 따라 차년도 고도화 및 연계사업을 기획했는가?

기존 제품과 다른 제품으로 연계 사업을 추진하더라도 기존 시스템과
동등하거나 그 이상의 성능을 확보할 수 있는가?
차년도 시스템 갱신을 위하여 학습데이터베이스, 시스템 품질, 시스템
연계
보안에 대한 보완사항을 도출하였는가?
사업
기획 개발한 인공지능의 정확성, 신뢰성을 단계적으로 높이기 위한 전략을
추진 수립했는가?
(6) 일원화된 인공지능 데이터 학습 정확도 향상 등을 위해 장기계속계약을
검토했는가?
호환성, 확장 가능성 등을 고려하여 관련 표준이 존재하는지 파악하고
준수하였는가?

- 62 -
 부록2 참고 법령 및 가이드라인
◯
법 법령(법률, 대통령령, 부령) ◯
규 행정규칙(훈령, 예규, 고시, 규정, 규칙, 지침) ◯
가 가이드라인‧매뉴얼 등

발행일
분류 제 목 발행기관
(공포일)
◯
법 정보통신 진흥 및 융합 활성화 등에 관한 특별법
과학기술정보통신부 ’20.6월
(정보통신융합법)
◯
법 전자정부법 행정안전부 ’20.6월

◯
법 지능정보화 기본법 과학기술정보통신부 ’20.6월

단계 공통 ◯전자정부지원사업 관리지침
규 행정안전부 ’20.1월

◯
규 행정기관 및 공공기관 정보시스템 구축‧운영 지침 행정안전부 ’19.8월
미래창조과학부,
◯
가 정보화사업 단계별 관리점검 가이드 행정자치부, ’15.2월
한국정보화진흥원
◯
가 국가‧공공기관의 인공지능 시스템 도입‧운용 관련
국가정보원 ’19.2월
정보보안 고려사항

◯
규 예비타당성조사 운용지침 기획재정부 ’21.1월

◯
규 소프트웨어 기술성 평가기준 지침 과학기술정보통신부 ‘20.12월

정 ◯
규 전자정부 성과관리 지침 행정안전부 ’20.2월
보 과학기술정보통신부,
◯
규 국가정보화 시행계획 작성지침 ’20.1월
화 한국정보화진흥원

◯
규 2010~2024년 국가재정운용계획 수립 지침 기획재정부 ’20.12월
기
◯
규 사회기반시설사업‧지역개발사업의 정보화 수립에 관한 지침
획 과학기술정보통신부 ’17.10월
1. (舊 대규모투자사업 정보화계획 수립에 관한 지침)

기 기획재정부,
◯
가 정보화전략계획(ISP) 수립 공통가이드(제3판) ’19.4월
한국정보화진흥원
획
단 ◯
가 정보화전략계획(ISP) 산출물 점검 가이드 행정자치부 ’15.7월

계 ◯
법 국가재정법 기획재정부 ’20.6월

◯
법 지방재정법 행정안전부 ’19.12월
예
◯
규 2021년도 예산 및 기금운용계획 집행지침 기획재정부 ’21.1월
산
◯
규 예산안편성 및 기금운용계획안 작성 세부지침 기획재정부 ’20.5월
확
◯
가 국제표준 기반 기능점수 산정 안내서 소프트웨어산업협회 ’20.12월
보
◯
가 SW 사업 대가산정 가이드 한국소프트웨어산업협회 ’20.6월

◯
가 공공 빅데이터 분석 사업비 대가산정 가이드 행정자치부 ’16.12월

- 63 -
 발행일
분류 제 목 발행기관
(공포일)
◯
가 국가 인공지능 윤리 기준안 과학기술정보통신부 ’20.11월
방송통신위원회,
◯
가 이용자 중심의 지능정보사회 원칙 ‘19.11월
정보통신정책연구원
◯
가 인공지능 윤리헌장 한국인공지능윤리협회 ‘19.10월
윤
리 ◯
가 지능형 정부 인공지능 활용 윤리 가이드라인(안) 한국정보화진흥원 ‘18.12월

◯
가 지능정보사회 헌장 정보문화포럼 ‘18.6월

◯
가 카카오 알고리즘 윤리 헌장 카카오 ‘18.1월

◯
가 로봇 윤리헌장 초안 산업자원부 ‘07.3월

◯
법 소프트웨어 산업 진흥법 과학기술정보통신부 ’20.6월

◯
규 엔지니어링 사업대가의 기준 산업통상자원부 ’19.1월
제
안 ◯
규 정보시스템 하드웨어 규모 산정 지침 한국정보통신기술협회 ’18.12월
요
행정자치부,
청 ◯
규 국가정보통신서비스 이용 지침서 ’16.8월
한국정보와진흥원
서 과학기술정보통신부,
◯
가 소프트웨어사업 요구사항 분석·적용 가이드 ’12.12월
정보통신산업진흥원
작 과학기술정보통신부,
◯
가 사례기반 소프트웨어 단계별 발주 가이드 ’20.1월
성 정보통신산업진흥원

◯
가 AI 공공부문 조달 가이드라인 세계경제포럼 ’19.9월

2. ◯
가 SW 분리발주 가이드라인 과학기술정보통신부 ’17.10월
구 ◯
법 국가를 당사자로 하는 계약에 관한 법률(국가계약법) 기획재정부, 조달청 ’21.1월
축 계
◯
규 소프트웨어사업 계약 및 관리감독에 관한 지침 과학기술정보통신부 ’20.12월
단 약
계 ◯
가 공공소프트웨어사업 과업변경 가이드 과학기술정보통신부 ’20.3월
◯
법 공공데이터의 제공 및 이용 활성화에 관한 법률
행정안전부 ’20.6월
(약칭 ‘공공데이터법’)
◯
법 데이터기반행정 활성화에 관한 법률
행정안전부 ’20.6월
데 (약칭 ‘데이터기반행정법’)
이
◯
규 공공데이터 관리지침 행정안전부 ’19.9월
터
◯
규 과학기술정보통신부 공공데이터 품질관리 지침 과학기술정보통신부 ’19.6월
관
◯
규 공공기관의 데이터베이스 표준화 지침 행정안전부 ’19.3월
리
◯
규 데이터 품질관리 지침 한국데이터베이스진흥센터 ’06.9월

◯
가 공공기관 데이터 역량강화 가이드라인 행정안전부 ’20.12월

- 64 -
 발행일
분류 제 목 발행기관
(공포일)
◯
가 데이터 공동활용 가이드 행정안전부 ’20.12월
과기정통부,
◯
가 인공지능 데이터 품질 표준안 ’20.10월
한국정보통신기술협회

◯
가 인공지능 데이터셋 구축 가이드북 한국정보통신기술협회 ’20.1월

◯
가 공공데이터 품질관리 매뉴얼 한국정보화진흥원 ’18.1월

◯
가 공공 빅데이터 업무적용 가이드 행정자치부 ’16.12월

◯
가 데이터베이스 구축비 대가기준 가이드 한국정보화진흥원 ’11.12월

◯
법 보안업무규정 국가정보원 ‘20.12월
◯
법 정보통신망 이용촉진 및 정보보호 등에 관한 법률 방송통신위원회,
’20.6월
(정보통신망법) 과학기술정보통신부

◯
규 개인정보 영향평가에 관한 고시 개인정보보호위원회 ’20.8월

◯
규 국가 정보보안 기본지침 국가정보원 ’20.7월

◯
규 보안업무규정 시행규칙 국가정보원 ’20.3월

보 ◯
규 국가사이버안전관리규정 국가정보원 ’13.9월
안
관 ◯
가 소프트웨어 개발보안 가이드 행정안전부 ’19.11월
리 ◯
가 소프트웨어 보안약점 진단 가이드 행정안전부 ’19.10월

◯
가 개인정보 영향평가 수행 안내서 한국인터넷진흥원 ’18.4월

◯
가 전자정부 SW개발 운영자를 위한 SW 개발보안 가이드 행정안전부 ’17.8월

◯
가 빅데이터 개인정보보호 가이드라인 해설서 한국인터넷진흥원 ’15.2월

◯
가 정부·공공기관 정보보안 관리실태 평가지표 국가정보원 ’13.10월

◯
가 국가사이버 안전매뉴얼 국가정보원 ’05.10월

감 ◯
규 정보시스템 감리기준 행정안전부 ’20.1월

리 ◯
가 정보시스템 감리 발주‧관리 가이드 한국정보화진흥원 ’17.4월

운 운 ◯
규 전자정부 운영 성과관리 지침 행정안전부 ‘17.7월
영 영
◯
가 정보시스템 운영 및 유지보수 감리 점검 가이드 한국정보화진흥원 ’18.3월

- 65 -
부록3 2018-2020년 조달청 발주 인공지능 사업 목록(89 ) 개
( 기술분류-사례분류 順)

연도 순번 사 업 명 기관명 기술분류 사례분류

맞춤형
1 인공지능(AI) 초등수학 수업 지원 시스템 구축 사업 과학기술정보통신부 기계학습
서비스
맞춤형
2 2020년도 지능형 인재추천서비스 고도화 인사혁신처 기계학습
서비스
맞춤형
3 국가 인재개발 지능형 오픈 플랫폼 구축(1단계) 인사혁신처 기계학습
서비스
맞춤형
4 인공지능 기술 공공조달 건설 일자리지킴이 구축 조달청 기계학습
서비스
맞춤형
5 머신러닝 기반 일자리매칭시스템 구축 2차 사업 한국고용정보원 기계학습
서비스
맞춤형
6 AI-매칭 성인학습자 교육과정 추천 시스템 구축 한국교육학술정보원 기계학습
서비스
센서데이터
7 지능형 원격검침시스템 구축 사업 부산광역시 기계학습
활용
업무편의
8 지능형 수입식품통합시스템 구축(2차) 식품의약품안전처 기계학습
자동화
업무편의
9 머신러닝 기반 간편 주소관리 서비스 한국우편사업진흥원 기계학습
자동화
업무편의
10 드론영상 AI분석 및 모바일 현장조사 시스템 구축 제주특별자치도 기계학습
2020 자동화
(40건) AI 기반의 보안관제 전용 한국과학기술 예측예방
11 기계학습
사이버위협 자동분석 시스템 개발 정보연구원 시스템
예측예방
12 AI기반 무역금융사기 모니터링 시스템 구축 관세청 기계학습
시스템
e나라도움 지능형(AI 기술활용) 예측예방
13 기획재정부 기계학습
부정징후 탐지시스템 구축 및 고도화 시스템
예측예방
14 지능형 도시재생정책 지원 시스템 구축 대전광역시 기계학습
시스템
머신러닝･RPA 기반의 사회서비스 예측예방
15 보건복지부 기계학습
바우처 부정수급 탐지시스템 구축 시스템
예측예방
16 지능형 산림재해대응체계 구축(1차) 산림청 기계학습
시스템
위치추적중앙 예측예방
17 AI 기반 전자감독 서비스 구축 기계학습
관제센터(법무부) 시스템
예측예방
18 인공지능기반 적응형 보안시스템 3차구축 행정안전부 기계학습
시스템
예측예방
19 AI 기반 악성의심 도메인 탐지·대응 시스템 구축 한국인터넷진흥원 기계학습
시스템
자율주행 인공지능 인식기술
20 한국국토정보공사 기계학습 특수분야
활성화를 위한 융합 DB 서비스 구축

- 66 -
연도 순번 사 업 명 기관명 기술분류 사례분류

AI기반 시·청각장애인을 위한
21 대전광역시 음성처리 민원상담
스마트 미러 민원안내시스템 구축

22 인공지능 기반 민원서식 작성 도우미 서비스 개발 제주특별자치도 음성처리 민원상담

AI 음성인식 활용, 성폭력피해자 업무편의

23 경찰청 음성처리
조서 작성 시스템 구축 자동화
딥러닝 영상인식기술 기반 한국방송광고 맞춤형
24 이미지처리
개방형 광고창작시스템 구축 진흥공사 서비스
업무편의
25 AI X-RAY 판독 시스템 구축 사업(2단계) 관세청 이미지처리
자동화
업무편의
26 토지피복지도 자동분류를 위한 지능형 시스템 구축 환경부 이미지처리
자동화
인천공항 예측예방
27 인공지능 실증랩 고도화 및 취득·관제시스템 이미지처리
출입국외국인청 시스템
맞춤형
28 인공지능 문화정보 큐레이팅봇 유지보수 및 운영 한국문화정보원 챗봇
서비스
맞춤형
29 지능형 멀티 문화정보 큐레이팅봇 구축 한국문화정보원 챗봇
서비스

30 인공지능기반 「스마트 도정안내」서비스 도입 경상남도 챗봇 민원상담

31 공직자통합메일 지능형 고객상담서비스 구축 문화체육관광부 챗봇 민원상담

32 인공지능기반의 병무민원신청시스템 병무청 챗봇 민원상담

33 지능형 상담정보시스템 구축 부산광역시 챗봇 민원상담

34 인공지능 기반 한국어 학습 지원 서비스 구축 세종학당재단 챗봇 민원상담

영사콜센터 민원접수채널 다양화 및

35 외교부 챗봇 민원상담
지능형 상담시스템 구축

36 인공지능(AI)기반 창원봇 구축 창원시 챗봇 민원상담

37 AI 기반 지역 축제 챗봇 서비스 한국정보화진흥원 챗봇 민원상담

38 범정부 민원상담365 행정안전부 챗봇 민원상담

39 지능형 국민비서 행정안전부 챗봇 민원상담

기술기반 팩트체크 시스템 구축 예측예방

40 방송통신위원회 자연어처리
(인공지능 기반 팩트체크 기술 개발) 시스템

- 67 -
연도 순번 사 업 명 기관명 기술분류 사례분류

맞춤형
1 경남형 빅데이터 및 AI교육서비스 구축 경상남도교육청 기계학습
서비스

맞춤형
2 지능형 학습관리시스템 구축(2단계) 서울특별시 기계학습
서비스

국가일자리정보플랫폼 기반의 맞춤형

3 한국고용정보원 기계학습
AI 고용서비스 구축 사업 서비스

인공지능기반 지하수 중 센서데이터

4 환경부 기계학습
축산분뇨오염실시간 감시시스템 활용

AI를 이용한 상품·위험률 업무편의

5 보험개발원 기계학습
확인시스템 2단계 구축사업 자동화

예측예방
6 인공지능 기술 기반 침해사고 로그분석 시스템 구축 한국인터넷진흥원 기계학습
시스템

예측예방
7 인공지능 기반 지자체 보안관제시스템 확대 구축 행정안전부 기계학습
시스템

2019 예측예방
8 인공지능기반 적응형 보안시스템 2차 구축 행정안전부 기계학습
(30건) 시스템

업무편의
9 인공지능 회의록지원시스템 구축 서울특별시 음성처리
자동화

업무편의
10 AI X-Ray 판독시스템 구축 사업(1단계) 관세청 이미지처리
자동화

업무편의
11 표현체 인공지능 플랫폼 및 활용체계 구축 농촌진흥청 이미지처리
자동화

홍채 및 지능형 영상감시 시스템을 통한 인천공항 업무편의

12 이미지처리
스마트 승무원 자동출입국심사대 구축 출입국외국인청 자동화

업무편의
13 빅데이터·인공지능기반 국공유지 모니터링 체계 구축 창원시 이미지처리
자동화

예측예방
14 지능형 도로포장상태 예측 및 예방시스템(ICT공공) 경기도 이미지처리
시스템

예측예방
15 인공지능 건강예측 기반 확대 사업 국민건강보험공단 이미지처리
시스템

- 68 -
연도 순번 사 업 명 기관명 기술분류 사례분류

AI기반 불법촬영물 유포탐지 및 예측예방

16 대검찰청 이미지처리
피해자 지원 시스템 개발 시스템

열화상 및 환경정보 기반의 예측예방

17 서울특별시 이미지처리
지능형 재난예방시스템 구축 시스템

인천공항 예측예방
18 2019년 인공지능 식별추적 실증랩 서비스 구축 사업 이미지처리
출입국외국인청 시스템

맞춤형
19 지능형 멀티 문화정보 큐레이팅봇 구축 한국문화정보원 챗봇
서비스

20 우체국금융 AI 로보텔러 구축 과학기술정보통신부 챗봇 민원상담

21 지능형 우편정보시스템 구축 및 안정화 과학기술정보통신부 챗봇 민원상담

인공지능 및 빅데이터 기반의

22 대구광역시 챗봇 민원상담
지능형상담시스템 고도화

23 인공지능기반 민원신청시스템 구축 병무청 챗봇 민원상담

국가 암 지식정보 중심의 인공지능 기반

24 보건복지부 챗봇 민원상담
상담형 챗봇 서비스 구축

25 데이터기반 인공지능 고객상담시스템 구축(1차년도) 보건복지부 챗봇 민원상담

26 인공지능 기술 기반 공공혁신 조달플랫폼 구축 조달청 챗봇 민원상담

27 소상공인 지능형서비스 지원 중소벤처기업부 챗봇 민원상담

28 인공지능 기반의 데이터 멘토링 시스템 구축 통계청 챗봇 민원상담

업무편의
29 AI기반 스마트 종합정보 포털시스템 구축 사업 선박안전기술공단 챗봇
자동화

예측예방
30 2019년도 AI 기반 스팸 빅데이터 분석시스템 개발 한국인터넷진흥원 자연어처리
시스템

- 69 -
연도 순번 사 업 명 기관명 기술분류 사례분류

맞춤형
1 빅데이터 기반 지능정보형 인사정책지원 플랫폼 구축 인사혁신처 기계학습
서비스

빅데이터 및 인공지능 융합․분석 기반 센서데이터

2 환경부 기계학습
지중 환경오염 예측관리 시스템 개발 활용

업무편의
3 인공지능 기반 우범화물 검사대상 선별시스템 구축 관세청 기계학습
자동화

예측예방
4 인공지능을 활용한 민생범죄 수사지원 분석사업 서울특별시 기계학습
시스템

한국과학기술 예측예방
5 AI 기반의 보안관제 전용 사이버위협 자동분석 시스템 기계학습
정보연구원 시스템

예측예방
6 지능형 전기화재 예방 및 조기경보 시스템 구축 한국전기안전공사 기계학습
시스템

업무편의
7 음성인식 기반 법정녹음 지능형 자동기록 시스템 법원행정처 음성처리
자동화

U서비스-인공지능(AI) 객체인식 맞춤형

8 은평구 이미지처리
대형폐기물 시스템 2차 고도화 서비스

개방-인공지능(AI)기반 건강보험심사평가원 업무편의

9 이미지처리
의료영상 판독지원정보 확대 개방 한국정보화진흥원 자동화
2018 업무편의
10 (ICT) 한국수어 통·번역 시스템 구축 대전 대덕구 이미지처리
(19건) 자동화

11 '18년 지능형 철도보안정보화시스템 구축 국토교통부 이미지처리 예측예방

12 자율주행차 데이터 공유센터 구축 한국교통안전공단 이미지처리 특수분야

맞춤형
13 지능형 문화정보 큐레이팅봇 구축 한국문화정보원 챗봇
서비스

14 인공지능 기반 에너지프로슈머 관리 플랫폼 강원도 챗봇 민원상담

15 우체국금융 챗봇상담시스템 구축 과학기술정보통신부 챗봇 민원상담

16 워크넷 일자리 자동상담(챗봇)시스템 구축 한국고용정보원 챗봇 민원상담

인공지능 기반 개인 수준별
17 한국교육방송공사 챗봇 민원상담
문제 풀이 및 해설 서비스 개발

빅데이터·인공지능(AI) 기반 대부업 업무편의

18 금융감독원 자연어처리
상시감시 및 민원지원 시스템 구축 사업 자동화
업무편의
19 인공지능 기반 고전문헌 자동번역시스템 고도화 한국고전번역원 자연어처리
자동화

- 70 -