바로가기 메뉴
본문 바로가기
주메뉴 바로가기
푸터 바로가기

[KISA Insight 2022 Vol.03] AI 중심사회의 도래와 보안 이슈 분석

담당자
정책분석팀 박진상
전화
061-820-1195
이메일
등록일
2022-04-14
조회
2893

[KISA Insight 2022 Vol.03] AI 중심사회의 도래와 보안 이슈 분석

요약
코로나-19로 촉발된 디지털 대전환은 사회 변화의 핵심동력이 될 것이며, AI 주도의 ICT 패러다임 변화가 예상되고 지속될 전망
o 국내·외 IT 기술 트렌드 전망과 전문가 설문조사에 따르면, 미래사회 변화·발전을 주도할 유망 기술로 AI를 선정
o 가트너, IDC 등 시장 조사기관들은 글로벌 AI 시장의 지속적인 성장을 예측하였고, 우리 정부와 해외 주요국은 글로벌 AI 경쟁에서 주도권을 확보하기 위해 관련 전략·정책을 추진 중

머신러닝·딥러닝을 비롯한 AI 알고리즘은 산업에서 고객에게 차별화된 제품·서비스를 제공하고 기업이 더 효과적인 의사결정과 높은 경영성과를 달성하도록 촉진
o 다이내믹 프라이싱, 콘텐츠 기반·협력 필터링 등 AI 알고리즘을 통해 고객 편익을 최대화하는 추세이며, 최근 금융기관 및 핀테크 기업도 AI 알고리즘을 활용한 금융서비스를 제공 중

AI의 보안위협은 증가 추세로 이에 대한 대응준비는 부족. 다양한 보안위협에 대응하고 AI를 안전하게 활용하게 하는 ‘AI를 위한 보안(Security for AI)’ 필요
o 현재·미래의 AI 보안위협은 프라이버시 침해 등 서비스 이용 부문의 위협이 가장 높으며, AI 서비스의 핵심인 데이터(모델)에 대한 위협도 대비 필요
o 본 연구에서는 다양한 AI 보안위협 중 대표적인 보안위협인 ① AI 모델 공격, ② 자율주행차 오작동 등의 안전성(Safety) 이슈, ③ 프라이버시 침해를 분석

앞으로 도래할 ‘AI 중심사회’에서 다양하게 발생하는 보안위협을 고려하고 안전한 AI 활용을 위한 기술적 보안과 법·제도 등 정책적 대응방안 마련 필요
o AI 제품·서비스 개발 시 사전에 보안과 프라이버시를 고려하는 ‘AI 서비스에서의 Security by Design과 Privacy by Design’ 원칙 적용 필요
o AI 활용의 데이터 프라이버시 강화를 위한 ‘차세대 개인정보보호 강화 기술 연구 및  개발’ 필요
o AI 시스템의 중립성·공정성·투명성을 비롯하여 개인정보 처리주체의 책임성을 제고하기 위한 ‘제3자 기관에 의한 감사제도 도입과 AI 알고리즘 투명성 리포트 발행’ 권고
o 다양한 ICT 유망 기술과 AI가 융합되어 스마트공장, 자율주행, 디지털헬스 등 산업 전반에 활용이 전면화 되는 ‘기술융합사회’에 대한 대비 요구
목차
1장 AI 중심사회의 도래
2장 AI 기술의 이해와 현황
3장 AI 기술의 보안 이슈
4장 시사점 및 정책 제언
4
[나주본원] (58324) 전라남도 나주시 진흥길 9 한국인터넷진흥원 대표번호 : 1433-25(수신자 요금 부담) [서울청사] (05717) 서울시 송파구 중대로 135 (가락동) IT벤처타워 [해킹ㆍ스팸개인정보침해 신고 118] Copyright(C) 2021 KISA. All rights reserved.
Now Loading