NIA, AI 시스템 부작용 최소화 위한 지침서 발간

[이뉴스투데이 여용준 기자] 한국정보화진흥원(NIA)은 공공기관 인공지능(AI) 시스템 부작용을 최소화하고 신뢰받는 지능정보서비스를 구현하기 위한 지침서로서 ‘공공기관 신뢰가능 AI 구현 실용가이드’를 발간했다고 30일 밝혔다.

지능정보사회의 도래로 AI가 일상 깊숙이 확산되고 있는 가운데 알고리즘과 데이터 편향에 따라 인권과 안전을 해치는 부작용도 계속 발생하고 있다.

이에 국제사회에서는 신뢰할 수 있는 AI를 만들기 위한 여러 원칙을 잇달아 발표하고 있다. 특히 OECD는 5월 포용 성장, 사람 중심가치, 투명성, 안전성, 책임성의 5가지 원칙을 제시했다.

NIA는 이러한 국제적인 노력에 발맞춰 공공기관이 신뢰가능 AI를 구현할 때 이러한 원칙을 준수할 수 있도록 설계단계부터 적용되어야 할 세부 지침을 마련했다.

실용 가이드는 먼저 신뢰가능 AI에 대한 OECD 기본원칙을 설명하고 이러한 원칙이 구현된 시스템을 신뢰 가능 AI 시스템이라 정의하고 있다. 이어 신뢰가능 AI 원칙 준수를 위해 시스템 개발부터 운영까지 생애주기의 단계별, 책임자별로 세분화한 실행 지침을 담고 있다.

마지막으로 공공기관이 신뢰 가능 AI 구현을 위해 필요한 거버넌스 프레임워크(관리체계, 위험관리와 인간의 개입, 데이터 관리, 고객 의사소통)를 제시하고 있다.

문용식 NIA 원장은 “이번 실용가이드는 AI 직접 서비스를 제공하는 주요 기업과 학계 전문가의 자문을 통해 작성된 만큼 완성도가 높다”며 “앞으로 기업, 전문가, 이해관계자와 지속적으로 협력하여 보다 구체적인 실천방안을 마련하고 가이드 적용 우수사례를 담아 담당자들이 쉽게 따라할 수 있는 길잡이가 되도록 실용 가이드를 계속 보완하겠다”고 밝혔다.