정부가 안전하고 신뢰할 수 있는 인공지능(AI) 확산을 위해 국내 최초로 AI 신뢰성 단체표준을 제정했다.
과학기술정보통신부와 한국정보통신기술협회(TTA)는 지난 6일 TTA 제104차 정보통신표준총회를 통해 'AI 시스템 신뢰성 제고를 위한 요구사항' 정보통신단체표준(이하 단체표준)을 제정했다고 12일 밝혔다.
이번에 제정된 단체표준은 신뢰성 적용범위, 특성, 시스템 생명주기 및 이해관계자 등 AI 시스템 신뢰성 구성요소와 요구사항을 제시했다.
세부 특성으로는 견고성, 보안성, 설명가능성, 신뢰성, 안전성, 예측가능성, 제어가능성, 책임성, 투명성, 공정성, 프라이버시 등으로 구성된다.
생명주기로는 초기, 설계‧개발부터 검증‧확인, 배치, 운영‧모니터링, 지속적 확인, 재평가, 폐기까지 전 과정을 아울렀다.
이외에 요구사항으로는 AI 시스템 위험관리 계획 및 수행, 수집‧가공된 학습데이터의 편향 제거, AI 모델의 편향 제거, AI 시스템의 안전모드 구현 및 문제발생 알림절차 수립 등 15가지가 포함됐다.
이번 단체표준 제정으로 그동안 모호한 개념으로 인식되었던 AI 신뢰성 확보를 위한 기준을 정립하고, 국내 AI 산업의 신뢰성 저변 확대를 위한 발판이 마련될 것으로 기대된다.
또한 AI 신뢰성 관련 국제표준인 ISO/IEC TR 24028(신뢰성 개요), ISO/IEC 23894(위험관리), ISO/IEC 22989(용어)의 신뢰성 개념과 용어, 요구사항과의 내용 일관성을 유지함으로써 국제 호환성을 확보했다고 과기정통부 측은 설명했다.
과기정통부와 TTA는 이번 단체표준 제정을 시작으로 향후 단체표준의 요구사항에 대한 검증 프로세스를 표준화하고, 단체표준의 내용을 분야별로 확대해 위험 기반의 검증 항목·절차에 대한 표준화를 지속 추진한다는 방침이다.
박윤규 과기정통부 2차관은 "국내 AI 산업의 신뢰성을 확보하기 위해 정책적 지원을 확대하고, 국내기업들이 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진해 나가겠다"고 밝혔다.