AI 신뢰성 인증은 '투명성', '안전성', '책임성', '다양성 존중' 등 총 네 가지 요건을 기반으로 한다. 이는 정부가 제시한 ‘인공지능 윤리기준’ 10대 핵심 요건 중 기술적 관점의 해석 및 적용이 가능한 요건

사진은 지난해 12월 인공지능 신뢰성 시범인증 수여식 후 관계자들이 기념사진을 찍고 있다.

왼쪽부터 한종호 딥브레인AI 사업개발그룹 본부장, 신석규 와이즈스톤 회장, 강명수 한국표준협회 회장, 유미영 삼성전자 생활가전사업부 부사장, 이채린 클라썸 대표

한국표준협회(회장 강명수)와 와이즈스톤(대표 이영석)이 인공지능 품질 전문 시험·인증 기관으로 선전하고 있다.

와이즈스톤은 지난 2022년 5월 '민간 인공지능 신뢰성 시범인증' 공동 사업자로 선정되어 같은 해 12월까지 인공지능 신뢰성(Trustworthiness) 검·인증 체계를 구축하고 시범인증을 마쳤다. 인공지능 신뢰성 인증은 국내 최초다.

인공지능 신뢰성 인증은 '투명성', '안전성', '책임성', '다양성 존중' 등 총 네 가지 요건을 기반으로 한다. 이는 정부가 제시한 ‘인공지능 윤리기준’ 10대 핵심 요건 중 기술적 관점의 해석 및 적용이 가능한 요건이다.

최근 인공지능 기술은 매우 광범위한 영역에서 다양한 형태로 활용되고 있다. 활용 영역이 무한 확대됨에 따라 인공지능의 편향성, 인공지능 알고리즘에 대한 공격, 개인정보 유출, 사생활 침해 등 사회적 문제나 부작용에 대한 우려도 크다.

이에 와이즈스톤은 올 초부터 ‘인공지능 신뢰성 인증’ 고도화에 나섰다. 인공지능 기술 발전과 트렌드에 맞춰 시험 기준 및 평가 항목 등을 더욱 촘촘히 할 계획으로 AI 신뢰성 인증을 통해 인공지능으로 인해 발생할 수 있는 신뢰성(Trustworthiness) 문제 및 윤리(Ethic) 이슈 등 사회적 문제를 대폭 줄이겠다고 전했다.

와이즈스톤에 이어 다양한 기업 및 기관이 인공지능 신뢰성 확보에 나서고 있지만 쉽지 않다. 인공지능에 관한 국제표준(ISO/IEC) 등 객관적인 평가 기준이나 시험 항목이 수립 단계이기 때문이다.

이영준 와이즈스톤 ICT시험인증연구소 소장은 “와이즈스톤은 다년간 축적된 인공지능 품질 및 성능 시험 경험과 AI+(에아이아플러스)인증 개발 및 운영 노하우를 기반으로 인공지능 신뢰성 인증을 구축할 수 있었다”고 설명했다.

현재 와이즈스톤은 연평균 300여 건 이상의 인공지능 시험성적서를 발행하는 등 인공지능 시험·인증 분야에서 독보적이다.

이 소장은 “와이즈스톤에는 인공지능 시험 전담 인력, 테스트 베드, 시험 도구 등이 갖춰져 있기에 가능한 수치”라고 말하며 “최근에는 인공지능과 데이터 분야를 전담하는 ‘디지털융합시험인증센터’를 설립하고 신뢰성 인증 고도화에 더욱 집중하고 있다”라고 소개했다.

이어 최근 화제가 되고 있는 챗GPT 등 생성 인공지능(generative AI) 분야를 비롯해 안전, 사이버 시큐리티 등 인공지능 신뢰성과 밀접한 분야 별 실증 사례를 연구해 가이드를 마련하고 이를 기반으로 한 컨설팅 서비스도 계획하고 있다고 밝혔다.

출처 : 인공지능신문(https://www.aitimes.kr)