UPDATED 2022.12.2 금 20:15
상단여백
HOME 취재
'이루다 사태 방지' 스캐터랩, AI 챗봇 윤리 점검표 공개
정규민 기자 | 승인 2022.08.26 19:07

인공지능 챗봇 이루다를 개발한 스캐터랩이 ‘AI 챗봇 윤리 점검표’를 내놨다.

스캐터랩은 26일 과학기술정보통신부 및 정보통신정책연구원(KISDI)과 협업해 기업에 특화된 AI 윤리 점검표 최종안을 공개했다.

이번 점검표는 ‘사람이 중심이 되는 AI 윤리기준’의 10대 핵심 요건을 기준으로 구성됐으며 인문학, 공학, 법학을 아우르는 학계 인사를 비롯해 법조계, 시민단체 등 각계각층 전문가의 조언을 받았다.

또한 기획, 개발, 운영단계에서 AI 윤리가 실현될 수 있도록 총 21개의 실질적인 점검 항목을 담았다. 편향이나 차별적인 대화가 발견될 경우 검토 및 평가 후 반영될 수 있는 절차가 준비돼 있는지, 알고리즘 원리·데이터 수집 방법 등 필요한 정보를 충분히 제공하고 있는지 등이다.

스캐터랩 관계자는 “이번 점검표는 오픈을 앞둔 이루다 2.0 윤리적인 성장 이야기이기도 하다”라고 말했다.

스캐터랩은 지난해 1월 성차별적 혐오 발언을 내뱉은 이루다 1.0 서비스를 중단한 이후 개인정보 보호 체계를 강화하며 AI 윤리 실천 노력을 이어왔다. 어뷰징 대응 시스템 마련에 집중했으며, 정기적인 랜덤 샘플링을 통해 이루다가 안전하게 발화한 비율이 99% 이상인지 지속해서 확인하고 있다.

정규민 기자  qum@gameinsight.co.kr

<저작권자 © 게임인사이트, 무단 전재 및 재배포 금지>

정규민 기자의 다른기사 보기
icon인기기사
여백
여백
Back to Top