보스턴대·Just Horizons, K-12 학교용 AI 윤리지수 3년 개발 협약

보스턴대학교와 보스턴 소재 비영리단체 Just Horizons Alliance가 K-12 학교에서 사용되는 인공지능(AI) 기반 교육 도구를 평가하기 위한 AI Ethics Index 개발을 추진한다. 공개 자료에 따르면 이번 협력에는 BU Wheelock College of Education & Human Development와 BU의 컴퓨팅·데이터 과학 분야 조직이 참여하며, 협약 기간은 3년이다.

양측은 지난 5월 29일 보스턴 테크 위크 관련 행사에서 협약을 체결했다. 이 지수는 학생과 K-12 학교를 대상으로 판매되는 AI 교육 도구를 분석하고, 제품별 평가 결과를 데이터베이스 형태로 축적하는 방식을 목표로 한다.

평가 항목에는 학생 정신건강에 미치는 영향, 교육 관련 개인정보보호 법규 준수, 개인정보와 데이터 관리, 투명성, 안전성, 인간-AI 상호작용, 책임 구조 등이 포함된다. AI Ethics Index가 공개한 K-12 교육 분야 설명은 아동 안전과 복지, 학습 효과와 학업 무결성, 개인정보 및 데이터 관리, 형평성과 접근성, 인간의 판단과 관계 유지 등을 주요 검토 영역으로 제시한다.

AI Ethics Index의 일반 방법론은 모델 설계와 개발, 공정성, 개인정보와 데이터 관리, 투명성, 지식과 출처 표시, 인간-AI 상호작용, 안전·보안, 사회적 영향, 거버넌스와 책임성 등 9개 영역을 기준으로 삼는다. 지수 측은 이를 AI 시스템의 윤리성, 안전성, 사회적 영향을 증거 기반으로 평가하기 위한 체계로 설명하고 있다.

이번 프로젝트가 특정 학교의 AI 도구 도입 여부를 곧바로 결정하는 절차는 아니다. 공개 자료 기준으로 참여 학교 명단, 평가 대상 제품, 학교와 학부모가 조회할 수 있는 데이터베이스 공개 일정은 아직 제시되지 않았다. 외부 학교의 신청 절차나 비용 구조도 별도로 공지되지 않았다.

Just Horizons Alliance는 보스턴 커먼웰스 애비뉴에 주소를 둔 비영리 연구·혁신 단체로, AI 윤리와 인간 발달, 시스템 설계 관련 활동을 소개하고 있다. 보스턴대 Wheelock College는 교육과 인간 발달 분야를 담당하는 단과대학이며, BU의 컴퓨팅·데이터 과학 조직은 데이터 과학과 AI 관련 교육·연구를 운영한다.

학교 현장에서 AI 도구를 검토할 때는 학습 효과뿐 아니라 학생 데이터 수집 범위, 보관 기간, 제3자 공유 여부, 자동화된 판단의 사용 범위, 교사 감독 체계가 함께 확인 대상이 된다. 미국 국립표준기술연구소(NIST)의 AI Risk Management Framework도 AI 제품과 서비스의 설계·개발·사용·평가 과정에서 신뢰성 요소와 위험 관리를 반영하도록 하는 자발적 기준을 제시하고 있다.

AI Ethics Index가 향후 공개 데이터베이스를 제공할 경우, 학부모와 학교 관계자는 평가 대상 제품, 근거 자료 공개 수준, 점수 산정 방식, 갱신 주기, 학교 조달 과정에서의 실제 활용 방식을 확인할 필요가 있다.