보스턴대·Just Horizons, K-12 학교 AI 윤리 평가 지표 개발

보스턴대학교 Wheelock College of Education & Human Development와 보스턴 기반 비영리 연구기관 Just Horizons Alliance가 K-12 학교에서 사용하는 인공지능(AI) 도구의 윤리성, 안전성, 교육적 영향을 평가하기 위한 ‘AI Ethics Index for K-12 Education’ 개발에 나섰다.

Axios는 양측이 5월 29일 보스턴 테크 위크 행사에서 3년 협약을 체결했다고 6월 1일 보도했다. 보스턴대 공식 안내에 따르면 이 지표는 교사, 학교 행정가, 정책 담당자, 기금 제공자, 기업 등이 학교용 AI 시스템을 평가할 때 참고하도록 설계됐다.

평가 범위에는 학습 성과, 학생 발달, 형평성, 투명성, 실제 교실 적용 가능성 등이 포함된다. AI Ethics Index 공식 사이트는 평가 항목으로 모델 설계와 개발, 공정성, 개인정보와 데이터 관리, 투명성, 지식과 출처 표시, 인간-AI 상호작용, 안전과 보안, 사회적 영향, 거버넌스와 책임성을 제시하고 있다.

Axios 보도에 따르면 컴퓨터 과학자, 데이터 엔지니어, 사회과학자 등으로 구성된 팀이 아동·청소년과 K-12 학교를 대상으로 판매되는 AI 제품을 분석하고, 정신건강 영향과 교육 개인정보 보호법 준수 여부 등을 측정하는 체계를 만들 계획이다. 평가 대상 제품과 점수를 모은 데이터베이스 구축도 계획에 포함돼 있다.

이 지표는 현재 학생 참가 프로그램이나 학부모 신청 제도가 아니다. 학생이 제출해야 할 서류, 참가비, 신청 마감일 등은 공지되지 않았다. 다만 학교가 AI 학습 도구, 과제 보조 도구, 상담·평가 관련 기술을 도입할 때 검토 기준으로 활용될 수 있다는 점에서 K-12 학부모와 관련이 있다.

보스턴 지역에서는 학교 AI 교육 도입 논의도 진행되고 있다. WBUR은 3월 26일 보스턴 공립학교가 UMass Boston의 AI Institute와 협력해 공립고 학생의 AI 활용 능력 프로그램을 준비하고 있으며, 교사들이 여름 중 커리큘럼 개발에 참여할 예정이라고 보도했다. 해당 보도는 이 프로그램이 졸업 필수 요건으로 확정된 것은 아니라고 설명했다.

연방 교육부는 2025년 7월 22일 학교 AI 사용 관련 안내에서 개인정보 보호, 학생의 적절한 AI 사용 교육, 학부모 등 이해관계자 참여를 책임 있는 도입 원칙으로 제시했다. 이 안내는 연방 교육 프로그램 안에서 AI를 활용할 수 있으나 관련 법과 규정을 지켜야 한다는 조건을 함께 명시했다.

AI Ethics Index가 실제 학교 구매나 계약 기준으로 사용되려면 평가 방법, 데이터 수집 범위, 독립성, 결과 공개 방식이 추가로 확인돼야 한다. 학부모가 확인할 항목은 자녀 학교가 어떤 AI 도구를 사용하는지, 학생 정보가 외부 업체에 제공되는지, 도구 사용이 선택인지 필수인지, 과제 평가·상담·행동 분석에 AI가 관여하는지, 최종 판단을 사람이 맡는지 등이다. 관련 내용은 학교의 기술 사용 정책, 개인정보 안내문, 학부모 통지 문서에서 확인할 수 있다.