추상적인 윤리 구호가 아니라, 실제 교실에서 벌어질 수 있는 장면과 대응 원칙을 다룹니다.
핵심 주장
AI 윤리는 사건이 터진 뒤의 처벌 규칙이 아닙니다.
AI 윤리는 수업 시작 전에 정해져야 하는 사용 조건입니다. 학생이 무엇을 입력하면 안 되는지, 어떤 도움은 허용되는지, 결과물을 어떻게 표시해야 하는지 미리 합의해야 합니다. 윤리 수업의 목표는 학생을 겁주는 것이 아니라 책임 있게 사용할 수 있는 기준을 주는 것입니다.
사례 1
친구 정보를 넣은 상담
학생이 친구와의 갈등을 AI에게 묻는 과정에서 이름, 반, 사적인 대화를 입력했다. 문제는 AI 사용이 아니라 타인의 정보를 동의 없이 외부 시스템에 입력한 점이다.
사례 2
AI 완성본 제출
학생이 AI가 쓴 독후감을 거의 수정하지 않고 제출했다. 표절 여부 논쟁보다 먼저, 학습 과정과 자기 판단이 사라졌다는 점을 다뤄야 한다.
사례 3
출처 없는 통계 사용
AI가 제시한 수치를 보고서에 넣었지만 실제 출처가 확인되지 않았다. 수치와 기관명은 반드시 원문 확인이 필요하다.
사례 4
이미지 생성과 초상권
친구 얼굴을 닮은 이미지를 생성해 발표 자료에 넣었다. 장난처럼 보여도 초상권, 명예, 괴롭힘 문제로 이어질 수 있다.
사례 5
진로 결정의 외주화
학생이 AI에게 “나는 어떤 학과에 가야 하느냐”고 묻고 답을 그대로 믿었다. 진로 상담에서 AI는 참고 자료일 뿐 최종 판단자가 될 수 없다.
사례 6
편향된 추천
AI가 특정 성별, 지역, 직업에 대한 고정관념을 담은 답을 냈다. 학생은 답변의 내용뿐 아니라 빠진 관점과 차별 가능성도 읽어야 한다.
대응 원칙
교사는 네 단계로 대응합니다.
멈춤
피해 가능성 확인
개인정보, 명예, 저작권, 차별, 안전 문제가 있는지 먼저 봅니다.
즉시
분리
AI가 한 일과 학생이 한 일 구분
학생의 의도, 입력 내용, AI 결과물, 제출물의 차이를 확인합니다.
기록
수정
복구 가능한 행동 안내
삭제, 재작성, 출처 보완, 피해 학생 보호, 학부모 안내 등 필요한 조치를 선택합니다.
조치
예방
학급 규칙으로 재정리
개별 사건을 낙인찍지 않고 다음 수업의 명확한 기준으로 바꿉니다.
공유
학급 합의문
윤리는 짧고 분명해야 합니다.
우리는 AI를 사용할 때 나와 타인의 개인정보를 입력하지 않는다. AI가 만든 결과물을 내 생각처럼 숨기지 않는다. 중요한 정보는 출처를 확인한다. AI의 답변이 누군가를 차별하거나 해칠 수 있다면 사용하지 않는다.
