AI 챗봇 학교폭력, 장난으로 만든 대화·이미지도 학폭이 될까?
AI 챗봇 학교폭력,
장난으로 만든 대화·이미지도 학폭이 될까?
“친구 이름을 AI 챗봇에 입력해 욕설과 조롱 문구를 만들고 단체방에 올렸습니다.”
“실제로 하지 않은 말을 챗봇 대화 화면처럼 만들어 퍼뜨렸는데 학교폭력 신고를 받았습니다.”
이 글에서 말하는 AI 챗봇 학교폭력은 단순히 학생이 인공지능 서비스를 사용했다는 의미가 아닙니다.
AI 챗봇을 이용해 특정 학생을 조롱하는 글을 만들거나, 허위 대화·소문·음성·이미지를 생성해 다른 학생들에게 전송하면서 피해학생에게 정신적 피해를 준 경우를 말합니다.
직접 욕설을 작성하지 않고 AI가 만든 결과를 사용했다는 이유만으로 책임이 사라지지는 않습니다. 어떤 정보를 입력했는지, 결과물을 왜 만들었는지, 누구에게 보여주거나 전달했는지가 중요합니다.
AI가 문장이나 이미지를 생성했더라도 이를 특정 학생을 공격하는 데 사용한 주체는 이용자라는 점을 확인해야 합니다.
AI 챗봇 사용이 학교폭력으로 이어질 수 있는 경우
① 학생의 실명·사진을 넣어 모욕적인 글이나 이미지를 만든 경우
② 실제로 하지 않은 말을 챗봇 대화처럼 꾸며 유포한 경우
③ 피해학생을 평가·비하하는 답변을 반복 생성해 단체방에 공유한 경우
④ 얼굴·목소리를 합성한 영상이나 음성을 제작한 경우
⑤ AI 챗봇을 이용해 따돌림·협박·성적 수치심을 유발하는 콘텐츠를 만든 경우
1. AI 챗봇을 사용했다는 사실만으로 학교폭력일까요?
AI 챗봇을 이용해 과제를 하거나 친구와 장난스러운 문답을 만들어 본 사실만으로 곧바로 학교폭력이 되는 것은 아닙니다.
학교폭력 여부를 판단하려면 특정 학생을 대상으로 한 행위인지, 모욕·명예훼손·따돌림·협박·성폭력 등에 해당하는 내용인지, 실제로 신체·정신 또는 재산상 피해가 발생했는지를 확인해야 합니다.
AI로 생성한 결과물을 본인만 확인하고 삭제한 경우와, 피해학생의 이름을 붙여 학급 단체방이나 SNS에 올린 경우는 다르게 평가될 수 있습니다.
| 행위 | 주요 판단사항 |
|---|---|
| 학생 이름을 넣어 욕설 생성 | 특정 학생에 대한 모욕 목적과 유포 여부 |
| 허위 대화 화면 제작 | 사실로 오인될 가능성과 명예훼손 여부 |
| AI 답변을 단체방에 게시 | 공개 범위와 피해학생에 대한 공격성 |
| 합성 음성·영상 제작 | 내용·목적·유포와 성적 표현 여부 |
AI 사용 자체보다 특정 학생을 대상으로 어떤 콘텐츠를 만들고 어떻게 사용했는지가 핵심입니다.
2. 가짜 챗봇 대화도 명예훼손·모욕이 될 수 있습니다
실제로 존재하지 않는 대화를 AI 챗봇 화면처럼 꾸며 특정 학생이 욕설이나 부적절한 말을 한 것처럼 유포하는 경우가 있습니다.
내용이 사실이라고 오인될 정도로 구체적이고 피해학생의 평판을 떨어뜨릴 수 있다면 학교폭력상 명예훼손 또는 사이버폭력으로 신고될 수 있습니다.
단순한 의견이나 욕설 형식이라도 피해학생을 특정할 수 있고 여러 학생이 보는 공간에 게시했다면 모욕과 따돌림 문제가 함께 제기될 수 있습니다.
“AI가 만든 문장일 뿐”이라는 설명
챗봇의 답변을 우연히 본 것인지, 피해학생을 비난하는 답변이 나오도록 질문을 반복했는지, 결과물을 편집해 유포했는지에 따라 책임 판단이 달라질 수 있습니다.
3. AI 캐릭터나 챗봇에 피해학생 이름을 붙인 경우
특정 학생의 이름·별명·사진을 AI 캐릭터나 챗봇에 입력한 뒤 성격을 왜곡하거나 모욕적인 답변을 하도록 설정하는 경우도 있습니다.
가상의 캐릭터라고 하더라도 같은 학교 학생들이 누구를 의미하는지 알 수 있고, 피해학생을 비하하거나 따돌리기 위한 목적으로 공유됐다면 학교폭력으로 판단될 가능성이 있습니다.
실제 이름을 사용하지 않았더라도 학년·반·외모·사건 내용과 별명 등을 통해 대상자를 알아볼 수 있다면 피해학생 특정성이 인정될 수 있습니다.
피해학생 특정 여부를 판단할 수 있는 요소
실명·사진·음성을 사용했는지
학년·반·동아리·외모 특징을 표시했는지
평소 사용하던 별명이나 사건을 언급했는지
게시물을 본 학생들이 실제 대상자를 알아보았는지
피해학생에게 직접 링크나 화면을 보냈는지
4. AI 이미지·음성 합성은 더 무겁게 다뤄질 수 있습니다
AI 챗봇과 이미지·음성 생성 서비스를 결합해 피해학생의 얼굴이나 목소리를 합성한 콘텐츠를 만드는 경우도 있습니다.
현재 학교폭력예방법상 사이버폭력에는 인공지능 기술로 학생의 얼굴·신체·음성을 성적 욕망 또는 불쾌감을 유발할 수 있는 형태로 편집·합성·가공한 딥페이크 영상 등을 제작·반포하는 행위가 명시되어 있습니다.
성적인 내용이 아니더라도 범죄를 저지르는 장면, 욕설하는 음성 또는 부적절한 행동을 하는 것처럼 합성해 유포하면 명예훼손·모욕·사이버폭력 문제가 발생할 수 있습니다.
피해학생의 얼굴을 성적 이미지에 합성한 경우
피해학생이 욕설하는 것처럼 음성을 만든 경우
범죄나 부적절한 행동을 하는 영상처럼 제작한 경우
합성 사실을 밝히지 않고 실제 촬영물처럼 유포한 경우
삭제 요청 후에도 재게시·재전송한 경우
직접 촬영하지 않았다는 이유만으로 가볍게 끝나는 것이 아니라 제작·유포 내용에 따라 성폭력과 형사책임까지 함께 검토될 수 있습니다.
5. 단체방에 한 번 올린 학생과 반복한 학생은 같을까요?
학교폭력 조치는 AI를 먼저 사용한 학생에게만 내려지는 것은 아닙니다. 결과물을 재전송하거나 댓글을 달고, 추가 편집을 하거나 다른 단체방으로 옮긴 학생도 가담 경위가 확인될 수 있습니다.
다만 제작자, 최초 유포자, 단순 열람자와 반복 재전송자의 책임은 같다고 단정할 수 없습니다.
| 행위 유형 | 확인할 내용 |
|---|---|
| AI 콘텐츠 최초 제작 | 입력 문구·제작 목적·대상자 설정 |
| 최초 유포 | 게시 공간·공개 인원·설명 문구 |
| 반복 재전송 | 내용을 알면서 확산시켰는지 |
| 단순 열람 | 동조·댓글·재전송·추가 괴롭힘 여부 |
단체방에 있었다는 이유만으로 모두 같은 조치를 받는 것은 아니며 각 학생의 제작·전송·동조 행위를 구분해야 합니다.
6. 피해학생은 어떤 자료를 확보해야 할까요?
AI 콘텐츠는 게시자가 삭제하거나 계정을 변경하면 내용을 확인하기 어려워질 수 있으므로 발견 당시의 자료를 보존하는 것이 중요합니다.
결과 화면만 캡처하지 말고 누가 어느 대화방에 올렸는지, 이후 어떤 댓글과 재전송이 이어졌는지까지 함께 확보해야 합니다.
피해학생 측에서 보존할 자료
AI 챗봇 대화·이미지·음성의 전체 화면
게시자 계정·대화방 이름·참여 인원
최초 게시와 재전송 일시
댓글·조롱·따돌림이 이어진 대화
삭제를 요구한 내용과 상대방의 반응
상담·진료·결석 등 피해를 보여주는 자료
학교폭력예방법은 사이버폭력과 관련해 유포된 합성물·개인정보·허위사실 등의 삭제 지원을 요청할 수 있는 근거도 두고 있습니다.
게시물 삭제와 별개로 최초 제작자·유포자와 확산 경로를 확인할 수 있도록 원본 자료를 먼저 보존해야 합니다.
7. 가해학생으로 신고됐다면 챗봇 기록을 삭제해도 될까요?
신고 사실을 알게 된 뒤 AI 챗봇 대화, 이미지 파일과 단체방 메시지를 삭제하면 사실관계를 확인할 자료가 사라질 수 있습니다.
반대로 전체 기록에는 피해학생을 특정하지 않았거나, 유포에 반대했거나, 결과물을 즉시 삭제하도록 요청한 내용이 남아 있을 수도 있습니다.
따라서 불리해 보이는 부분만 임의로 삭제하지 말고 제작·공유 경위와 각 참여자의 역할을 확인할 수 있도록 원본 상태를 보존해야 합니다.
챗봇 계정·대화·파일을 일괄 삭제하는 행동
단체방 참여자와 진술 내용을 맞추는 행동
피해학생에게 직접 사과나 취하를 압박하는 행동
다른 학생이 만들었다며 책임을 전가하는 행동
합성물·대화 화면을 다시 게시해 해명하는 행동
8. 자주 묻는 질문
Q. AI 챗봇이 만든 욕설도 학교폭력이 되나요?
A. 특정 학생을 대상으로 답변을 생성하고 이를 단체방이나 SNS에 공유해 정신적 피해를 줬다면 모욕·사이버폭력으로 판단될 수 있습니다.
Q. 친구 이름은 쓰지 않고 별명만 사용했습니다.
A. 같은 학교 학생들이 별명과 주변 내용으로 피해학생을 알아볼 수 있었다면 특정성이 인정될 수 있습니다.
Q. AI가 잘못된 답변을 만들어서 공유했을 뿐입니다.
A. 어떤 질문을 입력했고 결과를 왜 선택·공유했는지를 확인합니다. AI가 자동 생성했다는 이유만으로 이용자의 책임이 없어지는 것은 아닙니다.
Q. 단체방에 한 번 올린 뒤 바로 삭제했습니다.
A. 게시 시간이 짧았더라도 다른 학생들이 확인하거나 저장·재전송했다면 피해가 발생할 수 있습니다. 삭제 시점과 확산 범위를 함께 확인해야 합니다.
Q. 합성 이미지라는 사실을 모두 알고 있었습니다.
A. 합성 사실이 알려졌더라도 피해학생을 성적으로 조롱하거나 모욕하기 위한 콘텐츠라면 학교폭력 여부가 별도로 판단될 수 있습니다.
Q. AI 콘텐츠를 제작하지 않고 전달만 했습니다.
A. 내용을 알고 재전송해 피해를 확산시켰다면 가담 행위가 문제 될 수 있습니다. 최초 제작자와 같은 책임인지 여부는 별도로 확인합니다.
AI가 아니라 학생의 제작·유포 행위를 확인해야 합니다
AI 챗봇 학교폭력은 새로운 기술을 사용했다는 사실보다 특정 학생을 대상으로 어떤 정보와 명령을 입력하고, 생성된 결과를 어떻게 공유했는지가 핵심입니다.
AI로 만든 허위 대화·비하 문구·합성 이미지가 실제 학생의 명예를 훼손하거나 따돌림과 성적 수치심을 유발했다면 학교 밖에서 제작됐더라도 학교폭력 사안으로 다뤄질 수 있습니다.
법무법인 오현 학교폭력대응TF팀과 사건을 검토할 때에는 AI 챗봇 입력·출력 기록, 최초 게시물, 단체방 전체 대화, 재전송 경로, 피해학생 특정 자료와 사건 이후 상담·삭제 요청 내역을 함께 준비하면 제작자와 참여자의 행위를 구분할 수 있습니다.
신고 전후로 계정과 대화를 삭제하거나 관련 학생끼리 진술을 맞추지 말고, 콘텐츠가 생성·확산된 순서를 원본 자료에 따라 정리하세요.