사설신고시스템
위키미디어 재단은 커뮤니티에 더 안전하고 건강한 환경을 제공하기 위해 괴롭힘 및 기타 형태의 학대를 경험한 사람들이 그러한 유해한 사건을 보고하는 방법을 개선하고자 합니다.
새로 구성된 신뢰 및 안전 도구 팀은 사설신고시스템(PIRS, Private Incident Reporting System) 구축을 담당했습니다. 우리는 사용자가 유해한 사건을 안전하고 비공개적으로 쉽게 신고할 수 있도록 하는 것을 목표로 합니다.
프로젝트 배경
유해 사건의 보고 및 처리는 수년 동안 위키미디어 커뮤니티의 관심 주제였습니다. 새로운 보편적 행동 강령이 수립됨에 따라 사용자 보고 시스템에 대한 논의도 중요합니다.
사건, 위법 행위 및 정책 위반이 위키미디어 공간과 프로젝트에서 처리되는 방식은 유기적으로 발전해 왔으며 커뮤니티마다 다릅니다.
각 위키미디어 프로젝트 또는 커뮤니티에는 사물을 관리하는 방법이 있습니다. 사고 보고 및 처리는 다음과 같은 다양한 방식으로 이루어집니다:
- 위키 토론 페이지를 통해
- 게시판을 통해
- 이메일을 통해
- 위키 외부 통신 채널(디스코드, IRC)에서 비공개 토론을 통해
많은 사용자는 사건이 발생하면 어디로 가야 하는지, 누구와 이야기해야 하는지, 보고하는 방법, 보고서에 포함할 정보, 보고서가 처리되는 방법, 이후에 발생하는 일 등 무엇을 해야 하는지 명확하지 않습니다.
사용자는 문제를 보고하는 방법과 보고할 위치를 알아야 합니다. 신고가 접수되면 어떤 일이 발생하고 사용자가 어떤 기대를 가져야 하는지에 대한 정보도 거의 없습니다.
일부 사용자는 보고 프로세스의 복잡성과 개인 정보 보호 문제로 인해 사건이 발생했을 때 보고하는 것이 안전하다고 느끼지 않습니다.
현재 사용자가 비공개로 보고서를 제출할 수 있는 표준화된 방법은 없습니다.
프로젝트의 초점
따라서 이 프로젝트의 높은 수준의 목표는 괴롭힘 및 유해한 사건을 보다 쉽게 해결할 수 있도록 하는 것입니다.
신고자의 개인정보 보호와 안전을 보장하고자 합니다. 또한 보고서에 올바른 정보가 있고 처리해야 하는 적절한 기관에 도달하는 동시에 처리하는 사람에게 추가 압력을 가하지 않기를 바랍니다.
신뢰와 안전 제품 팀은 이 사고 보고 시스템을 더 큰 위키미디어 커뮤니티 사고 관리 생태계의 일부로 보고 있습니다. 우리는 개별 시스템이 어떻게 작동하고 모든 것이 어떻게 연결될 수 있는지 연구하고 있습니다.
업데이트
이제 포르투갈어 위키백과에서 사고 알림 시스템을 사용할 수 있습니다: 2024년 12월 11일
신뢰와 안전 제품팀은 오늘 2024년 12월 11일 수요일 포르투갈어 위키백과에 사고 보고 시스템 최소 실행 가능 제품을 구현했습니다. 위키 사용자는 긴급 사건을 위키미디어 재단 신뢰 및 안전 팀에 직접 신속하게 보고하거나 커뮤니티 관리 보고서를 적절한 커뮤니티 페이지에 제출하도록 지시받을 수 있습니다. 이 모든 것이 단일 중앙 플랫폼에서 이루어집니다.
사건을 신고하려면 사용자는 줄임표 메뉴나 각 댓글 옆에 있는 더보기 메뉴(...)를 클릭한 후 신고를 클릭하여 토론 도구 메뉴의 신고 기능에 액세스할 수 있습니다. 스크린샷을 참조하세요.
의견이 있으시면 프로젝트 토론 페이지를 통해 공유해주세요.
사고 보고 시스템 예정 시범 실시: 2024년 12월 5일
신뢰와 안전 제품 팀은 베타에서 사용할 수 있는 사고 보고 시스템 MVP의 개발을 완료했습니다. 페이지를 방문하고, 댓글을 선택하고, 메뉴를 클릭하여 보고 링크에 액세스하세요.
피드백에 따라 디자인을 일부 업데이트했습니다. 최신 디자인은 여기에서 확인할 수 있습니다:
긴급 워크플로
비상이 아닌 워크플로
우리는 이제 프로덕션에서 이것을 시범적으로 진행 중입니다. 우리는 12월 9일에 wikitech:Test.wikipedia.org테스트위키에서 사고 보고 시스템을 활성화하여 또 다른 테스트와 버그 수정을 할 것입니다. 모든 것이 잘된다면 우리는 12월 10일 주에 포르투갈어 위키백과에서 시스템을 활성화할 것입니다.
테스트위키와 포르투갈어 위키백과에 라이브로 공개되면 또 다른 업데이트를 공유하겠습니다. 그동안 피드백을 주시기 바랍니다.
사고 보고 업데이트: 2024년 11월 7일
우리는 사고 보고 시스템 작업을 계속하고 있습니다.
다음 단계는 몇 개의 파일럿 위키에서 프로덕션에서 테스트할 수 있는 MVP(최소 실행 가능 제품)를 개발하는 것입니다. 몇 달 전 최소 테스트 제품(MTP) 사용자 테스트를 거친 후, 디자인을 개선했습니다:
- 비상 사건 - 신체적 피해에 대한 즉각적인 위협과 관련된 사건. 이러한 사건은 위키미디어 재단 비상 팀에서 처리해야 합니다..
- 비상이 아닌 사건 - 괴롭힘, 성희롱 및 기타 용납할 수 없는 사용자 행동과 같이 즉각적인 피해 위협이 아닌 사건. 이러한 사건은 지역 커뮤니티 프로세스를 통해 처리됩니다.
비상 사용자 흐름은 사용자에게 위키미디어 재단 비상 대응팀에 보낼 보고서를 제출하도록 안내합니다.
비응급 사용자 흐름은 커뮤니티 정책에 명시된 대로 사용자가 지역 커뮤니티에 지원을 요청하도록 지시합니다. 이는 각 커뮤니티에 대한 링크와 정보가 포함된 "지원 받기" 페이지를 통해 수행됩니다. 이 페이지에 구성 옵션을 두어 각 지역 커뮤니티가 필요에 따라 관련 링크를 추가할 수 있도록 하는 것이 목적입니다.
이것이 어떻게 작동하는지 보여주는 스크린샷이 몇 개 있습니다. 다음 배포의 주요 초점은 프로덕션에서 비상 사용자 흐름을 테스트하는 것입니다.
디자인
비상 상황 흐름:
-
IRS 비상 보고 버튼 -
사용자가 보고할 때 비상 사건을 설명하는 방법을 보여주는 디자인 -
사용자가 즉각적인 해악 위협을 보고할 때 추가 정보를 추가하는 방법을 보여주는 디자인 -
사용자가 즉각적인 해악 위협을 보고한 후 확인하는 것을 보여주는 디자인
비상이 아닌 사용자 흐름:
-
비상이 아닌 보고 버튼 -
사용자가 보고할 때 인시던트를 설명하는 방법을 보여주는 디자인 -
사용자가 보고할 때 볼 수 있는 용납할 수 없는 행동 유형을 보여주는 디자인 -
사용자가 위키에서 용납할 수 없는 행동에 대한 지원을 받는 방법을 보여주는 디자인 -
사용자가 위키에서 용납할 수 없는 행동에 대한 지원을 받는 방법을 보여주는 디자인
현재 디자인에 대한 여러분의 생각을 들려주세요! 토론 페이지에 댓글을 남겨주세요.
베타 버전의 사고 보고 시스템 테스트 – 2023년 11월
편집자 여러분께 사고 보고 시스템의 초기 버전을 테스트해 보시길 요청드립니다. 사고가 발생한 경우 토론 페이지에서 보고서를 제출할 수 있습니다. 이 버전은 개인 이메일 주소(예: emergency
wikimedia.org 또는 관리자 그룹)에 보고서를 제출하는 방법을 배우기 위한 것입니다. 공개 게시판에 보고하는 것과 같은 모든 시나리오를 다루지는 않습니다. 이 접근 방식이 효과적인지 알아보려면 여러분의 의견이 필요합니다.
시험하기 위해:
1. 토론이 포함된 베타 버전의 위키백과에서 모든 토론 이름공간 페이지를 방문하세요. User talk:Testing 및 Talk:African Wild Dog에서 샘플 토론 페이지를 사용할 수 있으며 로그인할 수 있습니다.
2. 다음으로, 모든 댓글의 답글 링크 근처에 있는 오버플로 버튼(세로 줄임표)을 클릭하여 오버플로 메뉴를 열고 신고를 클릭합니다(슬라이드 1 참조). 도구 메뉴에서 신고 링크를 사용할 수도 있습니다(슬라이드 2 참조).
-
슬라이드 1 -
슬라이드 2
3. 보고서를 제출하고, 양식을 작성하여 제출합니다. 이메일은 신뢰 및 안전 제품 팀으로 전송되며, 이 팀만이 귀하의 보고서를 볼 수 있습니다. 이것은 테스트이므로 실제 사건을 보고하는 데 사용하지 마십시오.
4. 테스트할 때 다음 질문을 숙고하세요.
- 이 보고 과정에 대해 어떻게 생각하십니까? 특히 이것에 대해 좋은 점과 싫은 점이 있습니까?
- 확장 프로그램을 알고 있다면, 이 확장 프로그램을 위키에 추가로 넣으면 어떻게 될까 생각한가요?
- 초기 보고 단계에서 어떤 문제를 놓쳤나요?
5. 테스트를 마치신 후, 토론 페이지에 피드백을 남겨주세요.
더보기 메뉴나 신고 링크를 찾을 수 없다면, 또는 양식이 제출되지 않을 경우, 다음을 확인하세요:
- 로그인을 했는지
- 베타 위키의 이메일 주소를 인증 완료했는지
- 귀하의 계정이 생성된지 3시간 이상 경과되었으며, 적어도 1개의 편집을 했는지.
- MTP가 토론 도구와 통합되어 있기 때문에 DiscussionTools를 활성화 유무
DiscussionTools이 로딩 되지 않는다면, 도구 메뉴에서 신고를 제출할 수 있습니다. 두번째 신고를 제출할 수 없다면 확인되지 않은 사용자에게는 하루에 최대 한번의 신고, 자동 인증된 사용자들은 하루에 최대 5번의 신고만 작성할 수 있다는 점에. 이러한 테스트 이러한 요구 사항은 악성 사용자가 시스템을 남용할 가능성을 줄이는 데 도움이 됩니다. 자세한 내용은 페이지의 연구 섹션을 참조하세요.
절차
이것은 복잡한 프로젝트이므로 여러 반복 및 프로젝트 단계로 분할해야 합니다. 이러한 각 단계에서 우리는 올바른 방향으로 가고 있는지 확인하고 대규모 작업에 뛰어들기 전에 커뮤니티 피드백을 조기에 통합하기 위해 하나 또는 여러 주기의 토론을 개최할 것입니다.
1단계
예비 조사: 피드백을 수집하고 기존 문서를 검토합니다.
문제 공간을 더 잘 이해하고 대답해야 하는 중요한 질문을 식별하기 위해 인터뷰를 수행합니다.
가능한 제품 방향과 프로젝트 범위를 정의하고 논의합니다. 가능한 파일럿 위키를 식별합니다.
이 단계의 끝에서 우리는 우리가 하려는 일에 대해 확실하게 이해해야 합니다.
2단계
1단계에서 떠오른 아이디어를 설명하는 프로토타입을 만듭니다.
보다 심층적인 상담 및 검토를 위해 가능한 옵션 목록을 작성하십시오.
3단계
가능한 최상의 아이디어를 식별하고 우선 순위를 지정합니다.
소프트웨어 개발로 전환하고 파브리케이터 티켓에서 작업을 세분화합니다.
다음 반복을 위해 계속 주기
연구
2024년 7월: 사고 보고 시스템 사용자 테스트 요약
2024년 3월, 신뢰 & 안전 제품 팀은 사용자가 긴급 사고를 신고하기 위해 어디로 가야 하는지 알고 있는지, 사용자 흐름이 합리적이고 직관적인지 알아보기 위해 사고 보고 시스템의 최소 실행 가능 제품(MVP)에 대한 사용자 테스트를 수행했습니다.
우리는 다음을 배웠습니다:
- 사용자 테스트 중에 모든 참가자는 사건을 보고할 수 있는 진입점을 찾았으며 현재 사용자 흐름이 잘 이해되었습니다.
- 신고 옵션 중 "누군가가 자해를 일으킬 수 있음"과 "공중 피해를 위협하는 메시지"라는 두 가지 신고 옵션에 대해 약간의 혼란이 있었습니다.
- 두 명의 참가자도 시스템이 자동화되는 것에 대해 가정했습니다. 한 참가자는 자동화에 대해 우려하고 인간의 대응을 원했지만, 다른 참가자는 가해자의 과거 위협 및 범죄 이력이 있는지 확인하고 그에 따라 공격적인 댓글을 삭제할 것이라는 생각에 확신을 느꼈습니다. 모든 참가자는 보고서 제출 후 시기적절한 응답(평균 2~3일)을 기대했습니다.
2023년 9월: 사고 보고 연구 결과 공유
사건 보고 시스템 프로젝트는 선택된 파일럿 위키에 대한 괴롭힘에 대한 조사를 완료했습니다.
2023년 초에 시작된 연구는 괴롭힘, 괴롭힘이 신고되는 방식, 신고에 대한 대응자가 업무를 수행하는 방식을 이해하기 위해 인도네시아어와 한국어 위키백과를 연구했습니다.
연구 결과가 발표되었습니다.
요약하자면, 우리는 온위키와 오프위키 사건 보고 모두에 필요한 개선 사항에 대한 귀중한 통찰력을 얻었습니다. 우리는 또한 사건 보고 도구에 대한 귀중한 입력으로 사용될 수 있는 커뮤니티의 요구 사항에 대해 더 많이 배웠습니다.
우리는 이러한 결과를 귀하와 공유하고 싶습니다. 보고서에는 보다 포괄적인 정보가 포함되어 있습니다.
피드백이나 질문은 토론페이지에 남겨주세요.
다음 문서는 2015년부터 2022년까지 위키미디어 재단이 위키미디어 프로젝트에 대한 온라인 괴롭힘에 대해 수행한 연구의 완전한 검토입니다. 이 검토에서 우리는 주요 주제, 통찰력 및 관심 영역을 식별하고 문헌에 대한 직접 링크를 제공했습니다.
신뢰 및 안전 도구 팀은 우리 작업에 정보를 제공하기 위해 이전 연구 및 커뮤니티 협의를 연구해 왔습니다. 우리는 커뮤니티 건강 이니셔티브 사용자 보고 시스템 제안과 2019년 사용자 보고 시스템 협의를 재검토했습니다. 또한 커뮤니티가 현재 충돌을 관리하는 방식을 이해하기 위해 위키 전반에 걸쳐 일부 충돌 해결 흐름을 계획하려고 노력해 왔습니다. 아래는 이탈리아어 위키 충돌 해결 흐름의 지도입니다. 자동화 기회에 대한 메모가 있습니다.
자주 묻는 질문
저희는 비공개 사고 보고 시스템을 사고 보고 시스템으로 이름을 변경했습니다. "비공개"라는 단어는 삭제되었습니다. 괴롭힘과 UCoC의 맥락에서 "비공개"라는 단어는 커뮤니티 구성원의 프라이버시를 존중하고 안전을 보장하는 것을 의미합니다. 이는 보고의 모든 단계가 기밀로 유지된다는 것을 의미하지 않습니다. 따라서 이 용어는 혼란스럽고 다른 언어로 번역하기 어려울 수 있다는 피드백을 받았기 때문에 변경했습니다.
연간 보고되는 사건 수에 대한 데이터가 있습니까?
현재 우리가 사용할 수 있는 명확한 데이터가 많지 않습니다. 여기에는 몇 가지 이유가 있습니다. 첫째, 문제는 다양한 방식으로 보고되며 커뮤니티마다 다릅니다. 해당 데이터를 완전하고 깔끔하게 캡처하는 것은 매우 복잡하고 시간이 많이 소요됩니다. 둘째, 이슈에 대한 해석도 다르다. 괴롭힘으로 해석되는 일부 행위는 위키 업무에 불과합니다(예: 홍보 기사 삭제). 괴롭힘에 대한 검토에는 문화적 또는 커뮤니티 맥락이 필요할 수도 있습니다. 우리는 데이터를 자동화하고 시각화하거나 객관적으로 계산할 수 없습니다. 사고 보고 시스템은 이러한 데이터 요구 사항 중 일부를 해결할 수 있는 기회입니다.
괴롭힘은 어떻게 정의되고 있습니까?
보편적 행동 강령의 정의를 참조하십시오.
Q: IRS를 지원하려면 얼마나 많은 직원과 자원봉사자가 필요합니까?
A: 현재 문제의 규모는 알려지지 않았습니다. 따라서 이를 지원하는 데 필요한 사람의 수는 알려져 있지 않습니다. 최소 실행 가능한 제품을 실험하면 IRS를 지원하는 데 필요한 사람 수에 대한 통찰력을 얻을 수 있습니다.
MVP(최소 실행 가능한 제품)의 목적은 무엇입니까?
MVP는 실험이자 배움의 기회입니다. 이 첫 번째 실험 작업은 우리가 지금 가지고 있는 질문에 답할 것입니다. 결과는 향후 계획을 안내합니다.
최소 기능 제품으로 어떤 질문에 답하려고 합니까?
대답해야 할 질문은 다음과 같습니다:
- 사람들은 어떤 종류의 보고서를 제출합니까?
- 얼마나 많은 사람들이 보고서를 제출할 것인가?
- 처리하려면 몇 명이 필요합니까?
- 이 문제가 얼마나 큰가요?
- 괴롭힘 문제의 심각성을 더 명확하게 파악할 수 있습니까? 보고서 수에 대한 데이터를 얻을 수 있습니까? 괴롭힘이 과소 보고되거나 과도하게 보고됩니까?
- 현재 사람들이 괴롭힘을 신고하지 않는 이유는 발생하지 않았거나 방법을 모르기 때문입니까?
- 현재 설정으로 처리해야 할 작업이 많을까요?
- 위키 프로세스를 이해하지 못하는 사람들과 비교할 때 유효한 불만 사항은 몇 개입니까? 유효한 불만 사항을 구별/필터링하고 유효하지 않은 보고서를 필터링하여 자원봉사자나 직원의 시간을 절약할 수 있습니까?
- 편집 내용이 되돌려지거나 페이지가 삭제된 것에 대해 화가 난 사람들이 제출한 신고를 많이 받게 되나요? 우리는 그들과 무엇을 할 것인가?
위키미디어 운동은 페이스북/레딧과 같은 다른 대형 플랫폼이 괴롭힘을 처리하는 방식과 어떻게 비교됩니까?
동일한 온라인 동호 그룹은 없지만 위키미디어 운동은 괴롭힘을 처리하는 방법과 관련하여 페이스북 및 레딧과 가장 자주 연결됩니다. 고려해야 할 중요한 점은 아무도 괴롭힘을 해결하지 못했다는 것입니다. 다른 플랫폼은 콘텐츠 조정에 어려움을 겪고 있으며 종종 이를 처리하려는 유급 직원이 있습니다. 우리와 레딧 및 페이스북의 두 가지 큰 차이점은 우리 프로젝트의 전 세계적 협업 특성과 커뮤니티가 커뮤니티 수준에서 괴롭힘을 해결하기 위해 노력하는 방식입니다.
WMF는 기존 커뮤니티 프로세스를 변경하려고 합니까?
A: IRS에 대한 우리의 계획은 커뮤니티 프로세스를 변경하지 않는 것입니다. 목표는 기존 프로세스에 연결하는 것입니다. 궁극적인 목표는 다음과 같습니다:
- 괴롭힘을 당한 사람들이 더 쉽게 도움을 받을 수 있도록 하십시오.
- 사람들이 괴롭힘을 보고하는 방법을 몰라서 보고하지 않는 상황을 제거합니다.
- 괴롭힘 신고가 지역 커뮤니티 프로세스에 따라 처리하는 올바른 기관에 전달되도록 합니다.
- 응답자가 좋은 보고서를 받고 근거 없는 불만 사항 및 문제를 다른 곳에서 처리하도록 넘겨주기합니다.