Sistema de Notificação de Incidentes
A Fundação deseja melhorar o modo como as pessoas que experienciam assédio ou outras condutas abusivas informam sobre isso, para fazer das nossas comunidades lugares mais sãos e seguros.
À Equipa de ferramentas de confiança e segurança (em inglês: Trust and Safety Tools team) foi atribuída a tarefa de criar um Sistema de Comunicação de Incidentes (SCI) (anteriormente designado Sistema Privado de Comunicação de Incidentes SPI). Ansiamos facilitar aos utilizadores a comunicação de incidentes abusivos de modo seguro e não público.
Antecedentes do projeto
A denúncia e o tratamento de incidentes prejudiciais têm sido temas de interesse para as comunidades Wikimedia há muitos anos. Com a criação do novo Código Universal de Conduta é crucial discutir também os sistemas de denúncia para os utilizadores.
A forma como incidentes, má conduta e violações de políticas são tratados nos espaços e projetos Wikimedia foi desenvolvida organicamente e é diferente em cada comunidade.
Cada projeto Wikimedia ou comunidade tem os seus próprios procedimentos. A denúncia e tratamento de incidentes pode ocorrer de várias maneiras:
- através das páginas de discussão
- Quadro de avisos
- por email
- através de comunicações privadas fora da wiki (como canais de IRC, Discord, etc.)
Para muitas pessoas, não está claro o que se deve fazer se ocorre um incidente: para onde ir, com quem falar, como reportar, que informações incluir na denúncia, como a denúncia é tratada, o que acontece depois, etc.
Os utilizadores precisam saber como reportar um cado e onde fazê-lo. Também há muito pouca informação sobre o que acontecerá logo que uma denúncia é apresentada e que expectativas pode o utilizador ter.
Alguns utilizadores não se sentem seguros ao reportar incidentes quando ocorrem, devido à complexidade do processo e por causa de preocupações com a privacidade.
Atualmente não há uma forma standartizada de os utilizadores apresentarem denúncias de maneira não pública.
Foco do projeto
O objetivo principal deste projeto, portanto, é facilitar a abordagem de incidentes de assédio e prejudiciais, e assegurar que essas comunicações chegam à entidade correta que precisa de as tratar.
Queremos garantir a privacidade e a segurança de quem denuncia. Também queremos garantir que as denúncias tenham as informações corretas e sejam encaminhadas para a entidade apropriada que precisa de tratá-las, sem colocar pressão adicional sobre quem faz o esse tratamento.
A Equipa de Produto de Confiança e Segurança (em inglês: Trust and Safety Tools team) considera este sistema de reporte de incidentes como parte do ecossistema mais amplo de gestão de incidentes da comunidade Wikimedia. Estamos a estudar como funcionam os sistemas individuais e como tudo se pode interligar.
Atualizações
Incident reporting update: November 7, 2024
We’re continuing the work on the Incident Reporting System.
The next step is to develop an MVP (Minimum Viable Product) that we can test in production on a few pilot wikis. Following our Minimum Testing Product (MTP) user testing some months ago, we have made improvements to the design:
- Emergency incidents - Incidents relating to immediate threats of physical harm. These incidents need to be handled by the Wikimedia Foundation emergency team.
- Non-emergency incidents - Incidents that are not immediate threats of harm, for example bullying, sexual harassment and other unacceptable user behavior. These incidents are handled through local community processes.
The Emergency user flow will direct users to file a report that will be sent to the Wikimedia Foundation emergency team.
The Non-emergency user flow will direct users to reach out to their local community for support, as outlined in community policies. This will be done through a “Get support” page that will contain links and information specific to each community. The intention is to have configuration options on this page so that each local community can add the relevant links as necessary.
We have some screenshots to demonstrate how this might work. For the next deployment the main focus is to test the emergency user flow in production.
Designs
Emergency flow:
-
IRS emergency report button -
Design showing how users can describe an emergency incident when reporting -
Design showing how users can add additional information when reporting immediate threat of harm -
Design showing confirmation users see after reporting immediate threat of harm
Non-emergency user flow:
-
IRS non-emergency report button -
Design showing how users can describe an incident when reporting -
Design showing the types of unacceptable behaviour users will see when reporting -
Design showing how users can get support for unacceptable behaviour on the wikis -
Design showing how users can get support for unacceptable behaviour on the wikis
We’d love to hear your thoughts on the current designs! Please comment on the discussion page.
Test the Incident Reporting System in Beta – November 2023
We invite editors to test the initial version for the Incident Reporting System. It makes it possible file a report from the talk page where an incident occurs. This version is for learning about filing reports to a private email address (e.g., emergency
wikimedia.org or an admin group). It doesn't cover all scenarios, like reporting to a public noticeboard. We need your opinions to see if this approach is effective.
To test:
1. Visit any talk namespace page on Wikipedia in Beta that contains discussions. We have sample talk pages available at User talk:Testing and Talk:African Wild Dog you can use and log in.
2. Next, click on the overflow button (vertical ellipsis) near the Reply link of any comment to open the overflow menu and click Report (see slide 1). You can also use the Report link in the Tools menu (see slide 2).
-
Slide 1 -
Slide 2
3. Proceed to file a report, fill the form and submit. An email will be sent to the Trust and Safety Product team, who will be the only ones to see your report. Please note this is a test and so do not use it to report real incidents.
4. As you test, ponder these questions:
- What do you think about this reporting process? Especially what you like/don’t like about it?
- If you are familiar with extensions, how would you feel about having this on your wiki as an extension?
- Which issues have we missed at this initial reporting stage?
5. Following your test, please leave your feedback on the talk page.
If you can't find the overflow menu or Report links, or the form fails to submit, please ensure that:
- You have logged in
- Your Beta account email address is confirmed
- Your account has been created for over 3 hours and you have at least 1 edit.
- You have enabled DiscussionTools because the MTP is integrated with DiscussionTools
If DiscussionTools doesn’t load, a report can be filed from the Tools menu. If you can't file a second report, please note that there is a limit of 1 report per day for non-confirmed users and 5 reports per day for autoconfirmed users. These requirements before testing help to reduce the possibility of malicious users abusing the system. Por favor veja a secção de pesquisa da página para mais informações.
Processo
Como é complexo, este projeto necessita de ser dividido em múltiplos passos e fases. Para cada uma destas fases, realizaremos um ou vários ciclos de discussões para garantir que estamos no bom caminho e que incorporamos a reação da comunidade desde o início, antes de iniciarmos grandes parcelas do trabalho.
Fase 1
Pesquisa preliminar: recolha de feedback (reação), leitura da documentação existente.
Realizar entrevistas para melhor compreender a dimensão do problema e identificar questões críticas a que precisamos de responder.
Definir e discutir a possível direção do produto e o âmbito do projeto. Identificar possíveis wikis piloto.
No final desta fase, devemos ter uma compreensão sólida do que estamos a tentar fazer.
Fase 2
Criar protótipos para ilustrar as ideias que surgiram na Fase 1.
Criar uma lista de opções possíveis para consulta e análise mais aprofundada.
Fase 3
Identificar e dar prioridade às melhores ideias possíveis.
Transição para desenvolvimento de software e trabalho inicial em ações (tickets) de Phabricator.
Continuar o ciclo para as próximas iterações
Pesquisa
Julho de 2024: Resumo dos testes do utilizador do Sistema de Reporte de Incidentes
Em março de 2024, a Equipa do Produto de Confiança e Segurança realizou testes de utilizador do Produto Mínimo Viável (MVP) do Sistema de Comunicação de Incidentes para saber se os utilizadores sabem onde e a quem comunicar um incidente de emergência e se o fluxo do utilizador faz sentido e é intuitivo.
Aprendemos o seguinte:
- Durante o teste do utilizador, todos os participantes encontraram o ponto de entrada para relatar um incidente e o fluxo atual do utilizador é bem compreendido.
- Houve alguma confusão sobre duas das opções de denúncia: “alguém pode autoprejudicar-se” e “mensagem de ameaça de dano público”.
- Dois participantes também referiram suposições sobre o sistema ser automatizado. Um participante estava preocupado com a automatização e queria uma resposta humana, enquanto o outro participante se sentiu seguro pela ideia de que seria verificado se o agressor tinha algum histórico anterior de ameaças e ofensas e seria apagado o comentário ofensivo em conformidade. Todos os participantes esperavam uma resposta atempada (uma média de 2-3 dias) após submeterem uma denúncia.
Setembro de 2023: Partilha de resultados de inquéritos sobre reporte de incidentes
O projeto do Sistema de Comunicação de Incidentes concluiu investigação sobre assédio em wikis piloto selecionadas.
A pesquisa, que começou no início de 2023, estudou as Wikipédias indonésia e coreana para compreender o assédio, como o assédio é denunciado e como quem responde às denúncias realiza o seu trabalho.
Os resultados dos estudos foram publicados.
Em resumo, recebemos esclarecimentos valiosos sobre as melhorias necessárias para o reporte de incidentes tanto em wiki como fora de wiki. Também aprendemos mais sobre as necessidades das comunidades, o que pode ser utilizado como um contributo valioso para a ferramenta de Reporte de Incidentes.
Gostaríamos de partilhar covosco estas conclusões; o relatório contém informação mais ampla.
Por favor, deixe comentários e perguntas na página de discussão.
O documento seguinte é uma revisão completa da pesquisa de 2015-2022 que a Wikimedia Foundation fez sobre assédio online em projetos Wikimedia. Nesta revisão, identificámos os principais temas, ideias chave e áreas de preocupação e fornecemos links diretos para a literatura.
A Equipe de Ferramentas de Confiança e Segurança tem estudado pesquisas anteriores e consultas à comunidade para basear o nosso trabalho. Revimos a Iniciativa comunitária de saúde Proposta de sistema de relatórios do usuário e a Consulta de sistema de reporte do utilizador de 2019. Também temos tentado delinear alguns dos fluxos de resolução de conflitos nas várias wikis para entender como as comunidades estão atualmente a gerir os conflitos. Abaixo está um esquema do fluxo de resolução de conflitos da Wiki italiana. Inclui notas sobre possibilidades de automatização.
Perguntas Mais Frequentes
Redesignámos o Sistema de Reporte Privado de Incidentes como Sistema de Reporte de Incidentos. A palavra "privado" foi removida. No contexto do assédio e da UCoC, a palavra "privado" refere-se ao respeito da privacidade dos membros da comunidade e à garantia da sua segurança. Não significa que todas as fases de reporte sejam confidenciais. Recebemos reações (feedback) de que o termo é, portanto, confuso e pode ser difícil de traduzir para outras línguas e, por isso, a mudança.
'P: Há dados disponíveis sobre quantos incidentes são reportados por ano?
R: Neste momento, não há muitos dados claros que possamos usar. Há algumas razões para isso. Primeiro, os problemas são relatados de várias maneiras e estas variam de comunidade para comunidade. Captar esses dados de forma completa e limpa é altamente complexo e seria muito demorado. Em segundo lugar, a interpretação das questões também varia. Algumas coisas que são interpretadas como assédio são apenas questões de wiki (por exemplo, apagar um artigo promocional). A classificação como assédio também pode precisar de contexto cultural ou comunitário. Não podemos automatizar e visualizar dados ou contá-los objetivamente. O sistema de reporte de incidentes é uma oportunidade para resolver algumas destas necessidades relativas aos dados.
'P: Como está o assédio a ser definido?
R: Ver, por favor, as definições no Código de Conduta Universal.
'P: Quantos funcionários e voluntários serão necessários para apoiar o SRI?
R: A magnitude do problema não é atualmente conhecida. Portanto, a quantidade de pessoas necessárias para o apoiar não é conhecida. A experiência do produto mínimamente viável fornecerá alguma visão sobre o número de pessoas necessárias para suportar o SRI.
'P: Qual é o objetivo do PMV (produto minimamente viável, MVP - minimal viable product, em inglês?
R: O PMV é uma experiência e oportunidade de aprender. Este primeiro trabalho experimental responderá às questões colocadas neste momento. De seguida, os resultados orientarão os planos futuros.
P: Que questões estamos a tentar responder com o produto minimamente viável?
R: Aqui estão as questões a que precisamos responder:
- Que tipo de reportes vão as pessoas apresentar?
- Quantas pessoas vão apresentar denúncias?
- Quantas pessoas precisaremos para tratá-las?
- Qual a dimensão deste problema?
- Podemos ter uma imagem mais clara da magnitude dos problemas de assédio? Podemos obter alguns dados sobre o número de denúncias? O assédio está sub ou sobre denunciado?
- As pessoas não estão atualmente a denunciar assédio porque este não existe ou porque não sabem como o fazer?
- Será isto muito difícil de lidar com a nossa configuração atual, ou não?
- Quantas são as queixas válidas em comparação com o caso de pessoas que não entendem o processo wiki? Podemos distinguir/filtrar queixas válidas dos reportes inválidos para poupar o tempo de voluntários ou de pessoal contratado?
- Receberemos muitos relatos de pessoas que estão aborrecidas porque as suas edições foram revertidas ou porque uma página criada por si foi apagada? O que vamos fazer com eles?
"P: Como se compara o movimento Wikimedia com a forma como outras grandes plataformas, como o Facebook/Reddit, lidam com o assédio?"
r: Embora não tenhamos grupos de afinidade online idênticos, o movimento Wikimedia é frequentemente equiparado ao Facebook e Reddit no que diz respeito à forma como lidamos com o assédio. O que é importante ter em conta é que ninguém resolveu o problema do assédio. Outras plataformas lutam com a moderação de conteúdo e, muitas vezes, têm funcionários pagos que tentam lidar com isso. Duas grandes diferenças entre nós e o Reddit e o Facebook são a natureza colaborativa global dos nossos projetos e como as comunidades trabalham para resolver o assédio ao nível comunitário.
'P: Está a WMF a tentar mudar os processos das comunidades existentes?
R: O nosso plano para o SRI não é mudar nenhum processo comunitário. O objetivo é ligarar-se aos processos existentes. Os objetivos finais são:
- Tornar mais fácil para as pessoas que sofrem assédio obterem ajuda.
- Eliminar situações em que as pessoas não reportam por não saberem como denunciar assédio.
- Assegurar que as denúncias de assédio chegam às entidades certas que os tratam em conformidade com os processos da comunidade local.
- Assegurar que quem vai responder recebe denúncias corretas e redirecionam as queixas e questões infundadas para serem tratadas noutros locais.