Template:Model card ORES damaging edit/sv

Model card
This page is an on-wiki machine learning model card.
A diagram of a neural network
A model card is a document about a machine learning model that seeks to answer basic questions about the model.
Model Information Hub
Model creator(s)Aaron Halfaker (User:EpochFail) and Amir Sarabadani
Model owner(s)WMF Machine Learning Team (ml@wikimediafoundation.org)
Model interfaceOres homepage
CodeORES Github, ORES training data, and ORES model binaries
Uses PIINo
In production?Yes
Which projects?{{{language}}} {{{project}}}
Denna modell använder data om en revision för att förutsäga förmågan att revisionen är skadlig.


Motivation

edit

En del ändringar av god tro skadar en artikel, och inte alla ändringar av ond tro är. Denna modell (tillsammans med en modell av god tro) är avsedd att skilja mellan ändringar som är avsiktligt skadliga (dåligt/vandalism) och ändringar som har för avsikt att vara skadliga (bra ändringar/god tro).

Denna modell hjälper till att prioritera översyn av potentiellt skadliga redigeringar eller vandalism. Den ger en förutsägelse om huruvida en viss översyn är skadlig eller inte, och ger vissa sannolikheter att fungera som ett mått på dess förtroendenivå.

Användare och användningsområden

edit
Use this model for
  • Denna modell bör användas för att prioritera översyn och potentiell återvändo av vandalism på svensk Wikipedia.
  • Denna modell bör användas för att upptäcka skadliga bidrag från redaktörer på svensk Wikipedia.
Don't use this model for
  • Denna modell bör inte användas som en slutlig skilje om huruvida en redigering bör anses skada.
  • Modellen ska inte användas utanför svensk Wikipedia.
Current uses
  • Svenska Wikipedia använder modellen som en tjänst för att underlätta effektiv vandalism triage, redigera recensioner eller nykommande support.
  • På individuell basis kan alla skicka in ett korrekt formaterat API-anrop till ORES för en viss revision och få tillbaka resultatet av denna modell.
Example API call:
{{{model_input}}}

Etiska överväganden, försiktighetsåtgärder och rekommendationer

edit

Svenska Wikipedia bestämde sig för att använda denna modell.

Denna modell är känd för att ge nyare redaktörer högre sannolikhet för skadliga redigeringar.

De interna eller externa ändringar som kan göra denna modell föråldrad eller inte längre användbar är:

  • Data drift innebär att utbildningsinformation för modellen inte längre är användbar.
  • Inte uppfyller önskade prestationsmätningar i produktion.
  • Svenska Wikipedia-gemenskapen beslutar att inte längre använda denna modell.

Modell

edit

Utveckling

edit

Test data confusion matrix: {{{confusion_matrix}}}

Test data sample rates: {{{sample_rates}}}

Test data performance: {{{performance}}}

Utförande

edit
Model architecture
{{{model_architecture}}}
Output schema
{{{model_output_schema}}}
Example input and output
Input:
{{{model_input}}}

Output:

{{{model_output}}}

Uppgifter

edit
Data pipeline
Tabelldata om redigeringar samlas in från Mediawiki API, förbehandlas (via loggtransformationer, ansluter sig till offentliga redaktörsdata, etc.) och ansluter med användargenererade godvilliga/skadorliga etiketter.
Training data
Denna modell utbildades med hjälp av handmärkta utbildningsdata som är flera år gamla.
Test data
De rapporterade statistiken beräknades genom att välja en slumpmässig delning av utbildningsdata som skulle hålla ut ur utbildningsprocessen.

Licenser

edit

Citat

edit

Cite this model card as:

@misc{
  Triedman_Bazira_2023_{{{language}}}_{{{project}}}_damaging,
  title={ {{{language}}} {{{project}}} damaging model card },
  author={ Triedman, Harold and Bazira, Kevin },
  year={ 2023 },
  url={ https://meta.wikimedia.org/wiki/Model_card_ORES_damaging_edit/sv }
}