Så ska Tinder stoppa trakasserier – med hjälp av AI

Alla som någonsin använt Tinder vet hur vanligt det är att konversationer går över styr och opassande och ibland trakasserande meddelanden slängs till höger och vänster. Extremt få av alla obehagliga direktmeddelanden anmäls.

Nu vill Tinder ändra på detta.

Ett nytt AI-verktyg ska kunna identifiera otrevliga meddelanden och förmå användare att rapportera trakasserierna, skriver sajten Wired.com.

Om ett meddelande fastnar i verktygets nät kommer mottagaren få en fråga om hen upplevde meddelandet som obehagligt. Om svaret då blir ”ja” kommer Tinder hänvisa till anmälningsformuläret.

Den nya funktionen finns nu tillgänglig i 11 länder och på nio olika språk, men planen är att den så småningom kommer finnas i varje Tinder-app världen över.

Svårreglerat språk

Besläktade AI-verktyg används redan nu av exempelvis Facebook and Google.

Instagram har nyligen infört en funktion som identifierar potentiellt kränkande språk och frågar avsändaren: ”Är du säker på att du vill posta detta?”.

Tider väljer alltså en annan metod och skickar istället ett meddelande till personen som nås av det potentiellt kränkande eller trakasserande meddelandet. Skälet att de inte valt samma metod som Instagram, förklarar ansvarig på dejtingappen, är att språket som används på dejtingappen är mer svårrreglerat. Vad som är kränkande för vissa är helt enkelt i sin ordning för andra.

– En flört för en person kan enkelt upplevas som kränkande av en annan, säger Rory Kozoll, appens ansvariga för säkerhetsfrågor, till wired.com.