TikTok beslutar att upprätta nya moderationspolicyer i ett försök att bekämpa vilseledande information

I början av denna vecka tillkännagav Microsoft sin förberedelse inför fortsatta diskussioner för köp av TikTok i USA, efter förbudshot i landet. Denna åtgärd är ett svar på oro från president Trump angående dess integritetspraxis och möjliga kopplingar till den kinesiska regeringen.

Nyligen har TikTok beslutat att införa ny moderationspolicy för bättre skydd av sin plattform mot fel information, valstörningar och annat manipulerande innehåll inför årets val. Företaget säger nu att det förbjuder alla 'deepfakes' uttryckligen. Deepfakes är AI-drivna manipulationer av video och ljud som är utformade för att vilseleda människor om något en person kan ha sagt eller gjort.

I ett blogginlägg som publicerades av Vanessa Pappas på onsdagen nämndes det att företaget lägger till en policy som förbjuder manipulerat eller syntetiskt innehåll som vilseleder användarna genom snedvridning av sanningen ”på ett sätt som kan orsaka skada”. Hon utarbetade vidare att deras avsikt är att skydda användare från djupa eller grunda förfalskningar.

Deepfakes i TikTok har ofta associerats med ansiktsbytande videor som används för att skapa pornografiskt innehåll. Hittills har de inte använts av någon större politisk kampanj, även om president Trumps omvalskampanj och Vita huset har delat eller skapat mindre sofistikerade redigeringar och annat liknande vilseledande innehåll som har märkts som mycket vilseledande.

Under de senaste åren har vi observerat en ökning av tekniker för sofistikering och användarvänlighet för att skapa dessa djupa förfalskningar. Denna teknik har väckt oro över hur djupa förfalskningar någon gång kan användas för att göra vilseledande redigeringar av politiker som uttrycker stöd eller säger saker som kan skada deras rykte eller miskreditera dem. Flera stora sociala medieplattformar och vissa stater har följaktligen helt förbjudit djupa förfalskningar i politiska annonser.

TikTok tillåter inte några politiska annonser redan. Företaget tillägger att dess förfalskade förbud syftar till att göra det svårare att använda plattformen för att driva vilseledande medier för politiska vinster. Enligt sin nya moderationspolicy förbjuder Tiktok användning av bot- och falska konton som vilseleder människor angående kontoinnehavarens identitet i avsikt att svänga allmänheten eller utöva andra former av inflytande. Det utökar också sitt partnerskap med faktakontroll med Lead Stories och PolitiFact för faktakontroll av potentiell felinformation relaterat till USA: s val 2020. Det lägger också till ett valinformation för felinformation till sin rapporteringsmekanism i appen för att låta användare flagga misstänkta konton eller innehåll. . Appen kommer också att innehålla ett nytt ”valinformationscenter” för att peka användare mot autentisk information om omröstning, ras och andra relaterade ämnen.