US Federal Trade Commission har udstedt advarselsbreve til forskellige websteder, der tilbyder såkaldte “nudify”-værktøjer, og beskylder dem for ikke at overholde den føderale TAKE IT DOWN Act (TIDA), en lov, der kræver, at onlineplatforme fjerner intime billeder uden samtykke inden for 48 timer efter at have modtaget en gyldig anmodning.
Nudify Apps gør det for nemt at skabe krænkende indhold, mens det ikke giver ofrene en måde at fjerne billederne på. Og det var det, der satte dem i søgelyset for TIDA.
Brevene sendt af FTC er rettet mod virksomheder, der bruger kunstig intelligens-værktøjer, der er i stand til digitalt at fjerne tøj fra billeder for at generere falske nøgen eller seksualiserede afbildninger af nogen uden deres samtykke.
“I dag demonstrerer vi, hvor seriøse vi er med at beskytte offentligheden, især børn, mod krænkende onlineadfærd,” sagde FTC-formand Andrew N. Ferguson i en erklæring. “Platforme har ikke længere nogen undskyldninger. De skal overholde deres forpligtelser i henhold til TAKE IT DOWN Act eller tage konsekvenserne.”
FTC identificerede ikke offentligt de virksomheder, der modtog advarselsbrevene.
En “nudify”-app er en type AI-drevet software, der skaber falske nøgen- eller seksualiserede billeder af en person fra et almindeligt foto. En bruger uploader et påklædt billede, og appen bruger kunstig intelligens til digitalt at fjerne tøj eller generere en falsk nøgen krop nedenunder.
Disse apps markedsføres nogle gange som “AI undress” eller “deepfake nøgen” værktøjer. De fleste Nudify-apps bruger generative AI-modeller, der er trænet på store billeddatasæt. Softwaren analyserer en persons kropsform, positur, belysning og tøj og forudsiger derefter, hvordan en nøgen version kan se ud. Det resulterende billede er ikke ægte fotografi. Det er et fremstillet billede genereret af AI.
Apps er skadelige, fordi de ofte bruges uden forsøgspersonens viden eller samtykke.
Og det er nøglen til TAKE IT DOWN Act: Samtykke. Regeringen siger ikke, at kunstig intelligens er dårlig. Det siger, at samtykke er vigtigt.
Værktøjerne til at adressere kendt udnyttelse ved at immobilisere teknologiske dybe forfalskninger på websteder og netværksloven, almindeligvis kendt som TAKE IT DOWN Act eller TIDA, blev underskrevet af præsident Donald Trump i maj 2025 efter at være blevet forkæmpet af First Lady Melania Trump. Loven gav dækkede platforme et år til at implementere overholdelsessystemer, før håndhævelsen begyndte den 19. maj 2026.
Afsnit 3 i loven kræver, at platforme, der hoster brugergenereret indhold, etablerer en klar proces, der giver ofre mulighed for at anmode om fjernelse af intime billeder uden samtykke, herunder AI-genererede “digitale forfalskninger”. Når en gyldig anmodning er modtaget, skal platforme fjerne materialet og alle kendte identiske kopier inden for 48 timer.
Ifølge FTC så Nudify-webstederne ud til at være i strid med loven, fordi de undlod at give brugerne en fungerende meddelelses- og fjernelsesmekanisme til intime billeder uden samtykke.
Agenturet advarede om, at virksomheder, der ikke overholder dem, risikerer civile sanktioner på op til $53.088 pr. overtrædelse.
FTC lancerede også en offentlig klageportal, takeitdown.ftc.govhvor ofre kan rapportere platforme, der undlader at behandle anmodninger om fjernelse i henhold til loven.
I vejledning distribueret til platforme i denne måned sagde FTC, at TIDA gælder bredt for websteder, apps og onlinetjenester, der hoster eller distribuerer brugergenereret indhold, herunder sociale medier, beskedtjenester, billeddelingswebsteder og spilleplatforme.
Agenturet rådgav endvidere virksomheder om, at overholdelse kræver “information i almindeligt sprog”, der forklarer, hvordan brugere kan indsende anmodninger om fjernelse, og understregede, at processen skal være “klar og iøjnefaldende.”
Yderligere FTC-vejledning siger, at platforme skal gøre en “rimelig indsats” for at lokalisere og fjerne duplikerede kopier af rapporterede billeder, ikke kun den oprindeligt rapporterede fil.
Kommissionen opfordrede også platforme til at bruge teknologier som hashing for at forhindre tidligere fjernede intime billeder i at blive genuploadet.
I sidste uge sendte Ferguson separate breve til store teknologivirksomheder, herunder Alphabet, Amazon, Apple, Meta, Microsoft, Snap, TikTok og X, og mindede dem om deres juridiske forpligtelser.
Lektionen her er, brug ikke AI til at lave nøgenbilleder af rigtige mennesker uden deres tilladelse. Konsekvenserne kan blive dyre.
