CivitAI in New Payment Provider Crisis, as Trump Signs Anti-Deepfake Act

President Trump heeft nu de Take It Down Act ondertekend, en criminaliseer seksuele diepten op een federaal niveau in de VS. Tegelijkertijd heeft het bod van de Civitai Community om ‘zijn handeling op te ruimen’ met betrekking tot NSFW AI en Celeb Output er uiteindelijk niet in geslaagd om betalingsprocessors te sussen, waardoor de site alternatieven heeft gevraagd of wordt gesloten. Dit alles in slechts twee weken sinds de oudste en grootste deepfake porno ter wereld offline ging …

Het is een belangrijke paar weken geweest voor de staat van niet -gereguleerde afbeelding en video -diepgaande video. Iets meer dan twee weken geleden, het nummer #1 -domein voor de community -delen van beroemde Deepfake -porno. Mr. Deepfakes, haalde zichzelf plotseling offline na meer dan zeven jaar in een dominante en veel bestudeerd Positie als de wereldwijde locus voor geseksualiseerde AI -inhoud van beroemdheden. Tegen de tijd dat het naar beneden ging, ontving de site een Gemiddeld van meer dan vijf miljoen bezoeken een maand.

Achtergrond, het Mr. Deepfakes -domein begin mei; Inset, de ophanging, nu vervangen door een 404 -fout, omdat het domein blijkbaar werd gekocht door een onbekende koper op 4 mei 2025 (https://www.whois.com/whois/mrdeepfakes.com). Bron: mrdeepfakes.com

Het beëindigen van diensten voor de heer Deepfakes was officieel toegeschreven naar de terugtrekking van een ‘kritieke dienstverlener’ (zie inzetbeeld hierboven, die binnen een week werd vervangen door domeinfalen). Een collaboratief journalistiek onderzoek was echter De-geanonimiseerde een sleutelfiguur Achter de heerDeepfakes direct voorafgaand aan de sluiting, waardoor de mogelijkheid mogelijk was dat de site werd gesloten om de persoonlijke en/of juridische redenen van die persoon.

Rond dezelfde tijd legde Civitai, het commerciële platform dat veel wordt gebruikt voor beroemdheid en NSFW Loras, een reeks ongebruikelijke en controversiële zelfcensuurmaatregelen. Deze aangetaste de diepvoudige generatie, modelhosting en een bredere reeks nieuwe regels en beperkingen, inclusief volledige verboden zeker Marginale NSFW -fetisjen. en wat het ‘extremistische ideologieën’ noemde.

Deze maatregelen werden ingegeven door betalingsaanbieders die blijkbaar dreigen diensten uit het domein op te nemen, tenzij wijzigingen met betrekking tot NSFW -inhoud en AI -afbeeldingen van beroemdheden werden aangebracht.

Civitai afgesneden

Vanaf vandaag lijkt het erop dat de maatregelen van Civitai Visa en MasterCard niet hebben gesecoreerd: a nieuwe post^† Op de site, van Community Engagement Manager Alasdair Nicoll, onthult dat kaartbetalingen voor Civitai (wiens ‘Buzz’ virtueel geldsysteem meestal wordt aangedreven door real-world credit- en debetkaarten) worden gestopt vanaf deze vrijdag (23 mei 2025).

Dit voorkomt dat gebruikers maandelijkse lidmaatschappen verlengen of nieuwe buzz kopen. Hoewel Nicoll adviseert dat gebruikers de huidige lidmaatschapsrechten kunnen handhaven door over te schakelen naar een jaarlijks lidmaatschap (kosten^†† $ 100-$ 550 USD) Vóór vrijdag is de toekomst duidelijk enigszins onzeker voor het domein op dit moment (er moet worden opgemerkt dat jaarlijkse lidmaatschappen ging live Tegelijkertijd dat de aankondiging over het verlies van betalingsverwerkers werd gedaan).

Wat betreft het ontbreken van een betalingsverwerker, zegt Nicoll ‘We praten met elke provider die comfortabel is met AI -innovatie’.

Wat betreft het falen van recente inspanningen om de site adequaat te heroverwegen vaak bekritiseerd Beleid rond Celeb AI en NSFW -inhoud, stelt Nicoll in de post:

‘Sommige betalingsbedrijven labelen generatief-AI-platforms een hoog risico, vooral wanneer we door de gebruiker gegenereerde volwassen inhoud toestaan, zelfs als het legaal en gemodereerd is. Die beleidskeuze, niet wat gebruikers deden, dwong de cutoff. ‘

Een opmerking van gebruikersfaeia ‘, aangewezen als stafchef van het bedrijf in hun civitai profiel*, voegt context toe aan deze aankondiging:

‘Om te verduidelijken, worden we uit de betalingsprocessor verwijderd omdat we ervoor hebben gekozen om NSFW en inhoud voor volwassenen niet uit het platform te verwijderen. We blijven zich inzetten voor het ondersteunen van allerlei makers en werken aan alternatieve oplossingen. ‘

Als een traditionele bestuurder van nieuwe technologieënhet is niet ongewoon dat NSFW -inhoud wordt gebruikt Kick-start interesse In een domein, technologie of platform-alleen voor de eerste aanhangers om te worden afgewezen zodra genoeg ‘legitiem’ kapitaal en/of een gebruikersbasis wordt vastgesteld (dwz voldoende gebruikers voor de entiteit om te overleven, bij het geschoren van een NSFW-context).

Het leek een tijdje dat Civitai zou volgen Tumblr en diverse andere initiatieven langs deze route naar een ‘gezegde’ product klaar om zijn wortels te vergeten. De extra en groeiende echter controverse/stigma rond door AI gegenereerde inhoud van welke aard dan ook Vertegenwoordigt een cumulatief gewicht dat in dit geval een last-minute redding lijkt te voorkomen. In de tussentijd adviseert de officiële aankondiging gebruikers om crypto aan te nemen als een alternatieve betaalmethode.

Uitdrijven

De komst van president Donald Trump enthousiast ondertekening de federale Haal het neer ACT zal waarschijnlijk sommige van deze gebeurtenissen hebben beïnvloed. De nieuwe wet criminaliseert de verdeling van niet-consensuele intieme beelden, waaronder door AI gegenereerde Deepfakes.

De wetgeving verplicht dat platforms de gemarkeerde inhoud binnen 48 uur verwijderen, met handhaving onder toezicht van de Federal Trade Commission. De strafrechtelijke bepalingen van de wet worden onmiddellijk van kracht, waardoor personen die willens en wetens worden gepubliceerd of dreigen niet-consensuele intieme afbeeldingen (inclusief door AI gegenereerde Deepfakes) te publiceren binnen het doel van de Verenigde Staten.

Hoewel de wet zeldzame tweeledige steun kreeg, evenals steun van technologiebedrijven en belangengroepen, beweren critici dat het legitieme inhoud kan onderdrukken en privacytools zoals codering kan bedreigen. Vorige maand verklaarde de Electronic Frontier Foundation (EFF) Oppositie tegen de rekeningbeweren dat de takedown mechanismen het verplicht om zich te richten op een bredere stuk materiaal dan de smallere definitie van niet-consensuele intieme beelden die elders in de wetgeving worden gevonden.

‘De takedown -voorziening in Take It Down is van toepassing op een veel bredere categorie van inhoud – mogelijk beelden met intieme of seksuele inhoud – dan de smallere NCII -definities die elders in het wetsvoorstel worden gevonden. De takedown-bepaling mist ook kritische waarborgen tegen frivole of slechte trouwverzoeken.

‘Services zullen vertrouwen op geautomatiseerde filters, die beruchte stompe tools zijn. Ze markeren vaak juridische inhoud, van fair-use commentaar tot nieuwsberichten. Het strakke tijdsbestek van de wet vereist dat apps en websites spraak binnen 48 uur verwijderen, zelden genoeg tijd om te controleren of de spraak daadwerkelijk illegaal is.

‘Dientengevolge zullen online dienstverleners, met name kleinere, waarschijnlijk ervoor kiezen om het zware juridische risico te voorkomen door eenvoudig de toespraak te publiceren in plaats van zelfs te proberen het te verifiëren.’

Platforms hebben nu maximaal een jaar van de vaststelling van de wet om een ​​formeel kennisgeving-en-takedown-proces op te zetten, waardoor getroffen personen of hun vertegenwoordigers het statuut kunnen oproepen bij het zoeken naar het verwijderen van inhoud.

Dit betekent dat hoewel de strafrechtelijke bepalingen onmiddellijk van kracht zijn, platforms niet wettelijk verplicht zijn om te voldoen aan de takedown-infrastructuur (zoals het ontvangen en verwerken van verzoeken) totdat dat een jaar venster is verstreken.

Dekt de Take It Down Act met AI-gegenereerde inhoud van beroemdheden?

Hoewel de Take It Down Act alle staatsgrenzen overschrijdt, verbiedt het niet noodzakelijk alle AI-gedreven media van beroemdheden. De wet criminaliseert de verdeling van niet-consensuele intieme beelden, inbegrepen AI-gegenereerde Deepfakes, alleen wanneer de afgebeelde persoon een had Redelijke verwachting van privacy:

De wet stelt:

“(2) aanval met authentieke intieme visuele afbeeldingen.

“(A) het betrekken van volwassenen. – Except [for evidentiary, reporting purposes, etc.]het is onwettig voor een persoon, in de interstate of buitenlandse handel, om een ​​interactieve computervice te gebruiken om bewust een intieme visuele weergave van een identificeerbare persoon te publiceren die niet minder is als –

“(I) de intieme visuele afbeelding werd verkregen of gecreëerd onder omstandigheden waarin de persoon wist of redelijkerwijs had moeten weten dat de identificeerbare persoon een redelijke verwachting van privacy had;

“(Ii) wat wordt afgebeeld, werd niet vrijwillig blootgesteld door de identificeerbare persoon in een openbare of commerciële setting [i.e., self-published porn];

“(Iii) wat wordt afgebeeld, is geen kwestie van publieke bezorgdheid; en

“(Iv) Publicatie van de intieme visuele weergave –

“(I) is bedoeld om schade aan te richten; of

“(Ii) veroorzaakt schade, inclusief psychologische, financiële of reputatieschade, aan de identificeerbare persoon.

De hier toegepaste ‘redelijke verwachting van privacy’ heeft niet traditioneel de voorkeur de rechten van beroemdheden. Afhankelijk van de jurisprudentie die uiteindelijk naar voren komt, is het mogelijk dat zelfs expliciet AI-gegenereerde inhoud met publieke cijfers in openbare of commerciële omgevingen valt mogelijk niet onder het verboden van de wet.

De laatste clausule over het bepalen van de omvang van schade is beroemd elastisch in juridische termen, en in deze zin voegt niets bijzonders aan de wetgevende last toe. De intent Het lijken van schade zou de reikwijdte van de wet lijken te beperken tot de context van ‘wraakporno’, waarbij een (onbekende) ex-partner echte of nep-media-inhoud van een (even onbekende) andere ex-partner publiceert.

Hoewel de ‘schade’-eis van de wet misschien niet geschikt lijkt voor gevallen waarin anonieme gebruikers AI-gegenereerde afbeeldingen van beroemdheden posten, kan het relevanter blijken te zijn in stalkingscenario’s, waar een breder patroon van intimidatie de conclusie ondersteunt dat een individu opzettelijk en kwaadaardig zich richtte op een publieke figuur over meerdere fronten.

Hoewel de verwijzing van de wet naar ‘gedekte platforms’ privékanalen zoals signaal of e-mail uitsluit van de takedown-bepalingen, is deze uitsluiting alleen van toepassing op de verplichting om een ​​formeel verwijderingsmechanisme te implementeren in mei 2026. Het betekent niet dat niet-consensuele AI of echte afbeeldingen worden gedeeld door particuliere communicatie die buiten de reikwijdte van de wet van de wet van de wet valt.

Het is duidelijk dat een gebrek aan rapportagemechanismen ter plaatse de getroffen partijen niet belemmert om te melden wat nu illegale inhoud aan de politie is; Zulke partijen zijn ook niet uitgesloten van het gebruik van alle conventionele contactmethoden die een site beschikbaar kan stellen om een ​​klacht in te dienen en de verwijdering van aanstootgevend materiaal te vragen.

De rechten achtergelaten

Meer dan zeven jaar van toenemende openbare en media -kritiek op deepfake -inhoud lijken te zijn geculmineerd binnen een ongewoon korte tijdspanne. Hoewel de Take It Down Act ingrijpende federale verboden biedt, is deze mogelijk niet van toepassing in alle gevallen met AI-gegenereerde simulaties, waardoor bepaalde scenario’s moeten worden aangepakt onder het groeiende lappendeken van de verdieping van de diepvoeding op staatsniveau, waar de wetten vaak ‘lokale interesse’ weerspiegelen.

Bijvoorbeeld, in Californië, de California Celebrities Rights Act beperkt het exclusieve gebruik van de identiteit van een beroemdheid tot zichzelf en hun nalatenschap, zelfs na hun dood; Omgekeerd, Tennessee’s Elvis Act Richt zich op het beschermen van muzikanten van niet-geautoriseerde AI-gegenereerde stem- en beeldreproducties, waarbij elk geval een gerichte benadering weerspiegelt voor belangengroepen die prominent aanwezig zijn op staatsniveau.

De meeste staten nu wetten hebben Richt op seksuele diepvallen, hoewel velen stoppen met het verduidelijken of die beschermingen evenveel uitstrekken tot particulieren en publieke figuren. Ondertussen hebben de politieke diepvakken die naar verluidt hebben geholpen aansporing De steun van Donald Trump voor de nieuwe federale wet kan in de praktijk, tegen grondwettelijke barrières oprennen In bepaalde contexten.

^† Gearchiveerde versie: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Gearchiveerde versie (bevat geen maandelijkse prijzen): https://web.archive.org/web/20250425020325/https://civitai.green/Pricing/Price

* De eigenlijke ‘stafchef’ aan de CEO van Civitai is vermeld bij LinkedIn onder een niet-gerelateerde naam, terwijl de vergelijkbaar klinkende ‘faiona’ een is Officiële Civitai Staff Moderator op het domein subreddit.

Voor het eerst gepubliceerd dinsdag 20 mei 2025