Come funziona DeepNude: che cosa fa il modello a una foto

Il primo passaggio è una selezione: il sistema separa la persona dallo sfondo e delimita la zona occupata dagli indumenti. È il lavoro che in un editor di immagini si fa a mano con lo strumento di selezione, qui automatico.

Il secondo trasforma la selezione in una maschera: l'area marcata è «da riscrivere» e il suo contenuto originale smette di contare. Il terzo fa tutto il lavoro e si chiama inpainting, cioè riempimento: un modello generativo produce pixel nuovi dentro la maschera, tenendo conto solo del bordo, della posa e della luce del resto dell'immagine. Non è un uso deviato di quei modelli, è il loro mestiere: il lavoro che ha portato la diffusione nello spazio latente, quello che ha reso questi sistemi lo standard, rivendica fra i propri risultati il primato raggiunto allora proprio nell'inpainting.

Il quarto passaggio ricompone: la porzione generata torna dentro la fotografia originale, i bordi vengono ammorbiditi, il file viene riportato alla dimensione di uscita. Le due immagini che il servizio mostra affiancate non sono quindi «prima e dopo» dello stesso oggetto: sono una fotografia e un collage in cui la parte più grande è disegnata.

Questa è la parte che conta più di tutte, ed è anche la più fraintesa. Dentro la maschera non c'è alcun dato da recuperare: il tessuto non lascia tracce leggibili di ciò che copre, e nessun modello può estrarre da un'immagine informazioni che l'immagine non contiene. Quello che il modello ha, invece, sono milioni di esempi visti in addestramento, e da quelli deriva la sua idea di come dovrebbe proseguire un corpo umano in quella posa e con quella luce.

Il capostipite del 2019, di cui raccontiamo la vicenda in da dove viene il nome e che cosa indica oggi, lo mostra bene proprio perché era rudimentale: girava su pix2pix, il metodo con cui una rete impara la traduzione da un'immagine a un'altra e, spiegano i suoi autori, impara insieme anche la funzione che misura quanto è buono il risultato. Le forme che restituiva non uscivano dalla foto ricevuta: venivano dall'archivio di oltre diecimila fotografie di nudo su cui era stato addestrato. Sette anni dopo la logica è la stessa, sono cambiate scala e qualità dell'archivio.

Da qui discende una conseguenza pratica che vale la pena fissare: l'immagine prodotta non dimostra niente su nessuno. Somiglia a una fotografia perché il modello è stato addestrato a produrre cose che somigliano a fotografie, non perché contenga qualcosa di vero in più rispetto all'originale.

Gli sbagli non sono difetti di un singolo prodotto: nascono da tre punti del meccanismo. Il primo è il confine della maschera, dove due immagini nate in modi diversi devono incontrarsi: lì compaiono giunzioni, profili troppo netti e pezzi di tessuto sopravvissuti per sbaglio.

Il secondo è la compressione. I modelli di diffusione moderni non lavorano sui pixel ma su una versione compressa dell'immagine, e la scheda tecnica di Stable Diffusion lo scrive senza giri di parole: la componente di autocodifica del modello è con perdita. Quello che viene scartato in compressione non torna: da lì arrivano le superfici troppo uniformi e i dettagli fini che si sciolgono.

Il terzo è la distribuzione dell'addestramento. La stessa scheda, redatta dagli autori del modello, avverte che i volti e le persone in generale possono non essere generati correttamente e che il sistema non raggiunge un fotorealismo perfetto. Sono limiti dichiarati in partenza, non incidenti: nessun listino li elimina, e chi promette il contrario sta vendendo un'aspettativa. Quali di questi difetti si notino davvero e a quale ingrandimento lo abbiamo misurato in quali difetti si vedono ingrandendo il file.

La differenza non sta nel servizio ma nella distanza fra l'immagine di partenza e gli esempi su cui il modello si è formato. Più la posa, l'inquadratura e l'illuminazione somigliano a quelle degli scatti di addestramento, più la ricostruzione risulta coerente; più se ne allontanano, più la maschera viene riempita con qualcosa di generico.

C'è anche un problema di rappresentatività di cui gli autori dei modelli scrivono apertamente: la stessa scheda tecnica citata sopra spiega che l'addestramento è avvenuto in larga parte su materiale con didascalie in inglese e che le culture bianche e occidentali finiscono per essere assunte come impostazione predefinita. Tradotto in pratica: su soggetti, corporature e contesti meno presenti in quegli archivi il risultato peggiora in modo sistematico, e non è una questione di fortuna.

Restano poi gli ostacoli fisici: braccia incrociate, oggetti davanti al corpo, più persone nella stessa inquadratura, riflessi. Ognuno rompe la continuità del bordo su cui il riempimento si appoggia. Quando il soggetto si muove il problema si moltiplica per il numero di fotogrammi, ed è il motivo per cui che cosa succede quando i fotogrammi diventano molti è un capitolo a parte.

Una parte consistente delle ricerche su questo argomento punta a una copia del programma: un deposito di codice, un blocco note in cloud, un flusso di lavoro da importare in un'interfaccia grafica. Il motivo per cui quelle strade portano quasi sempre a un vicolo cieco è documentato e non dipende dalla bravura di chi cerca.

Le piattaforme di codice hanno chiuso la porta già nel 2019 e la tengono chiusa: le regole d'uso di GitHub vietano i contenuti pornografici, le immagini intime non consensuali e le rappresentazioni esplicite di atti sessuali, comprese quelle generate al computer. I servizi di calcolo gratuito fanno lo stesso: fra le attività che Google esclude dai propri ambienti di esecuzione compare per iscritto la creazione di deepfake.

Il risultato è che l'elaborazione è tornata dove si monetizza meglio: su server di terzi, dietro un account e un listino. Quando un sito promette invece un pacchetto da installare, il calcolo che millanta non avviene sul tuo computer — servirebbero una scheda grafica dedicata e diversi gigabyte di modello — e quel file serve ad altro.