Come rilevare immagini generate dall'intelligenza artificiale

I generatori di immagini AI come Stable Diffusion, Midjourney, DALL·E e Firefly hanno reso banalmente semplice la creazione di immagini fotorealistiche. Ma queste immagini spesso lasciano tracce rilevabili. Ecco come individuarli.

Metodo 1: ispezione visiva

I generatori di intelligenza artificiale sono migliorati notevolmente, ma compaiono ancora artefatti visivi comuni:

Mani e dita

I modelli di intelligenza artificiale producono spesso mani con conteggio delle dita errato, cifre unite o angoli articolari anatomicamente impossibili. Controlla sempre attentamente le mani nei ritratti.

Testo e segnaletica

Il testo generato dall'intelligenza artificiale nelle immagini è spesso confuso, scritto in modo errato o utilizza stili di carattere incoerenti. Osserva i cartelli, le etichette, le copertine dei libri e qualsiasi scritta visibile.

Simmetria e schemi

Modelli di abbigliamento, gioielli e caratteristiche del viso possono mostrare simmetria o ripetizione innaturali. Il design di orecchini, occhiali e colletti a volte differisce tra il lato sinistro e quello destro.

Sfondi

Cerca oggetti che svaniscono nel nulla, architetture impossibili o superfici con trame incoerenti. Gli sfondi sono il luogo in cui i generatori di intelligenza artificiale "imbrogliano" di più.

Occhi e denti

I riflessi negli occhi dovrebbero essere coerenti. I denti dovrebbero avere un'anatomia normale. L’intelligenza artificiale spesso produce riflessi o forme dei denti leggermente errati.

Metodo 2: Analisi dei metadati

Le immagini generate dall'intelligenza artificiale spesso portano firme di metadati che ne identificano l'origine:

• Credenziali contenuto C2PA: Adobe Firefly, OpenAI e Microsoft incorporano la provenienza crittografica tramite lo standard C2PA. Un blocco JUMBF nel file dimostra l'origine dell'AI.
• Stable Diffusion parametri: SD incorpora le impostazioni di generazione (modello, campionatore, seme, scala CFG) in blocchi PNG tEXt/iTXt.
• Flussi di lavoro ComfyUI: il frontend ComfyUI incorpora il grafico di generazione completa come JSON nei metadati PNG.
• Assenza EXIF: le foto reali in genere riportano marca/modello della fotocamera, GPS e data/ora EXIF. Le immagini AI raramente hanno questi tag.

Metodo 3: euristica a livello di pixel

Le immagini generate dall'intelligenza artificiale tendono ad avere proprietà statistiche diverse rispetto alle fotografie:

• Uniformità del gradiente: gli output dell'intelligenza artificiale spesso presentano gradienti di colore innaturalmente uniformi rispetto al rumore del sensore presente nelle foto reali.
• Densità dei bordi: le fotografie reali hanno bordi complessi e rumorosi derivanti da trame naturali. Le immagini AI tendono ad avere modelli di bordi più puliti e uniformi.
• Dimensioni di output: le dimensioni comuni di output dell'AI (512×512, 1024×1024, 1024×1792) possono essere un segnale debole.

Metodo 4: Strumenti di rilevamento automatizzato

Strumenti ad hoc combinano più segnali in un unico verdetto:

• AI Image Detector di Caitty: basato su browser, controlla C2PA, EXIF, metadati del generatore ed euristica dei pixel. Privato (nessun caricamento).
• Hive Moderazione: livello aziendale, precisione superiore al 95%, basato su API.
• AI or Not: semplice strumento gratuito per controlli rapidi.
• Winston AI: rilevamento combinato di testo e immagini.

Migliori pratiche per un rilevamento affidabile

1. Utilizza più metodi. La sola ispezione visiva non è affidabile. La sola analisi dei metadati non riesce a individuare le immagini eliminate. Combina approcci.
2. Controlla la fonte. Da dove viene l'immagine? Le immagini provenienti da agenzie di stampa e account verificati sono più affidabili dei post anonimi sui social media.
3. Considera il contesto. C'è un motivo per cui qualcuno dovrebbe inventare questa immagine? Motivazione politica, incentivo finanziario o influenza sui social media?
4. Non fare affidamento sulla precisione perfetta al pixel. Nessuno strumento è perfetto. Trattare i risultati del rilevamento come prove, non come prove.

Conclusione

Il rilevamento delle immagini tramite intelligenza artificiale è una corsa agli armamenti in evoluzione. Man mano che i generatori migliorano, i metodi di rilevamento devono adattarsi. L'approccio più affidabile combina ispezione visiva, analisi forense dei metadati e strumenti automatizzati. Quando la posta in gioco è alta (giornalismo, procedimenti legali, moderazione dei contenuti) utilizza sempre più metodi di verifica indipendenti.