Un'app rimuove i vestiti dalle foto delle donne ed è un caso disgustoso di come l'IA viene utilizzata in modo improprio
Dichiarazione di non responsabilità: il contenuto di questa storia è 'Non sicuro per il lavoro', quindi procedi con cautela. Inoltre, MensXP non è la fonte o la promozione del software. L'idea alla base della storia è rendere le persone consapevoli di cosa può fare l'IA se viene utilizzata in modo improprio.
Ci sono giorni in cui ci sentiamo sopraffatti da tutti i progressi tecnologici che hanno cambiato il mondo in meglio. E poi ci sono giorni come questo in cui ci sentiamo orribili e disgustosi pensando a tutte le cose orribili che la tecnologia può fare.
La maggior parte di voi potrebbe avere la parola 'Deepfakes', giusto? Bene, se pensavi che fosse orribile, allora sarai terrorizzato di apprendere di questo nuovo software, che non ho intenzione di nominare, ovviamente. È un software disgustoso e non ho intenzione di divulgare il suo nome e promuoverlo.
È un software che sfrutta il potere dell'intelligenza artificiale e delle reti neurali per realizzare false immagini di donne nude. Sì, so cosa stai pensando in questo momento. È davvero un'app disgustosa che non dovrebbe esistere in primo luogo. In effetti, sono rimasto piuttosto scioccato nello scoprire quanto sia facile scaricarlo e usarlo. Sento fortemente che dovrebbe essere rimosso il prima possibile, prima che le persone ci mettano le mani sopra e inizino a usarlo in modo improprio, ad esempio, in un luogo di lavoro o in spazi pubblici. Tipo, pensa a cosa succede se / quando finisce nelle mani sbagliate. Non voglio nemmeno pensare a cosa succede quando pervertiti e pedofili iniziano a usarlo.
In poche parole, il software può trasformare una foto di una persona vestita perfettamente in un'immagine nuda dall'aspetto realistico della stessa persona. Credo che tu sappia cosa fa, quindi non lo scriverò ad alta voce. Ecco cosa può fare il software.
Quindi, il software funziona solo su immagini di donne. Sì, le persone che lo hanno creato erano molto esigenti riguardo a ciò che volevano fare e funziona sorprendentemente bene. Secondo Scheda madre , sembra funzionare meglio su immagini in cui la persona mostra già molta pelle come, ad esempio, un costume da bagno.
Le persone che lo hanno creato hanno letteralmente creato un sito Web per rendere il software disponibile per il download gratuito. C'è anche una versione a pagamento del software che ti darà funzionalità aggiuntive. Non avevo intenzione di scaricare l'app per verificarla, quindi ho fatto qualche ricerca.
Secondo le persone che l'hanno testato, il software funziona su macchine Windows e Linux e non è necessaria alcuna esperienza per usarlo in alcun modo. Dicono che sia facile ritagliare un'immagine in un editor di foto di base. Non mi preoccuperò nemmeno di aggiungere altre immagini e promuovere l'app, ma dai risultati che ho visto sembra funzionare in modo molto accurato.
miglior spray per gli orsi per i corridori
Ecco cosa ha detto il creatore anonimo dell'app quando gli è stato chiesto perché ha creato un software così spaventoso:
Circa due anni fa ho scoperto il potenziale dell'IA e ho iniziato a studiare le basi. Quando ho scoperto che le reti GAN erano in grado di trasformare una foto diurna in una notturna, ho capito che sarebbe stato possibile trasformare una foto vestita in una nuda. Eureka. Mi sono reso conto che gli occhiali a raggi X sono possibili! Spinto dal divertimento e dall'entusiasmo per quella scoperta, ho fatto i miei primi test, ottenendo risultati interessanti.
Onestamente, non importa perché l'ha creato. Noi, esseri umani, dovremmo essere più preoccupati per il fatto che un software come questo esiste in questo mondo e chiunque, come, letteralmente chiunque può scaricarlo e creare false immagini di nudo che, purtroppo, sembrano molto reali.
L'idea di creare deepfake in sé era spaventosa, ma questo significa solo portare le cose a un altro livello. Il motivo per cui è ancora più preoccupante è che un'app come questa è facilmente accessibile e più facile da usare rispetto al deepfake. Il fatto che sia facile come installarlo e giocarci come un videogioco è ciò che mi spaventa.
Spero davvero che i sistemi migliorino nel rilevare i deepfake. Posso solo iniziare a immaginare come questo possa essere usato impropriamente se finisce nelle mani sbagliate. È orribile dire che deepfake e app come questa riescono a malapena a scalfire la superficie dell'intelligenza artificiale. Sembra che saremo condannati se non esiste una regolamentazione adeguata per l'uso dell'IA.
Fonte: vice
Che ne pensate?
Inizia una conversazione, non un fuoco. Pubblica con gentilezza.
Posta un commento
