Home / Generale / Midjourney vieta la creazio...

Midjourney vieta la creazione di immagini di leader politici tramite AI

Pubblicato: 09 febbraio 2024 | Ultimo aggiornamento: 09 febbraio 2024

Di Trendiqa

Una piattaforma di intelligenza artificiale (AI) generativa sta intraprendendo misure per ridurre la proliferazione di deepfake in vista delle elezioni americane.

L'intelligenza artificiale generativa, specificamente Midjourney, sta considerando di vietare le immagini politiche sulla sua piattaforma per i prossimi 12 mesi. Il CEO David Holz ha dichiarato che l'azienda è "vicina al martellamento" di questo tipo di contenuti, citando il potenziale di interferenza nelle elezioni presidenziali americane.

Holz sottolinea la delicatezza di diffondere certe informazioni durante le elezioni, alla luce della questione della disinformazione veicolata dall'intelligenza artificiale. La sua AI Midjourney è stata coinvolto nello scorso marzo in un caso di immagini deepfake di Trump. Per evitare lo stesso problema, ha preferito sospendere i test gratuiti.

Per prevenire la diffusione di immagini politiche controverse prima delle elezioni presidenziali, Midjourney sta cercando di evitare di affrontare la stessa situazione che ha dovuto fronteggiare nel recente caso dell'arresto di Trump. La piattaforma ha già messo in atto misure automatiche per evitare la creazione di contenuti irrispettosi, dannosi o potenzialmente fuorvianti, ma sembra che aggirare queste restrizioni non sia così difficile. Alcune versioni del software riescono a generare immagini di personaggi politici senza problemi, mentre altre rifiutano le richieste che includono Trump e altri politici.

Midjourney ha vietato la creazione di immagini di Biden e Trump per prevenire problemi, ma alcuni esperti ritengono che non sarà sufficiente a risolvere il problema più ampio della disinformazione politica.

Come può la tecnologia dell’AI aiutare a mitigare i pericoli dei deepfake durante le elezioni?

L’intelligenza artificiale può aiutare a mitigare la minaccia dei deepfake durante le elezioni identificandoli e rimuovendoli dalle piattaforme online, educando il pubblico sui pericoli dei deepfake e sviluppando nuove tecnologie per rilevarli e contrastarli.

Scritto da Trendiqa