Rileva automaticamente immagini offensive [chiuso]

-4

Voglio sviluppare un'app in cui gli utenti possano caricare le immagini condivise. Sto pianificando di integrare una dichiarazione di non responsabilità in cui si afferma che è vietato caricare immagini che contengono crimine, sesso, insulti, ecc. Inoltre, voglio implementare un pulsante "segnala un utente" in cui vengono bloccati più utenti segnalati. Ma la maggior parte della gente non se ne preoccupa. La mia domanda è: c'è un algoritmo di elaborazione delle immagini o un webservice che rilevi tali immagini? In che modo tutti gli altri social network gestiscono questo problema? È impossibile farlo a mano.

    
posta Kewitschka 24.03.2016 - 23:04
fonte

2 risposte

2

Per quanto ne so, non esiste alcun tipo di algoritmo per farlo. Il problema è che ciò che è offensivo qui potrebbe non essere offensivo dove vivi, o viceversa. E in Cina ci sono certamente cose proibite a cui le altre nazioni non farebbero ciglia.

potresti fare una ricerca di immagini per vedere se l'immagine è rimasterizzata da qualche sito nella lista nera, ma questo non catturerà tutto. Puoi fare un pattern match per vedere se ha svastiche o peni giganti, ma questo non catturerà tutto.

Alla fine, hai bisogno che gli umani gestiscano i maybes o i mancati o i falsi positivi.

    
risposta data 24.03.2016 - 23:17
fonte
1

L'unico algoritmo che conosco che ha dimostrato di essere efficace viene utilizzato per rilevare e segnalare la distribuzione di immagini di sfruttamento dei minori ( PhotoDNA di Microsoft ). Una volta che un'immagine è stata identificata come illegale, la sua impronta digitale viene memorizzata in un database.

Per costruire l'impronta digitale di un'immagine, l'immagine viene convertita in scala di grigi e gli hash sono composti da varie regioni di quell'immagine, in modo che l'elaborazione digitale non prevenga il rilevamento delle immagini (source ).

Questo richiede ancora che le immagini siano identificate dagli umani prima che vengano bloccate. Ma le immagini offensive non torneranno.

    
risposta data 25.03.2016 - 12:34
fonte

Leggi altre domande sui tag