Tecnologia / Tecniche per prevenire immagini offensive su un sito web

8

Sto progettando di costruire un sito web che una delle sue caratteristiche principali è l'uso delle immagini. Mi chiedevo quali sono le tecniche esistenti utilizzate per evitare che le immagini offensive (cioè la pornografia) vengano caricate dagli utenti. Cosa utilizza Facebook o Pinterest?

Inoltre vorrei sapere quali sarebbero le vostre raccomandazioni per controllare le immagini offensive per essere caricate sul sito (strumenti OpenSource forse ..) Tenendo in considerazione questo è un progetto personale e sarà sviluppato con un budget molto ridotto.

Grazie

    
posta Andreas Siegers 27.06.2012 - 20:37
fonte

6 risposte

14

Non esiste una soluzione tecnologica che ti dica che un'immagine è "offensiva".

Devi considerare che "offensivo" è dipendente dalla cultura (così come una cosa individuale) - cioè, ciò che potresti trovare offensivo e ciò che potrei sono probabilmente molto diversi.

Questo è un problema sociale e può essere risolto solo con soluzioni sociali - questo può significare moderazione (o moderazione della comunità).

Quindi - Chiedi ai moderatori di approvare / rifiutare ogni immagine o mettere in atto un sistema che permetta ai tuoi utenti di contrassegnare le immagini come offensive e che rimuoveranno tali immagini quando verrà raggiunta una determinata soglia. Puoi monitorare gli utenti che caricano tali immagini al fine di moderarle / escluderle.

    
risposta data 27.06.2012 - 20:42
fonte
3

Ci sono filtri per i contenuti dell'immagine che possono impedire questo tipo di cose. Girano il contrasto dell'immagine e tracciano i contorni e si confrontano con immagini "conosciute" per adulti. C'è molta ricerca sull'argomento ... e so che c'è almeno un servizio là fuori che lo fa, mi sfugge per ora .. ma sono là fuori

    
risposta data 27.06.2012 - 21:02
fonte
2

Alcuni tentativi di questo esistono come un concetto contro specifici tipi di offensivo basati sul rilevamento dei bordi. Ho visto documenti di ricerca su di esso, ma dal punto di vista pratico qualunque cosa tu stia "rilevando" sarebbe facilmente giocabile con la colorazione o qualsiasi cosa che rompa gli ovvi contorni degli oggetti.

Anche se potessi ottenere un'implementazione funzionante di questo, internet ti caricherebbe solo un po 'di smog con vernice blu stile marina della seconda guerra mondiale per i performer o per i performer in abiti ghillie solo per essere difficile.

Se non intendi offensivo come smut ma violento o off-color, non penso nemmeno che potresti trovare un modo automatico per valutarlo anche se hai avuto un perfetto processo di rilevamento delle immagini solo a causa del problema di nessuno è d'accordo quando attraversa la linea.

    
risposta data 27.06.2012 - 21:16
fonte
1

Tutto torna al riconoscimento dei pattern. La ragione per cui abbiamo software per il riconoscimento facciale sono volti, per la maggior parte, hanno tratti simili, e la maggior parte delle immagini che scegliamo di persone li ha di fronte alla telecamera. Ma era ancora molto difficile da sviluppare. Consideriamo per un momento l'immagine della bomba che colpisce un bersaglio popolato. Come creeresti uno schema per questo? L'immagine avrebbe un'esplosione, abbastanza semplice da capire per un umano, ma piuttosto difficile da programmare. Un'esplosione potrebbe essere di varie dimensioni, forme e colori. Supponiamo che tu crei una sorta di sistema basato su regole. E se l'immagine fosse un'esplosione per il controllo delle valanghe in montagna? Ciò non è violento o offensivo, ma conterrebbe molte delle stesse caratteristiche.

Come molti altri hanno sottolineato, è molto difficile definire osceni. Nel caso di Miller vs. California, la Corte Suprema degli Stati Uniti ha tentato di ottenere il cosiddetto Test di Miller che consiste di tre parti:

  • Sia "la persona media, che applica la comunità contemporanea standard ", troverà che il lavoro, nel suo insieme, fa appello a l'interesse pruriginoso,
  • Se il lavoro descrive / descrive, in modo palesemente offensivo, condotta sessuale specificatamente definita dalla legge statale applicabile,
  • Se il lavoro, nel suo complesso, manca di serio letterario, artistico, valore politico o scientifico

Bello e ambiguo, rende le cose un po 'difficili da programmare. La maggior parte dei siti che ti permettono di caricare immagini hanno una sorta di moderazione umana. Ad esempio, tutte le foto pubblicate su siti di incontri online devono seguire una serie di regole e devono essere approvate manualmente.

    
risposta data 27.06.2012 - 22:29
fonte
1

Come altri hanno sottolineato, ci sono alcune soluzioni tecnologiche ma ti portano solo lontano. Questo articolo del NY Times parla di siti di grandi dimensioni (come Facebook) filtro contenuto.

Per rispondere alla tua domanda: "Che cosa utilizza Facebook o Pinterest?"

La gente.

    
risposta data 27.06.2012 - 22:42
fonte
0

Non dimenticare che una volta che hai trasmesso che filtra le foto "offensive", ti apri alle cause legali se ne perdi una. È possibile aggiungere un pulsante di segnalazione a ciascuna pagina e prepararsi a eliminare la foto incriminata dopo averla esaminata.

    
risposta data 28.06.2012 - 21:15
fonte

Leggi altre domande sui tag