Se definisci un formato di file, dovresti al contrario documentare pubblicamente le sue specifiche , poiché un formato di file è un mezzo per comunicare dati tra software e persone.
Non sono l'unico in ad evitare i formati di file chiusi . Se ne usassi qualcuno, sarei intrappolato nel prodotto che ne ha bisogno. In alcuni contesti e molte organizzazioni, che utilizzano un formato di file proprietario non documentato potrebbero essere disapprovate o vietate. In Francia, il governo di Ayrault ha emanato un decreto che favorisce standard aperti (e preferibilmente software libero). AFAIK, la Commissione europea sta facendo qualcosa di simile.
Quindi per avere successo , non vuoi "proteggere" il tuo formato di file, vuoi specificare il tuo formato di file nel miglior modo possibile in una specifica pubblica in modo che diventi di fatto uno standard (usato dai concorrenti).
E non puoi vietare legalmente il reverse-engineering del tuo formato (almeno non in Europa ; il reverse engineering di AFAIU è esplicitamente legale in Europa se fatto per ragioni di interoperabilità, ma IANAL).
Nascondere il tuo formato di file probabilmente lo renderebbe un fallimento a livello mondiale; nessuno lo userebbe (che ovviamente è la massima protezione, ma lo vuoi davvero?).