Il problema è che la sicurezza informatica non si limita alle vulnerabilità del software, che è ciò su cui ti sembra di essere concentrato. Sì, le vulnerabilità del software sono una grande parte di esso, ma c'è molto, molto di più.
Ad esempio, prendi la crittografia, gli algoritmi matematici da cui dipendiamo per proteggere quasi tutte le informazioni sensibili. Affinché l'intelligenza artificiale faccia il lavoro degli umani, dovrebbe essere in grado di trovare difetti nelle procedure matematiche, il che probabilmente significa che dovrebbe essere in grado di scrivere le proprie prove. Dovrebbe anche scrivere nuovi algoritmi per tenere il passo con l'aumento della potenza di calcolo e nuove scoperte nella ricerca matematica. Nessuna IA è neanche lontanamente in grado di farlo. In effetti, è così inverosimile che non credo nemmeno che qualcuno ci abbia provato. (E se l'intelligenza artificiale raggiungesse mai questo punto, la morte della sicurezza informatica sarà l'ultima delle tue preoccupazioni!)
Quindi, c'è l'aspetto umano, come menzionato da Schroeder. Non è qualcosa che puoi scartare come un "problema organizzativo" e semplicemente ignorarlo. In effetti, direi che circa l'80% della sicurezza informatica riguarda il trattamento della stupidità umana - non solo degli utenti, ma anche degli amministratori di sistema. È il 2015, ma la password più comune è ancora "123456" . Persone che usano la stessa password per tutto. Gli amministratori di siti Web non si preoccupano di utilizzare le password degli hash e degli utenti salt o di scegliere algoritmi deboli. Le persone che non si preoccupano di cambiare le password predefinite su router, stampanti, fotocamere e persino sistemi di controllo industriale, lasciandoli completamente esposti su Internet che aspettano solo di essere sfruttati . Reti aziendali che non sono adeguatamente progettate e segmentate. E, naturalmente, il phishing: molte enormi violazioni della sicurezza iniziano semplicemente ottenendo la password di un amministratore di sistema utilizzando un'e-mail ben fornita, che fornisce un punto di ingresso nella rete. Ci sono molte altre che potrei elencare, ma tu hai l'idea. Tutti questi sono problemi seri e attuali nella sicurezza informatica e ampiamente sfruttati dagli hacker, ma nessuno di questi è fondamentalmente un difetto del software. Per risolverli, devi istruire le persone o progettare sistemi che siano più a prova di idiota.
E naturalmente tutto ciò presuppone che l'IA un giorno sarà in grado di correggere automaticamente le vulnerabilità del software, il 100% delle volte - qualcosa che è tutt'altro che garantito. Se non altro, le persone inizieranno semplicemente a cercare difetti nell'IA. Dopotutto, l'intelligenza artificiale è scritta dagli umani e non sarà mai perfetta. Ci saranno sempre casi in cui l'intelligenza artificiale può essere ingannata.
Theorem proving seems promising, but I do not want to become involved
in cyber security, possibly as a career, if i would be out of a job in
the future.
Questo non è il posto giusto per i consigli di carriera, ma posso dire con certezza al 100% che la cybersecurity non è andare via in qualsiasi momento . Diventerà sempre più grande man mano che i sistemi informatici diventeranno ancora più critici di quanto non lo siano già, poiché gli sviluppatori scrivono sempre più codice imperfetto e sempre più utenti (senza tracce) si connettono.