Fino a che punto possiamo fidarci del software?

Purtroppo non c’è un metodo formale per provare che un programma software faccia sempre tutto e solo quello per cui è stato commissionato.

L’ingegneria del software ha raffinato strumenti e metodi di progettazione, sviluppo e collaudo che riducono il margine d’errore a qualche punto percentuale, ma non riescono ad annullarlo, vista anche la crescente complessità e interattività delle applicazioni.

Ci sono stati casi eclatanti, tanti danni ed anche disastri: 

• L'Iniziativa di Difesa Strategica (Star Wars) che fu lanciata negli Stati Uniti da Ronald Reagan negli anni '80 ha portato a uno scandalo pubblico quando David Parnas, un noto ingegnere del software, si dimise dal progetto perché i requisiti sul software erano irrealistici. Questo era dovuto, tra le altre cose, al fatto che sarebbe stato impossibile essere sicuri che non contenesse errori e, in questo tipo di contesto, gli errori del software possono portare a catastrofi.
• Ci sono state alcune conseguenze molto costose a seguito di un errore umano nella produzione di software, tra cui il fallito primo volo dell'Ariane 501, il millennium bug e la costosa gestione errata dei bagagli da parte del nuovo sistema software al terminal 5 di Heathrow.
• Gli incidenti dei Boeing 737 Max 8.