Contenuto
- Infornato dalla macchina
- Automazione e interruzione del lavoro
- Nessun bug, nessuno stress: la tua guida passo passo alla creazione di software che ti cambia la vita senza distruggere la tua vita
- Applicazioni dall'elettronica di consumo
- Ripristino del controllo
- Come potrebbe funzionare
Fonte: Artinspiring / Dreamstime.com
Porta via:
Affinché l'automazione funzioni con e per l'umanità piuttosto che contro di essa, abbiamo bisogno di salvaguardie e di esseri umani informati autorizzati a fermare o correggere un errore di sistema.
"Errare è umano; per rovinare davvero le cose è necessario un computer. ”William E. Vaughan ha formulato questa osservazione nel 1969. Dare il controllo a un sistema automatizzato comporta la possibilità che il sistema si rovini e causi gravi danni prima che venga controllato.
L'automazione non è nuova, ma sta diventando molto più diffusa grazie all'integrazione di sistemi digitali e fisici. Il vantaggio dell'automazione su larga scala è la grande efficienza. Ma il rovescio della medaglia di fare affidamento su un sistema imposta-e-dimentica-è che qualcuno potrebbe non riuscire a impostarlo correttamente.
Con un sistema che segue semplicemente senza alcun intervento e nessun modo di fermare il macchinario, puoi avere effetti distruttivi. Di conseguenza, la tecnologia può creare il tipo di situazione illustrata in "L'apprendista stregone", quando ciò che sembra rendere la vita più semplice in realtà esaurisce il controllo.
Infornato dalla macchina
L'automazione senza intervento è ciò che ha portato un tecnico nel Regno Unito a ritrovarsi senza lavoro l'anno scorso senza motivo. Ibrahim Diallo ha notato che le sue carte di nulla osta di sicurezza non funzionavano sul lavoro e ha scoperto che era perché non aveva un lavoro. "The Machine Fired Me" è il titolo che ha dato al suo ampio post sul blog sull'evento.
Alla fine, la causa della fine di Diallo non fu una sorta di valutazione dell'algoritmo che determinò chi doveva essere eliminato. Il problema non era all'interno del sistema, ma era un errore umano. In questo caso, è stata tutta la risposta automatizzata all'incapacità di un umano di inserire le informazioni sul rinnovo del contratto di Diallo.
Non è che la macchina abbia deciso che avrebbe dovuto essere licenziato per qualcosa in particolare. Ha semplicemente eseguito i passaggi programmati per qualcuno il cui stato si presentava come non più impiegato. Come chiarisce nei commenti, non si tratta in realtà di un'IA ma di uno "script automatizzato". (Per sapere come l'IA può aiutare (anziché ferire) nelle aziende, controlla Cosa può fare l'IA per l'impresa.)
Automazione e interruzione del lavoro
Questo tipo di effetto non è esattamente quello che le persone immaginano quando descrivono i meravigliosi benefici che possiamo prevedere in un futuro automatizzato. Le solite prospettive ottimistiche per uno spostamento dei lavori man mano che i compiti vengono assunti dall'automazione, i lavori verranno ridefiniti, non terminati dai sistemi automatizzati. Ma la realtà è che alcuni posti di lavoro saranno eliminati e le persone che li hanno ricoperti non saranno necessariamente in grado di effettuare una transizione senza soluzione di continuità verso le nuove carriere in un settore ampiamente automatizzato.
L'interruzione del lavoro è uno dei rischi minori che Elon Musk ha immaginato per l'ascesa dell'IA, sebbene la sua visione dell'impatto sui lavori sia molto più pessimista di quella di Fitzgerald. Secondo Musk, l'IA ha bisogno di una regolamentazione rigorosa perché rappresenta "un rischio esistenziale fondamentale per la civiltà umana".
Nessun bug, nessuno stress: la tua guida passo passo alla creazione di software che ti cambia la vita senza distruggere la tua vita
Non puoi migliorare le tue capacità di programmazione quando a nessuno importa della qualità del software.
Applicazioni dall'elettronica di consumo
Nonostante le credenziali tecnologiche di Musk, alcuni esperti del settore come Rodney Brooks, che è stato direttore fondatore del Computer Science and Artificial Intelligence Lab del MIT e cofondatore di iRobot e Rethink Robotics, affermano che Musk ha torto su quella minaccia di AI e su come la robotica effettivamente operare.
In un'intervista con TechCrunch, Brooks ha indicato che è folle chiedere regolamenti senza che la tecnologia sia maturata al punto in cui possiamo identificare esattamente ciò che deve essere regolamentato. Ha sfidato Musk: "Dimmi, che comportamento vuoi cambiare, Elon?"
Brooks ha ammesso che i robot porteranno a spostamenti di lavoro. Ma pensa anche che sia possibile spostare il paradigma nell'industria per seguire quello dell'elettronica di consumo.
Il modo in cui lo ha inserito nell'intervista di TechCrunch è stato: “Abbiamo una tradizione nella produzione di apparecchiature che ha interfacce utente orribili ed è difficile e devi seguire dei corsi, mentre nell'elettronica di consumo, abbiamo fatto le macchine che usiamo insegnano alle persone come usarli. "
Questo è ciò che ha detto che dovrebbe essere l'obiettivo di cambiare il modo in cui ci relazioniamo con "attrezzature industriali e altri tipi di attrezzature, per far sì che le macchine insegnino alle persone come usarle".
Ripristino del controllo
Ciò che Brooks suggerisce potrebbe indirizzarci verso una soluzione al problema dell'errore umano che fa scattare il processo automatizzato che sembra sfuggire al controllo. Per riferirsi alla disavventura di Topolino in "L'apprendista stregone", il problema deriva tutto dalla persona che attiva il sistema ma non ha alcun modo reale di comunicare con esso per farlo fermare o cambiare direzione.
Ma se l'interfaccia fosse realizzata sulla base dell'elettronica di consumo piuttosto che sui modelli industriali tradizionali, potrebbe letteralmente rimettere il controllo nelle mani dell'uomo. Per essere veramente efficace, l'interfaccia deve non solo essere accessibile, ma progettata per tenere le persone informate su ciò che sta accadendo, fornendo dati sugli aggiornamenti che ha ricevuto e quali azioni ha intrapreso.
Come potrebbe funzionare
Nel caso della risoluzione accidentale di Diallo, ciò significherebbe che il sistema automatizzato non lo avrebbe semplicemente bloccato fuori dal sistema e quindi avrebbe fornito al suo reclutatore che era stato licenziato. Riconoscerebbe innanzitutto che il rinnovo del contratto non è stato effettuato alla data prevista. Prima di iniziare le azioni di risoluzione, offrirebbe alla mangiatoia e al reclutatore l'aggiornamento sulla mancanza di rinnovo e sulle conseguenze che sarebbero seguite nel corso della giornata se non fosse intrapresa alcuna azione.
Questo tipo di allerta consentirebbe alle persone di prendere decisioni informate sull'automazione o sull'intervento per correggere l'errore umano che era la causa originale del problema. Ma le persone devono anche fare la loro parte, rispondere all'avviso e intraprendere le azioni appropriate. In altre parole, la risposta alla domanda posta da Brooks sul comportamento si applica all'uomo; devono essere meno passivi di fronte all'automazione. (Per ulteriori informazioni su come gli esseri umani e le macchine possono lavorare in modo cooperativo, vedere Channeling the Human Element: Policy, Procedure and Process.)
Come ha scritto Diallo nella sezione commenti del suo blog, la ragione per cui questo è stato in grado di arrivare al punto è che le persone hanno rifiutato di andare contro la macchina:
Un'altra cosa che viene trascurata, è che anche se tutti sapevano che era stato un errore umano a causarlo e che era puramente un errore, hanno scelto di seguire la s. È come mettere un cartello "permesso fumare" in ospedale e le persone rispettano il segno invece di usare il buon senso.
Di conseguenza, le politiche che dobbiamo adottare affinché l'automazione funzioni con e per l'umanità piuttosto che contro di essa è duplice: dal lato della macchina, abbiamo bisogno di interfacce accessibili e informative, e dal lato umano, abbiamo bisogno che le persone lo siano autorizzato a identificare quando qualcosa non è giusto e intervenire per correggerlo.