la tecnologia talvolta insinua dei dubbi

'My Friend Cayla' è una bambola connessa a Internet che utilizza la tecnologia di riconoscimento vocale per chattare e interagire con i bambini in tempo reale. Le conversazioni di Cayla vengono registrate e trasmesse online a una società di analisi vocale.

 

Ciò ha sollevato la preoccupazione che gli hacker possano spiare i bambini o comunicare direttamente con loro mentre giocano con la bambola. Ci sono anche preoccupazioni su come vengono usati i dati vocali dei bambini. Nel 2017 coloro che si occupano di sicurezza in Germania, hanno esortato i genitori a distruggere la bambola, classificandola come un "apparato di spionaggio illegale".

 

Cayla è solo un esempio di una nuova ondata di giocattoli di intelligenza artificiale (AI) che "fanno amicizia" con i bambini. I produttori affermano spesso di essere educativi, migliorare il gioco e aiutare i bambini a sviluppare abilità sociali. Ma i gruppi di consumatori avvertono che i giocattoli intelligenti, come altre "cose" che colleghiamo a Internet, potrebbero mettere a rischio la sicurezza e la privacy.

 

Ma cosa succede ai dati dei giocattoli IA?

 

I giocattoli sono collegati a Internet (tramite WiFi o Bluetooth a un telefono o altro dispositivo con accesso a Internet) e inviano i dati al fornitore. Ciò consente all'IA della compagnia di imparare per l'azienda ed essere più in grado di parlare al bambino.

 

L'azienda registra e raccoglie tutte le conversazioni del bambino con il giocattolo, e possibilmente quelle con altri bambini e adulti che interagiscono anche con esso.

 

La società sta probabilmente memorizzando questi dati e sicuramente li sta usando per creare un prodotto migliore.

 

La posizione del giocattolo influisce sul modo in cui i dati vengono memorizzati. Ad esempio, negli Stati Uniti, le aziende che creano giocattoli educativi possono archiviare i dati più a lungo rispetto ad altre società. Quindi, quando il produttore descrive il proprio giocattolo come educativo, si apre quel diritto di trattenere i dati più a lungo.

 

Mentre più dispositivi - molti commercializzati come giocattoli educativi - entrano nel mercato, lanciano campane d'allarme intorno alla privacy, pregiudizi, sorveglianza, manipolazione, democrazia, trasparenza e responsabilità.

 

Di quali problemi dovremmo essere maggiormente preoccupati?

 

La Germania ha vietato Cayla e giocattoli simili a causa di preoccupazioni che potrebbero essere utilizzati per spiare i bambini e che qualcuno potrebbe hackerare il dispositivo e comunicare direttamente con il bambino.

 

Ma stiamo anche parlando di aziende che monetizzano i dati. I dati dei giocattoli AI contengono tutto ciò che un bambino dice al dispositivo, inclusi i loro segreti più preziosi.

 

Se questi dati vengono raccolti, il bambino ha il diritto di riaverli? Se questi dati vengono raccolti sin dalla prima infanzia e non appartengono al bambino, rendono il bambino più vulnerabile perché le sue scelte e i suoi modelli di comportamento potrebbero essere noti a chiunque acquisti i dati, ad esempio, società o campagne politiche .

 

Quali sono i vantaggi dei giocattoli AI?

 

La maggior parte degli economisti sosterrebbe che migliorare e aumentare l'accesso all'istruzione è uno dei modi migliori per colmare il divario tra il mondo in via di sviluppo e quello sviluppato.

 

I giocattoli educativi e gli "insegnanti" abilitati all'IA potrebbero fare una differenza enormemente benefica nei paesi in via di sviluppo.

 

Quale influenza potrebbero avere i giocattoli della IA sui bambini?

 

Oltre al rischio di hacking, dobbiamo anche pensare a cosa stanno dicendo questi giocattoli ai nostri bambini. Chi è l'arbitro di queste conversazioni? Chi ha codificato gli algoritmi? I valori che il bambino espone sono in linea con quelli dei genitori? I genitori saranno in grado di scegliere i valori con cui è codificato il giocattolo?

 

Se il giocattolo è educativo, l'algoritmo viene controllato da qualcuno che è almeno qualificato per insegnare?

 

Questi giocattoli saranno molto influenti perché i bambini converseranno con loro tutto il tempo. Ad esempio, se la bambola dice che fa freddo e il bambino chiede ai suoi genitori di comprargli un cappotto, è o non è pubblicità, quella?