In Italia esistono già alcune ipotesi di sperimentazione e nell’ambito scolastico abbiamo già i primi casi d’uso. Il social scoring consiste nell’uso di sistemi di monitoraggio in grado di valutare le azioni e le attitudini delle persone al fine di erogare premi e incentivi di vario tipo che hanno lo scopo di alterare il loro comportamento.

Questi sistemi hanno due criticità:

Prima di tutto, c’è un tema etico. Siamo davvero d’accordo nel volerci circondare di sistemi del genere? Cosa può accadere alla nostra libertà di autodeterminazione se ogni nostra azione viene monitorata e giudicata da algoritmi automatizzati che hanno l’unico scopo di modificare i nostri comportamenti con incentivi e sanzioni?

Nel caso in cui la risposta fosse affermativa, c’è un tema tecnico e giuridico. Questi sistemi per loro natura devono trattare quantitativi enormi di dati, anche molto sensibili. È quindi fondamentale progettarli rispettando il principio di privacy by design. Questo è un punto critico su cui DPO, consulenti, aziende e pubbliche amministrazioni devono confrontarsi già da oggi. Ogni sistema di monitoraggio su larga scala e profilazione, proprio come il social scoring, porta con sé molti rischi per i diritti e libertà delle persone, così come per le aziende che li usano – vulnerabili a sanzioni e danno reputazionale nel caso di uso di sistemi discriminatori e insicuri.

L’intervento potrà essere seguito dal vivo alla Fabbrica del Vapore a Milano oppure in streaming sul sito del Wired Next Fest. Clicca qui per ottenere tutte le informazioni necessarie!

L'articolo Wired Next Fest 2022 proviene da Netpatrol.