Ogni giorno, le aziende tengono d’occhio il nostro comportamento personale, analizzando silenziosamente indizi lasciati durante l’uso di Internet. I dati raccolti e i ritratti creati sono incredibilmente dettagliati, al punto da risultare invasivi. The Black Box Society: The Secret Algorithms That Control Money and Information sostiene che tutti noi dovremmo essere in grado di farlo—e di stabilire limiti su come i big data influenzano le nostre vite.
Algoritmi nascosti possono creare (o rovinare) la reputazione di una persona, decidere il destino degli imprenditori o addirittura devastare un’intera economia. Dietro a una cortina di complessità, le decisioni nelle grandi aziende della Silicon Valley e di Wall Street sono state a lungo considerate neutrali e tecniche. Ma perdite di informazioni, informatori e controversie legali hanno gettato nuova luce sulla pratica del giudizio automatizzato. Anche dopo l’imposizione di multe per miliardi di dollari, i legislatori potrebbero aver solo sfiorato la superficie di questo comportamento preoccupante.
Frank Pasquale espone come gli organismi più potenti abusino di queste tecnologie per profitto e introduce strade per limitarli. Richiedere la trasparenza algoritmica è solo il primo passo.
Maggiori informazioni sul sito di Harvard University Press:
The Black Box Society — Harvard University Press
Every day, corporations are connecting the dots about our personal behavior—silently scrutinizing clues left behind by our work habits and Internet use. The data compiled and portraits created are incredibly detailed, to the point of being invasive. But who connects the dots about what firms are doing with this information? The Black Box Society argues that we all need to be able to do so—and to set limits on how big data affects our lives.Hidden algorithms can make (or ruin) reputations, decide the destiny of entrepreneurs, or even devastate an entire economy. Shrouded in secrecy and complexity, decisions at major Silicon Valley and Wall Street firms were long assumed to be neutral and technical. But leaks, whistleblowers, and legal disputes have shed new light on automated judgment. Self-serving and reckless behavior is surprisingly common, and easy to hide in code protected by legal and real secrecy. Even after billions of dollars of fines have been levied, underfunded regulators may have only scratched the surface of this troubling behavior.Frank Pasquale exposes how powerful interests abuse secrecy for profit and explains ways to rein them in. Demanding transparency is only the first step. An intelligible society would assure that key decisions of its most important firms are fair, nondiscriminatory, and open to criticism. Silicon Valley and Wall Street need to accept as much accountability as they impose on others.
