“Vorhersageprodukte“: Algorithmische Entscheidungsfindung, Profiling und die Kapitalisierung des Werdens

Richard Weiskopf, Institut für Organisation und Lernen, Universität Innsbruck

Im Kontext des “Überwachungskapitalismus” werden digitale Spuren in Profile bzw. “Vorhersageprodukte” umgewandelt. Da jedes Stück Daten für irgend jemanden von potenziellem Wert ist, kann auch jedes Versatzstück in irgendeinem Profil landen, das für irgendjemanden von Nutzen ist und daher verkauft werden kann. Auf die Monetarisierung der Daten haben sich verschiedene Databroker, Directmarketer und andere Organisationen und Unternehmen spezialisiert, die eine Expertise in der Verarbeitung, Analyse und Verwertung von Daten haben. Auf der Basis scheinbar rationaler und neutraler Berechnungen verwandelt das „new profiling“ das offene Werden in eine kalkulierte Zukunft, die zu einer profitablen Quelle der Generierung von Einkommen und Kapital wird.

Dass wir uns im Visier bestimmter Organisationen befinden und Zielscheiben von Profiling- und Vorhersagemaschinen sind, wird uns häufig nur sporadisch bewusst. Beispielsweise dann, wenn wir eine individualisierte oder personalisierte Nachricht von unbekannter Stelle erhalten, wenn uns ein maßgeschneidertes Produkt angeboten wird, wenn wir am Flughafen oder an der Grenze angehalten werden und als Risiko oder potentieller Terrorist “erkannt” werden; es wird uns auch dann bewusst, wenn uns der Zugang zu öffentlichen Räumen, Versicherungsleistungen, begehrten Stellen oder Positionen, zu Krediten, Dienst- oder Sozialleistungen etc. verwehrt wird, weil wir (bzw. unser Profil) nicht zu den im Vorfeld von anonymen Instanzen definierten Kriterien passen. So wird auf der Basis von Prognosen eine mögliche Zukunft verbaut. Als eine Form der instrumentären Macht Vorhersageprodukte den ethisch-politischen Raum der Imagination und potentiellen Transformation zum Verschwinden. Der kritischen Forschung geht es darum, diesen verdeckten Raum sichtbar zu machen und damit eine Problematisierung der Wirkungen und Effekte dieser Verfahren in Gang zu setzen.

Zum Volltext hier entlang.

SCOS Talk on “Secret organizers: The ‘spectrogenic’ process of profiling and the effects of ‘ghostly demarcations’”

Right after the EGOS Colloquium in Edinburgh I had the opportunity to give a talk at the “Ghosts Conference York”, which is part of the Standing Conference on Organizational Symbolism (SCOS).  The following provides a short summary of my talk on “Secret organizers: The ‘spectrogenic’ process of profiling and the effects of ‘ghostly demarcations’”.

Profiles’ are important technologies of organizing that are used in a multiplicity of contexts: customer-profiling, profiling for employment screening, credit-scoring, criminal investigations, immigration policy, health-care management, forensic biometrics, etc. Profiles organize perception and seeing and they are important media in (algorithmic) decision-making. They are ‘used to make decisions, sometimes even without human intervention’ (Hildebrandt, 2008: 18). All profiles are abstractions. In the process of profiling images of the person are created for the purpose of diagnosis or prediction. In the process of profiling ‘complex personhood’ (Gordon, 1997) is reduced to a finite number of traits, indicators, etc. Created models or figures may be fictions but these fictions are operationally effective, as they shape and intervene in the world. In the paper profiles are theorized as ‘ghosts’ that are produced in a ‘spectrogenic process’ (Derrida, 1994). The spectrogenic process describes the process of abstraction, in which (a) thoughts, ideas, data etc. are ‘torn loose’ from the ‘living body’ and integrated in a more abstract or ‘artifactual body’ and (b) the return of the abstraction (ghost) to the world of real life events in the process of ‘application’ where it ‘haunts’ those with whom profiles are associated. Continue reading “SCOS Talk on “Secret organizers: The ‘spectrogenic’ process of profiling and the effects of ‘ghostly demarcations’””

Tagung: »Wahrheit und Postfaktizität«

Am 24.11. veranstalten das FWF-Projekt Language and Violence sowie das Critical Theories Network am Institut für Philosophie der Universität Wien eine eintägige Tagung zum Thema “Wahrheit und Postfaktizität” statt, bei der ich einen Beitrag mit dem Titel “Algorithmische Entscheidungen und spektrogene Prozesse: das Profiling im postfaktischen Zeitalter” beisteuern darf. Hier geht es zum Poster mit dem gesamten Programm der Tagung.