Algorithmic Bias: Verzerrungen durch Algorithmen verstehen und verhindern

Ein Leitfaden für Entscheider und Data Scientists
1. Auflage 2022
ISBN: 978-3-662-66314-1
Verlag: Springer

Buch, Deutsch, 286 Seiten, Format (B × H): 155 mm x 235 mm, Gewicht: 458 g

Sind Algorithmen Freund oder Feind?

Der menschliche Verstand ist evolutionär darauf ausgelegt, Abkürzungen zu nehmen, um zu überleben. Wir ziehen voreilige Schlüsse, weil unser Gehirn uns in Sicherheit wiegen will. Die meisten unserer Voreingenommenheiten wirken sich zu unseren Gunsten aus, z. B. wenn wir ein Auto, das in unsere Richtung fährt, für gefährlich halten und sofort ausweichen oder wenn wir beschließen, einen Bissen Essen nicht zu essen, der verdorben zu sein scheint. Allerdings wirken sich inhärente Vorurteile negativ auf das Arbeitsumfeld und die Entscheidungsfindung in unseren Gemeinschaften aus. Zwar wird mit der Entwicklung von Algorithmen und maschinellem Lernen versucht, Voreingenommenheit zu beseitigen, doch werden sie schließlich von Menschen geschaffen und sind daher anfällig für das, was wir algorithmische Voreingenommenheit nennen.

In Understand, Manage, and Prevent Algorithmic Bias (Algorithmische Voreingenommenheit verstehen, handhaben und verhindern) hilft Ihnen der Autor Tobias Baer zu verstehen, woher algorithmische Voreingenommenheit kommt, wie man sie als Geschäftsanwender oder Regulierungsbehörde handhaben kann und wie die Datenwissenschaft verhindern kann, dass Voreingenommenheit in statistische Algorithmen einfließt. Baer befasst sich fachkundig mit einigen der mehr als 100 Arten natürlicher Verzerrungen wie Confirmation Bias, Stability Bias, Pattern Recognition Bias und vielen anderen. Algorithmische Verzerrungen spiegeln diese menschlichen Tendenzen wider und haben ihren Ursprung in ihnen. Baer befasst sich mit so unterschiedlichen Themen wie der Erkennung von Anomalien, hybriden Modellstrukturen und selbstverbesserndem maschinellen Lernen.

Während sich die meisten Schriften über algorithmische Voreingenommenheit auf die Gefahren konzentrieren, weist der Kern dieses positiven, unterhaltsamen Buches auf einen Weg hin, auf dem Voreingenommenheit in Schach gehalten und sogar beseitigt werden kann. Sie erhalten Managementtechniken, um unvoreingenommene Algorithmen zu entwickeln, die Fähigkeit, Voreingenommenheit schneller zu erkennen, und das Wissen, um unvoreingenommene Daten zu erstellen. Algorithmic Bias verstehen, verwalten und verhindern ist ein innovatives, zeitgemäßes und wichtiges Buch, das in Ihr Regal gehört. Egal, ob Sie eine erfahrene Führungskraft in der Wirtschaft, ein Datenwissenschaftler oder einfach nur ein Enthusiast sind, jetzt ist ein entscheidender Zeitpunkt, um sich über die Auswirkungen algorithmischer Verzerrungen auf die Gesellschaft zu informieren und eine aktive Rolle im Kampf gegen Verzerrungen zu übernehmen.

Was Sie lernen werden

Untersuchung der vielen Quellen algorithmischer Verzerrungen, einschließlich kognitiver Verzerrungen in der realen Welt, verzerrter Daten und statistischer Artefakte

Verstehen Sie die Risiken algorithmischer Verzerrungen, wie sie erkannt werden können und welche Managementtechniken es gibt, um sie zu verhindern oder zu verwalten

Erkennen, wie maschinelles Lernen sowohl neue Quellen für algorithmische Verzerrungen schafft als auch ein Teil der Lösung sein kann

Kenntnis spezifischer statistischer Techniken, die ein Datenwissenschaftler anwenden kann, um algorithmische Verzerrungen zu erkennen und zu beseitigen

Für wen dieses Buch gedacht ist

Führungskräfte von Unternehmen, die Algorithmen im täglichen Betrieb einsetzen; Datenwissenschaftler (von Studenten bis hin zu erfahrenen Praktikern), die Algorithmen entwickeln; Compliance-Beamte, die über algorithmische Verzerrungen besorgt sind; Politiker, Journalisten und Philosophen, die über algorithmische Verzerrungen im Hinblick auf ihre Auswirkungen auf die Gesellschaft und mögliche regulatorische Maßnahmen nachdenken; und Verbraucher, die darüber besorgt sind, wie sie von algorithmischen Verzerrungen betroffen sein könnten

Zielgruppe

Professional/practitioner

Autoren/Hrsg.

Bär, Tobias

Baer, Tobias

Fachgebiete

• Mathematik | Informatik EDV | Informatik Daten / Datenbanken Zeichen- und Zahlendarstellungen
• Mathematik | Informatik EDV | Informatik Technische Informatik Computersicherheit
• Mathematik | Informatik EDV | Informatik Daten / Datenbanken Kryptologie, Informationssicherheit
• Mathematik | Informatik EDV | Informatik Informatik Theoretische Informatik
• Mathematik | Informatik EDV | Informatik Daten / Datenbanken Data Mining

Inhaltsverzeichnis

Teil I: Eine Einführung in Vorurteile und Algorithmen.- Kapitel 1: Einführung.- Kapitel 2: Vorurteile in der menschlichen Entscheidungsfindung.- Kapitel 3: Wie Algorithmen Entscheidungen verfälschen.- Kapitel 4: Der Modellentwicklungsprozess.- Kapitel 5: Maschinelles Lernen in Kürze.- Teil II: Woher kommen die Vorurteile von Algorithmen?.- Kapitel 6: Wie Vorurteile der realen Welt von Algorithmen gespiegelt werden.- Kapitel 7: Die Voreingenommenheit von Datenwissenschaftlern.- Kapitel 8: Wie Daten Voreingenommenheit einführen können.- Kapitel 9: Die Stabilitätsvoreingenommenheit von Algorithmen.- Kapitel 10: Voreingenommenheit durch den Algorithmus selbst.- Kapitel 11: Algorithmische Voreingenommenheit und soziale Medien.- Teil III: Was man aus Sicht der Nutzer gegen algorithmische Voreingenommenheit tun kann.- Kapitel 12: Optionen für die Entscheidungsfindung.- Kapitel 13: Bewertung des Risikos algorithmischer Verzerrungen.- Kapitel 14: Wie man Algorithmen sicher einsetzt.- Kapitel 15: Wie man algorithmische Verzerrungen erkennt.- Kapitel 16: Managementstrategien zur Korrektur algorithmischer Verzerrungen.- Kapitel 17: Wie man unverzerrte Daten generiert.- Teil IV: Was man gegen algorithmische Verzerrungen aus der Sicht eines Datenwissenschaftlers tun kann.- Kapitel 18: Die Rolle des Datenwissenschaftlers bei der Überwindung algorithmischer Verzerrungen.- Kapitel 19: Eine Röntgenuntersuchung Ihrer Daten.- Kapitel 20: Wann maschinelles Lernen eingesetzt werden sollte.- Kapitel 21: Wie maschinelles Lernen mit traditionellen Methoden kombiniert werden kann.- Kapitel 22: Wie Verzerrungen in selbstverbessernden Modellen verhindert werden können.- Kapitel 23: Wie Debiasing institutionalisiert werden kann.

Über Autor(innen)

Tobias Baer ist Datenwissenschaftler, Psychologe und Top-Management-Berater mit über 20 Jahren Erfahrung in der Risikoanalyse. Bis Juni 2018 war er Master-Experte und Partner bei McKinsey & Co. und baute dort 2004 das Risk Advanced Analytics Center of Competence von McKinsey in Indien auf, leitete die Credit Risk Advanced Analytics Service Line weltweit und betreute Kunden in über 50 Ländern zu Themen wie der Entwicklung analytischer Entscheidungsmodelle für das Underwriting von Krediten, die Preisgestaltung von Versicherungen und die Steuervollstreckung sowie zu Entlastungsentscheidungen. Tobias hat eine Forschungsagenda rund um Analytik und Entscheidungsfindung verfolgt, sowohl bei McKinsey (z.B. zur Entlastung von Urteilsentscheidungen und zur Nutzung von maschinellem Lernen zur Entwicklung hochtransparenter Vorhersagemodelle) als auch an der University of Cambridge, UK (z.B. die Auswirkung mentaler Ermüdung auf Entscheidungsvoreingenommenheit).Tobias hat einen Doktortitel in Finanzwissenschaften von der Universität Frankfurt, einen MPhil in Psychologie von der Universität Cambridge, einen MA in Wirtschaftswissenschaften von der UWM und hat ein Grundstudium in Betriebswirtschaft und Jura an der Universität Gießen absolviert. Er begann bereits als Teenager, in einem deutschen Software-Magazin über Programmiertricks für den Commodore C64 zu schreiben, und bloggt nun regelmäßig auf seiner LinkedIn-Seite.