Der freie Onlinedienst zum Thema Selbstauskunft
Artikel vom 11.04.2025
Finanzen, Job, Wohnung & Co.: So prägt KI die Auswahlverfahren der Zukunft
Ab sofort Hand in Hand - Experian und Creditreform. Das global agierende Data- und Analyticsunternehmen und der führende Wirtschaftsinformations- und Inkassoriese gehen innovative Wege in der Bonitätsbewertung. Künstliche Intelligenz (KI) gehört dazu. Wie verändert KI die Praxis von Auswahlverfahren und Bonitätsbewertung? Und was hat der neue AI Act der EU damit zu tun?
KI basierte Identitätsprüfung und Risikobewertung
Experian will seine Position in Deutschland durch die Creditreform Daten- und Vertriebspartnerschaft und den Kauf von Boniversum ausbauen. Wieviel für die Wirtschaftsauskunftei hingeblättert wurde, ist geheim. Experian, das ist ein milliardenschwerer, globaler Technologieplayer mit Sitz in Irland, der den deutschen Markt für Finanz-, Daten- und Technologieservices aufmischt. Sein Job: KI-basierte Datenanalysen für die Kreditwirtschaft liefern - und Schufa Konkurrent Boniversum hat das Data Universe, um eine nie dagewesene Datenbasis für Identitätsprüfung und Risikobewertung zu schaffen. Zu den erklärten Experian Zielen gehören Schutz vor digitalem Identitätsklau sowie ein besserer Zugang privater Verbraucher zu Krediten, Mobilfunkverträgen oder Online-Shopping.
Come together! Experian, Infoscore und Bertelsmann
Da klingelt doch was? Stimmt - auch die Auskunftei Infoscore Consumer Data GmbH gehört schon zu 60 Prozent zu Experian, der Rest zu Arvato, Bertelsmann. Daten von Banken, Versandhändlern und Inkassofirmen, Firmen der Bertelsmann Gruppe sowie von Nahverkehrsunternehmen und Deutscher Bahn sind im Datenpool, mit Infos in zweistelliger Millionenhöhe zu negativem Zahlungsverhalten von mehr als 7,8 Mio. Konsumenten. Also findet zusammen, was global zusammengehört: Großbanken von JP Morgan über HSBC bis Barclays, aber auch Automobilhersteller nutzen die Kreditmodell-Dienste von Experian - gestützt auf KI und cloudbasierte Software.
Freie Bahn für ein freies Spiel der Kräfte und KI?
Wäre da nicht der AI Act der Europäischen Union: KI einsetzende Firmen und Organisationen müssen ihre Systeme auf das Risiko prüfen, dass Verbraucherrechte beschnitten werden. Seit dem 2. Februar 2025 in Kraft, definiert der AI Act neue Regeln für den KI-Einsatz - und untersagt z. B. Socialscoring durch Programme, die Eigenschaften oder Verhalten von Bürgern auswerten. Parallel werden Unternehmen vom KI-Versprechen immenser Zeit- und Kostenersparnis angelockt: Künstliche Intelligenz erfasst peu à peu alle Lebensbereiche. Wie Recruiting oder Wohnungssuche, wo sich auch immer mehr Genossenschaften KI gern zur personellen Entlastung bedienen. Oft als Konzept unausgegoren, aber mit gravierenden Folgen: Bewerbungen sind einzureichen, Formulare wie die Mieter-Selbstauskunft auszufüllen, dann hört der Job- oder Wohnungsbewerber nichts mehr, ggf. landet noch eine unpersönliche Absage im E-Mail-Postfach.
Job, Wohnung, Finanzen: Wenn KI Bewerber filtert
Wie kommt das? Ab sofort trifft die KI eine automatisierte Vorauswahl, der Rest hat keine Chance auf Arbeitsvertrag oder Mietvertrag. Denn die übrigen Bewerber bleiben für Mitarbeiter aus Fleisch und Blut schlicht unsichtbar. Wird nur nach Finanzstärke gefiltert, fallen Faktoren wie z. B. die individuelle Dringlichkeit einer Wohnung unter den Tisch. Schon jetzt meinen Experten, dass solche Praxis gegen Artikel 22 Absatz 1 Datenschutzgrundverordnung (DSGVO) verstößt - und Unternehmen bis zu 20 Mio. Euro Bußgeld bzw. bis zu vier Prozent des Vorjahresumsatzes drohen können. Bereits das so genannt Schufa-Score-Urteil des Europäischen Gerichtshofs (EuGH) vom August 2024 machte klar: Eine rein KI-gestützte Bewerber-Vorauswahl ignoriert das Recht, keiner benachteiligenden Entscheidung ausgeliefert zu werden, die rein durch automatisierte Verarbeitung zustande kommt. Doch was, wenn KI - wie bei der Bewerberauswahl um Wohnung oder Job - nur hilft, eine individuelle Entscheidung vorzubereiten?
Laut EuGH problematisch: KI bereitet Entscheidung maßgeblich vor
Wann prägt KI eine Entscheidung "maßgeblich"? Nach dem Schlussantrag des Generalanwalts zum Urteil dann, wenn ein Entscheider sich in der Regel auf das Resultat stützt, das das KI System ihm liefert. Wie sieht das konkret aus? People Analytics Programme durchkämmen alle Bewerbungen, um ein Bewerber-Ranking zu erstellen. Wie bitte, so Befürworter solcher Auswahlpraxis - auch bei handverlesener Auswahl schafft es nicht jeder ins Vorstellungsgespräch oder zur Wohnungsbesichtigung! Mag sein, aber Bewerber, die persönlich nachfassen, erfahren, dass sie gar nicht erst im Rennen sind. Und erst nachrücken, wenn alle durch die KI vorgeschlagenen Bewerber abgearbeitet sind.
Experian Studie: KI von 68 Prozent der Unternehmen erwünscht
Wo KI Entscheidungen vorbereitet, schwindet individuelle Einflussnahme auf Chancen und Entscheidungen. Ist KI erstmal zur Zeitersparnis implementiert, wird kaum jemand in Stichproben investieren, um händisch zu prüfen, ob ein ggf. verdienter Bewerber fälschlich benachteiligt wird. Und da schließt sich der Kreis - ein Prinzip, das identisch mit der Praxis ist, sich als Bank bei der Kreditvergabe allein auf den Schufa Score zu verlassen! Derweil ist man sich bei Experian - in 32 Ländern weltweit aktiv, 40 Milliarden Euro Marktkapitalisierung und acht Milliarden Euro Jahresumsatz - der Bedeutung des AI Act der Europäischen Kommission durchaus bewusst, als Game-Changer für KI-Innovation und branchenübergreifendes Risikomanagement. Laut Experian sind sich 68 Prozent der weltweit führenden Unternehmen einig, dass künftig KI entscheidet, wer im eigenen Sektor die Nase vorn hat.
KI findet finanziell kritische Kunden
Und das ist der, der die Einhaltung regulatorischer Vorschriften ernstnimmt. Experian stellt die dazu nötige automatisierte Modell-Risikodokumentation bereit. Für praktisch jede Branche, ob Finanzdienstleistungen, Versicherungen, Gesundheitsversorgung, Automobil- oder Agrarindustrie. Laut eigener Experian-Studie sind 62 Prozent der deutschen Führungskräfte überzeugt, dass generative KI (GenAI) die Risikobewertung stark verbessern wird. Für 41 Prozent der deutschen Risikoverantwortlichen hat es demnach Priorität, so genannte finanziell gefährdete Kunden zu identifizieren. Was weiß Experian über Sie? Eine Selbstauskunft gem. Art. 15 Datenschutz-Grundverordnung (DSGVO) können Sie bei der Infoscore Consumer Data GmbH beantragen.
Ziel: "Ganzheitlichere" Sicht auf Kreditnehmende ...
... durch maximale Verknüpfung von Datenquellen und Entscheidungssoftware, rechtlich wasserdicht, weil mit der Rechtsauffassung von EU und EuGH vereinbar. Nur Unternehmen, die KI-Systeme professionell überwachen, dürften langfristig auf der sicheren Seite sein. Denn noch gibt es umfassende Melde-, Dokumentations- und Sicherheitspflichten sowie das Recht Betroffener auf Erläuterung: Warum - nicht nur im Bereich Kreditvergabe, sondern auch bei Wohnung oder im Job - wurde bei mir diese Einzelfallentscheidung gefällt? Die künftigen Grenzen von KI werden künftige Gerichtsentscheidungen ziehen, die rechtliche Anforderungen für den konkreten KI-Einsatz entwickeln. Fazit: Verstößt der Einsatz von KI-Anwendungen in Auswahlprozessen gegen europäisches Recht, macht dieser kaum noch Sinn - schließlich soll KI ja Kosten sparen! Aber Deutschland bastelt schon an AI Act Ausnahmen.