Das wird die Unternehmen sicher tierisch interessieren ob sie das dürfen oder nicht.
this post was submitted on 07 Dec 2023
82 points (100.0% liked)
DACH - jetzt auf feddit.org
8872 readers
1 users here now
Diese Community wird zum 01.07 auf read-only gestellt. Durch die anhäufenden IT-Probleme und der fehlende Support wechseln wir als Community auf www.feddit.org/c/dach - Ihr seid herzlich eingeladen auch dort weiter zu diskutieren!
Das Sammelbecken auf feddit für alle Deutschsprechenden aus Deutschland, Österreich, Schweiz, Liechtenstein, Luxemburg und die zwei Belgier. Außerdem natürlich alle anderen deutschprechenden Länderteile der Welt.
Für länderspezifische Themen könnt ihr euch in folgenden Communities austauschen:
Eine ausführliche Sidebar findet ihr hier: Infothread: Regeln, Feedback & sonstige Infos
Auch hier gelten die Serverregeln von https://feddit.de !
Banner: SirSamuelVimes
founded 1 year ago
MODERATORS
Und wenn du sie drauf hinweist können sie dich leider nicht für die Wohnung berücksichtigen
Eben. Gerade bei Miete ist es doch jetzt schon so, dass alle möglichen Ausreden genannt werden, und nicht, dass der Score zu schlecht war oder dass der andere Bestechungsgeld gegeben hat.
Oder dass der Bewerber den falschen ethnischen Hintergrund hatte.
Oder einfach nur einen "ausländisch klingenden" Nachnahmen. Oder noch banaler: Aktuell noch in der "falschen Straße" wohnend.
Welche Existenzgrundlage hat die Schufa denn sonst noch außer dieses legalisierten kriminellen Monopols, das über gut und schlecht entscheiden darf?
Naja, Banken dürfen sich halt jetzt nicht mehr ausschließlich auf den Schufa-Score stützen. Aber viele Banken machen nebenbei noch ein paar eigene Kontrollen, z.B. kontrollieren Einkommen und Ausgaben anhand von Kontoauszügen, und das geht genauso automatisch. Wird sich de facto nichts ändern, nur die Begründung auf dem Ablehnungsschreiben wird neu formuliert.
TLDR: Banken werden dir ab jetzt nicht mehr sagen, dass sie dich ablehnen wegen des Schufa Scores. Ansonsten alles wie gehabt.
Wie stellen sie sich das denn vor das nicht "nur" auf dieser Grundlage zu machen?
Soll das heißen man braucht z.B. 3 Kriterien und muss sowohl bei Zusagen als auch bei Ablehnung immer mindestens zwei haben die in die entsprechende Richtung zeigen? Was hindert eine Firma daran zu sagen "Aus unseren 5 Kriterien ist eins dass wir nur Verträge mit Leuten machen deren Nachname in der ersten Hälfte des Alphabets liegt und eines dass wir nur Verträge mit Leuten machen deren Nachname in der zweiten Hälfte des Alphabets liegt und daher haben wir immer ein zusätzliches Ablehnungskriterium in Reserve neben der Schufa-Bonitätsprüfung" (etwas verschleierter als so aber effektiv mit der gleichen Wirkung)?
Die Verordnung schreibt vor, dass Entscheidungen, die für Betroffene rechtliche Wirkung entfalten, nicht nur durch die automatisierte Verarbeitung von Daten getroffen werden dürfen.
Also wenn ich manuell die genau gleiche Berechnung durchführe ist das okay?
Du kannst auch einfach gar nicht antworten (als Vermieter z.B. nicht auf Nachfragemails reagieren), oder dir einfach eine andere Begründung aus den Fingern saugen, wie bisher auch schon.
Mein Punkt war dass Automatisierung hier doch nicht das Problem ist, im Gegenteil, Automatisierung heißt eigentlich wenn überhaupt bessere Nachvollziehbarkeit wie eigentlich entschieden wird. Manuelle Entscheidungen führen nämlich genau zu dem was du gerade beschrieben hast.
Mit KI sind teilweise selbst die automatisierten Entscheidungen schlecht nachvollziehbar.
Das stimmt wohl aber diese Art von Regelungen kommen meist von den Leuten die das Wort Algorithmus verwenden als wäre es etwas schlechtes.
Es ist vlt. noch nicht okay, aber es ist zumindest deutlich besser.
Das bedeutet, dass zumindest ein Memsch drübergeschaut haben muss und Fehler im System bemerkt werden können (Wenn das gewollt ist). Vollautomatische Systeme die komplexe Entscheidungen treffen können unentdeckte Fehler lange mitschleppen. Gerade wenn z.B. ein neuronales Netz die Bonität prüft können so Fehlschlüsse wie "ausländischer Name = schlecht" oder der Schufaklassiker Postleitzahl als Einflussfaktor rauskommen.
Dann sollen sie vorschreiben dass hier ein bekannter, nachvollziehbarer Algorithmus verwendet werden muss statt irgendwelcher AI-Verfahren, das ist aber nicht das gleiche with manuell und Automatisierung. Im übrigen schleppen gerade manuelle Prozesse auch sehr oft problematische Verfahren über Jahrzehnte mit ohne dass jemand groß darüber nachdenkt.
In der Tagesschau sagten sie gerade, die Schufa hätte Daten über 80 Millionen Einwohner Deutschlands. Nach Daten von 2021 hat Deutschland 83.237.124 Einwohner, davon 13,9 Millionen Kinder und Jugendliche unter 18 Jahren. Heißt das also, man wird spätestens als Kita-Kind bei der Schufa registriert???
vielleicht ein paar Tote dabei.
Wäre interessant zu wissen, ob und wann sie Daten von Verstorbenen löschen müssen. Sonst bekommt man keinen Kredit, weil der vor 10 Jahren verstorbene Opa eine schlechte Bewertung hatte. "Ja, liegt in der Familie! Die zahlen ihre Schulden nie zurück!"