In unseren News aus der Insurtech-Welt tauchen immer häufiger Unternehmen auf, die Prozesse mittels Künstlicher Intelligenz optimieren und automatisieren wollen. Nur wie sieht es mit dem ethischen Aspekte bei Big Data und KI aus?
Systeme, die Künstliche Intelligenz (in der Regel Machine Learning und Mustererkennung) nutzen, begutachten die Schadenmeldung von Versicherten, oder analysieren das Risiko, das sich aus den Daten eines Antrags ablesen lässt. Sekundenschnell treffen sie eine Entscheidung. Aber tut die Technik das immer im Sinne der Menschen? Und wie halten es die Versicherungsunternehmen mit diesem Thema?
Die irische Zentralbank hat zum Thema „Data Ethics Within Insurance“ eine Untersuchung vorgelegt, die einige Aspekte im Zusammenhang mit Datenethik herausarbeitet.
Datenethik?
Wenn es um die Tarifierung, Anträge und das Underwriting von Risiken geht, verlassen sich Versicherungen schon immer auf Daten. Und die Versicherungswirtschaft gehörte auch zu den ersten Branchen, die Informationstechnologie in ihren Prozessen adaptierte.
Doch mit der fortschreitenden Digitalisierung, dem Einsatz immer größerer Datenmengen (Big Data) und schließlich der Entwicklung von Systemen der Künstlichen Intelligenz steht Versicherern und Insurtechs jetzt eine Art digitaler Glaskugel zur Verfügung.
Der Einsatz solcher Systeme kann für die am Ende betroffenen Menschen aber auch nachteilig sein. Und genau damit beschäftigt sich die Datenethik.
Eine Definition lautet, dass Datenethik „die Diskussion über die moralischen Prinzipien, die bei der Datenverarbeitung und -nutzung berücksichtigt werden sollten, sowie die Suche nach Lösungen für potenzielle ethische Herausforderungen“ umfasst.
„Datenethik zielt darauf ab, die Rechte, Privatsphäre und Autonomie der betroffenen Personen zu schützen und sicherzustellen, dass Daten in einer fairen und verantwortungsvollen Weise genutzt werden.“
Nun ist der Aspekt der Fairness im Kontext der Datennutzung nicht ganz neu. Wenn ich meinen Haushalt in einer Gegend habe, in der statistisch mehr Einbrüche stattfinden, als das zwei Straßen weiter der Fall ist, habe ich eben ein anderes Risiko für einen Diebstahl. Und das fließt in meine Risikobewertung und den Tarif ein.
Ist das fair?
Auf den ersten Blick scheint das zwar nicht fair, aber es ist transparent und nachvollziehbar. KI-Systeme verändern allerdings dieses Spiel, da es bei ihrer Arbeit nicht allein auf den Prozess der Entscheidung ankommt. Denn hier treffen die berühmten Algorithmen, die von Menschen gemacht werden, auf Daten, mit denen sie trainiert wurden. Und bereits an der Stelle kann etwas falsch laufen.
Erhält das System nur Informationen darüber, dass grüne Kleinwagen regelmäßig mit einem Totalschaden enden, wird es am Ende für den Halter eines solchen Fahrzeugs tendenziell schwer, fair behandelt zu werden.
Genau diesen Problemen widmet sich die Datenethik: Ersetzen Sie mal „Kleinwagen“ durch „Mensch“ und die „grüne Farbe“ durch Herkunftsland oder Hautfarbe…
Versicherer setzen KI und Big Data bereits in großem Maße ein
Die Studie der Zentralbank zeigt, dass die meisten Unternehmen Big Data und KI in gewissem Umfang entweder bereits in ihrem Unternehmen und in der gesamten Wertschöpfungskette einsetzen oder dies in den kommenden drei Jahren beabsichtigen.
Im Einzelnen zeigte sich, dass alle befragten Unternehmen die Technologie in der Preisfindung- und Zeichnungsphase einsetzen. Weitere Einsatzgebiete sind die Verkaufs-, Vertriebs- und Marketingphase.
Einigkeit herrscht unter den Versicherern darüber, dass sich Big Data und KI am stärksten auf die Preisgestaltung und das Underwriting auswirken wird. Andere Bereiche, die als stärker betroffen angesehen wurden, sind die Produktentwicklung und das Schadenmanagement.
Datenethik geht leider unter
Wie das Ergebnis der Studie nun zeigt, sind sich die Versicherer einiger Problemkreise bei der intensiven Nutzung von Daten bewusst. Alle Firmen verfügen über eine sogenannte „Data Governance“, also Richtlinien, was im Umgang mit Daten zu beachten ist. Dabei zeigt sich, dass die Firmen, die Teil eines größeren Konzerns sind, fortgeschrittener sind.
Allerdings spielen im Zuge der Data Governance die „klassischen“ Gesichtspunkte die wichtigste Rolle, also Sicherung der Datenqualität und Integrität.
Die meisten Unternehmen verfügen nicht über ausdrückliche Definitionen der Datenethik oder spezifische Strategien in Bezug auf die Datenethik. Was indes schwerer wiegt, ist die Tatsache, dass sich viele Unternehmen nur mit der DSGVO und IT-Sicherheit als Antwort auf Fragen im Zusammenhang mit datenethischen Überlegungen beschäftigen.
Und das ist schlecht, denn mit ethischen Überlegungen hat das eher am Rande zu tun. Wie sich zeigt, verfügen die meisten Firmen in Bezug auf KI- und Analyse-Modelle weder über ein unternehmensweites Modellinventar noch über Modellrisikoverfahren.
Mit anderen Worten arbeiten KI-Systeme an verschiedenen Stellen des Versicherers und treffen auch Entscheidungen. Nur gibt es keine Übersicht, wo das überall bereits der Fall ist, noch wurden die Datenmodelle darauf untersucht, ob sie ethische Prinzipien verletzen.
Die Risiken für die Versicherten
Der Report benennt in diesem Zusammenhang auch die eindeutigen Risiken für die Versicherten und weist ausdrücklich hin, dass diese in den kommenden drei Jahren zunehmen werden. Zumindest, sofern die Unternehmen keine Maßnahmen und Strategien zur Datenethik etablieren.
Dazu zählen die Gefährdung des Solidaritäts- und Pooling-Prinzips, die mangelnde Erklärbarkeit von Entscheidungen, Marginalisierung und Ausgrenzung von Kund:innen sowie deren Diskriminierung und unfaire Behandlung.
Dies wiederum setzt aber auch die Versicherer erheblichen Risiken aus. Im günstigsten Fall verlieren sie lediglich Kund:innen, wenn diese mit intransparenten Entscheidungen nicht zufrieden sind. Im schlimmsten Fall verstoßen sie aber gegen geltende Gesetze, was wiederum teuer werden kann.
Es wird damit wohl Zeit, sich langsam mal mit Datenethik zu beschäftigen.
