Manuel Pfeifer, Pricefx Was Apple Kreditkarten und Pricing mit Hilfe Künstlicher Intelligenz verbindet

Die Verwendung von künstlicher Intelligenz (KI) und maschinellem Lernen (ML) ist nicht nur in Bezug auf Preisoptimierung in aller Munde. Es gibt in vielen Bereichen verschiedene Anwendungsfälle für KI/ML, welche nicht immer von Erfolg gekrönt sind. So ist Apple bei dem Einsatz eines Black Box Algorithmus zur Vergabe von Kreditkartenlimits ein Fauxpas unterlaufen, welcher im Kontext geschlechtlicher Diskriminierung für Aufsehen sorgte. Die hieraus gewonnenen Erkenntnisse können dabei helfen, ähnliche Fehler in einem B2B-Pricing Kontext zu vermeiden und anhand von drei Schritten eine erfolgreiche Anwendung von Algorithmen zu unterstützen.

Das Risiko von Black Box Algorithmen am Fall der Apple Kreditkarte

Stellen Sie sich vor, Sie sind eine Frau, Sie beantragen eine Kreditkarte und Sie erhalten ein geringes Kreditlimit. Zeitgleich beantragt auch Ihr Ehemann mit dem gleichen finanziellen Hintergrund, wie Einkommen und Ersparnisse, die gleiche Kreditkarte - er jedoch erhält ein zehn- bis zwanzigmal höheres Kreditlimit als Sie. Daraufhin fragen Sie beim Aussteller der Kreditkarte nach, woraus sich dieser signifikante Unterschied ergibt. Der Mitarbeiter vom Kundenservice antwortet Ihnen darauf, dass diese Entscheidung von einem Algorithmus getroffen wurde und er Ihnen nicht weiter erläutern kann, wie genau es dazu kommt. Wie würden Sie sich dabei fühlen?

Im November 2019 wurden ähnliche Fälle von Frauen, darunter auch die des Apple Mitgründers Steve Woziniak, publik. Die Frauen erhielten im Vergleich zu ihren Ehemännern ein zehn- bis zwanzigmal geringeres Kreditkartenlimit und das trotz eines gemeinsamen Bankkontos und der gemeinsamen steuerlichen Veranlagung. Sie hatten eine Apple Kreditkarte beantragt, bei der ein vermeintlich ausgeklügelter Black Box Algorithmus zur Bestimmung des Kreditlimits verwendet wurde.

KI-Entscheidungen beeinflussen heute viele Aspekte unseres täglichen Lebens. Von Krediten und Kreditkarten über Kfz-Versicherungen bis hin zum Zugang zu Universitäten. In vielen Situationen liefert die KI wenig oder keine Gründe für ihre Entscheidung. Diese Form der KI, auch Black Box KI genannt, kann aufgrund ihrer potenziell diskriminierenden Entscheidungen für ein negatives Aufsehen sorgen.

Risiken intransparenter Algorithmen im Pricing

Wie hängt dieser Fall von Apple mit Pricing zusammen und welche Erkenntnisse können wir als B2B-Preisverantwortliche daraus gewinnen? Die Verwendung künstlicher Intelligenz zur Ermittlung des "perfekten Preises" ist im Pricing-Umfeld omnipräsent. So könnten beispielweise in einem B2B-Szenario Kundenpreise anhand von Black Box Algorithmen ermittelt werden, welche der Verkäufer an seinen Kunden übermittelt. Ohne dem Verkäufer weitere Informationen und Argumente an die Hand zu geben, könnte dieser bei Rückfragen seitens des Kunden lediglich auf den Algorithmus verweisen.

Diese Thematik wirft folgende grundlegende Fragen auf:

• Welcher Situation wird hierbei der Verkäufer ausgesetzt?
• Ist der Verkäufer mit ausreichend starken Argumenten ausgestattet, um in den Kundenverhandlungen die neuen Preise erfolgreich durchsetzen zu können?
• Wie fühlt sich ein Kunde, dessen Preiserhöhung künftig mit dem alleinigen Verweis auf einen Algorithmus begründet wird? Ist dies in seinen Augen eine valide Antwort?
• Wie wirken sich solche Situationen langfristig auf die Kundenbeziehung und den eigenen Unternehmenserfolg aus?

Die Anwendung von Algorithmen im Pricing ist jedoch keinesfalls immer etwas negativ behaftet, denn es gibt viele Situationen, in denen es sich für beide Seiten als äußerst effektiv und vorteilhaft erwiesen hat. Man muss sich in diesem Kontext jedoch auch der Risiken, wie zum Beispiel mögliche Auswirkungen auf die Kundenbeziehungen und die Reputation des Unternehmens, bewusst sein. So geschehen bei der Anwendung einer KI zur Ermittlung des Kredit-Scores im Fall von Apple. Es ist daher wichtig, sicherzustellen, dass Entscheidungen im Einklang mit Ihren Geschäfts- und Preisstrategien getroffen werden, und die zugrundeliegenden Entscheidungsfaktoren nachvollziehbar sind.

Drei Schritte zur sicheren und erfolgreichen Anwendung von Algorithmen

Wie können Sie also die Leistungsfähigkeit von künstlicher Intelligenz effektiv nutzen, ohne möglicherweise Ihre Reputation und Kundenbeziehungen zu riskieren?

Der nachfolgend skizzierte, dreistufige Prozess kann Ihnen dabei helfen, diese Herausforderung zu meistern:

1. Verstehen

Stellen Sie sicher, dass Sie ein adäquates Verständnis für die von Ihnen verwendeten KI Algorithmen haben. Auf diese Weise können Sie effektiv den besten Algorithmus für jeden Anwendungsfall auswählen.

2. Validieren und Entscheiden

Überprüfen Sie die vom Algorithmus getroffenen Entscheidungen und nehmen Sie nichts für bare Münze. Vergleichen Sie die Ergebnisse mit Ihren Geschäfts- oder Preisstrategien. Wählen Sie die Elemente aus, die für Ihre Vertriebsmitarbeiter leichter zu erklären und für Kunden einfach zu verstehen sind.

3. Kommunizieren

Sobald Ihr Verkaufsteam über die entsprechenden Tools und Informationen verfügt, kann es mit den Kunden auf Augenhöhe verhandeln und erfolgreiche Geschäftsbeziehungen nachhaltig sicherstellen.

Hätte der skizzierte Ansatz auch Apple geholfen?

Der zuvor beschriebene Ansatz hat sich im Pricing-Umfeld bereits bewährt. Insbesondere im zweiten Schritt - Validieren und Entscheiden - könnten Unstimmigkeiten zwischen der angedachten Strategie und den vom Algorithmus erkannten Mustern identifiziert und im Sinne der Strategie ausgerichtet werden. Hierzu zwei Beispiele:

1. Der Algorithmus erkennt bei einem Produkt eine Preisdifferenzierung in Höhe von 8% aufgrund unterschiedlicher Farbvarianten und schlägt vor, diese beizubehalten. Aus strategischer Sicht ist dies jedoch nicht gewünscht und man hat die Varianten preislich aneinander angeglichen.
    
2. Aus preisstrategischer Sicht soll nach antistatischen und nicht-antistatischen Schutzbeuteln differenziert werden, da die antistatischen Produkte aus Kundensicht einen höheren Wert haben. Der Algorithmus konnte anhand der bisherigen Transaktionen keinen signifikanten Preisunterschied identifizieren und schlägt dies daher auch künftig nicht vor. Durch eine bewusste Entscheidung für die Differenzierung kann diese zukünftig erfolgen.

Analog hierzu hätte Apple zumindest während des Validierungs- / Entscheidungsschritts erfahren, dass der Algorithmus das Geschlecht als Unterscheidungsmerkmal berücksichtigen und Frauen einen schlechteren Kredit-Score vergeben würde. Dies hätte Apple letztendlich ermöglicht, manuell zu intervenieren, anders zu entscheiden und schlechte Publicity zu vermeiden.

Fazit

Wechseln Sie beim Einsatz von KI/ML Algorithmen von einer Black Box zu einem transparenten Ansatz, um die Transparenz auf Unternehmens- sowie Kundenseite zu erhöhen und das Agieren in Übereinstimmung mit Ihrer strategischen Ausrichtung nachhaltig sicherzustellen.

Manuel Pfeifer, Pricefx