Munkes Mind Was kommt nach dem Pulverdampf? Welche Fragen wir zu ChatGPT beantworten müssen

Laut Jörg Munkes zieht der Rauch nach dem ersten großen Knall bei ChatGPT ziemlich schnell weg. (Bild: picture alliance / dpa Themendienst | Christin Klose)

Vor kurzem fand bei uns in der Stadt ein großer Jahrmarkt statt, der insgesamt sieben Tage dauerte. Im Vorfeld der Kirmes befragte unser 15jähriger Sohn ChatGPT, wie viel Geld ihm denn für seine diversen Jahrmarktbesuche eigentlich zustünde. Die KI redete zu Beginn noch etwas um den heißen Brei à la „man sollte bedenken…“ und „es muss auch beachtet werden…“, um ihn schließlich wissen zu lassen: 150-200 EURO sind angemessen! Wir haben insgesamt vier Kinder. Es gibt vermutlich kostengünstigeren Familienspaß, dachten wir uns. Mein Sohn ließ ChatGPT übrigens auch Argumente liefern, warum seine 11jährige Schwester weniger Geld bekommen sollte als er. Aus den Antworten (und ähnlichen Erfahrungen mit KI), leiten sich für mich vier grundsätzliche Fragen ab.

Erstens: Korrektheit - Wie wird die KI validiert?

Sehr schnell wird bei der Verwendung von ChatGPT klar: Diese KI kann Erstaunliches, sie ist aber nicht unfehlbar! Häufig lassen sich Fakten leicht prüfen und Fehler oder Ungenauigkeiten entlarven. Im Kontext von Fragestellungen, bei denen mangelnde Korrektheit eine sehr große Tragweite hat, kann das unangenehm werden. Beispiel: Prognosen im Bankenbereich, bei denen es um die Vergabe von Krediten geht. Oder Klassifikationen im Kontext von Hochschul-Zulassungen: Entscheidungen können hier Lebensschicksale beeinflussen.

In unserer Branche geht es zwar häufig „nur“ um Geld oder Investitionen – die können allerdings sehr schnell siebenstellig oder höher ausfallen. Den „Goldstandard”, um eine KI zu überprüfen, stellen indes kontrollierte Studien dar, in denen Funktionsweise oder Wirksamkeit der KI mit einer Kontrollgruppe ohne KI verglichen werden. Wir kennen dieses Vorgehen aus der Pharmaforschung: Niemand würde ein Medikament zulassen, nur weil es einen bestimmten Stoff mit einer behaupteten Wirkung beinhaltet, ohne dass dies auch in einer Studie nachgewiesen würde.

Brauchen wir also ein Gütesiegel für KI oder gar eine staatliche Regulation, wie dies bei Medikamenten der Fall ist?

Zweitens: Moral - Wer verleiht KI die ethische Richtschnur?

Fasst man KI als Tool auf, dann wäre sie doch im Grunde frei von Moral, oder? Analog etwa zu einem Messer würde gelten: Der oder die Nutzende ist einzig und allein für Art und Weise des Einsatzes (im Beispiel: Gebrauchsgegenstand oder Waffe) verantwortlich.

Im Falle von KI ist dies allerdings komplexer. Hier muss (oder kann) dem oder der Nutzenden nicht unbedingt bewusst sein, was die KI eigentlich macht. Beispiel: Die Gehaltsempfehlung einer KI für eine Frau könnte niedriger ausfallen als für einen gleich gut ausgebildeten Mann, weil die Daten, auf denen die Empfehlung des Algorithmus basieren, den Gender-Pay-Gap beinhalten. Die KI würde hier demnach eine geschlechtsspezifische Diskriminierung fortschreiben. Um dies zu vermeiden, müsste man ihr verbieten, Geschlecht als Kriterium für die Empfehlung zu nutzen (sofern es überhaupt transparent ist, dass dieses Merkmal in die Empfehlung eingegangen ist). Wie kann also die Wirkweise einer KI so transparent gemacht werden, dass der Mensch den Effekt der KI nicht nur auf Korrektheit, sondern auch auf moralische Angemessenheit prüfen und beurteilen kann?

Drittens: Kreativität - Ist KI dazu überhaupt in der Lage?

Durchaus – solange wir immer dann von Kreativität sprechen, wenn etwas Neuartiges geschaffen wird. Denn auch die Re-Kombination von, beispielsweise, existierenden Ideen, kann ein neuartiges Produkt hervorbringen. Und ChatGPT macht grundsätzlich nichts anderes: Es „würfelt“ bestehendes Wissen, Daten und Fakten neu zusammen. Gleichwohl ergeben sich darüber hinaus zwei Folgefragen.

Erstens: Ist KI dann auch in der Lage, zu erkennen und zu bewerten, wie kreativ eine neue Lösung (oder wie nützlich ein neues Produkt) ist oder bedarf es hierfür menschlicher Expertise?

Zweitens: Kann KI Probleme und Fragestellungen, die einer kreativen Lösung bedürfen, initial erkennen, also: Kann KI aus sich heraus Kreativität anstoßen?

Mehr zum Thema

Munkes Mind Faster, cheaper, better – oder die Quadratur des Kreises

Munkes Mind Gendern… muss das denn sein?

Sebastian Stahlhofen, Talk Online Panel & Christoph Welter, Point Blank & Dr. Uwe H. Lebok, K&A BrandResearch „Können wir mit unseren Skills einen Beitrag zu einer besseren Welt leisten?“

Michael Kutz, Produkt+Markt „Aktuell erleben wir die KI als sehr hilfreichen Kollegen“

Viertens: Anwendung - Welche Skills bedarf es, um mit KI zu arbeiten?

Wer ChatGPT nach der Rolle der KI in der Marktforschung frägt, erhält zuerst einige Abschnitte zu Vorteilen (Automatisierung von Prozessen, Erkennen von Zusammenhängen in großen Datenmengen). Danach folgt diese Aussage: „However, it's important to note that AI in market research is not a substitute for human analysis and interpretation. While AI can help to identify patterns and trends, it still requires human input to understand and contextualize the results.”.

Um Ergebnisse zu verstehen und zu kontextualisieren, bedarf es demnach eines konzeptionellen Verständnisses von Menschen und Marken. Und dieser Sichtweise würde ich mich definitiv und voller Überzeugung anschließen!

Daneben ist es unabdingbar, KI steuern zu können, also zu verstehen, wie sie funktioniert.

Damit meine ich nicht, dass der Algorithmus der KI durchdrungen werden muss, sondern: Die Reaktionen von KI auf bestimmte Anweisungen müssen verstanden werden. “Prompting” ist hierbei das relevante Stichwort. Und diesbezüglich stecken wir noch in den Kinderschuhen. Denn: Gerade bei ChatGPT ist die Bedienung der KI mittels Sprache intuitiv einfach – die Steuerung der KI bedarf allerdings weitergehender Skills.