Andreas Woppmann, advise research ChatGPT im Praxistest - Auswertung offener Nennungen durch eine KI

Die Codierung von Kundenfeedback etwa aus sozialen Medien kann man händisch oder mithilfe einer Künstlichen Intelligenz wie ChatGPT vornehmen. Letztere stellt sich dabei gar nicht einmal so schlecht an. (Bild: picture alliance / complize/Shotshop | complize)
Neben der Chatfunktion wurden bereits viele weitere Anwendungen aus unterschiedlichsten Bereichen getestet. Künftig könnte im Bereich Marketing die menschliche Erstellung von werblichen Posts in den sozialen Medien oder das Schreiben neuer Produktideen durch die KI ersetzt werden. Auch das Programmieren von Websites könnte langfristig ausgelagert werden.
Unzweifelhaft erscheinen die Leistungen dieses Chatbots als großen Sprung im Vergleich zu den Leistungen anderer KI-Systeme. Im Arbeitsleben kann man durch die Erbringung solcher Leistungen eine Zäsur erwarten.
Was ChatGPT glaubt, für die Marktforschung tun zu können
Deswegen haben wir uns Gedanken darüber gemacht, welche Aufgaben ChatGPT als KI-Software in der Marktforschung grundsätzlich übernehmen könnte. Daraufhin haben wir die Software erst einmal direkt gefragt:
„ChatGPT kann für Marktforschung in Deutschland eine Vielzahl von Aufgaben lösen. Eine davon ist die Erstellung von Umfragen. ChatGPT kann Fragen formulieren und die Antworten der Umfrageteilnehmer aufzeichnen und auswerten. Dadurch kann es wertvolle Einblicke in die Meinungen und Präferenzen der Zielgruppe liefern.
Eine weitere Aufgabe, die ChatGPT für die Marktforschung übernehmen kann, ist die Analyse von sozialen Medien-Daten. Es kann Beiträge, Kommentare und Reaktionen auf Social-Media-Plattformen sammeln und auswerten, um zu verstehen, wie die Zielgruppe über bestimmte Produkte oder Marken spricht und welche Themen für sie von Interesse sind.
Auch die Erstellung von Marktforschungsberichten kann von ChatGPT übernommen werden. Es kann die gesammelten Daten aufbereiten und in verständlicher Form präsentieren, um die Ergebnisse der Marktforschung leicht verständlich zu machen und Entscheidungen der Unternehmen zu unterstützen.
Schließlich kann ChatGPT auch in der Kundenservice-Branche eingesetzt werden. Es kann als virtueller Assistent fungieren und Fragen von Kunden beantworten, um schnell und effizient auf Anfragen zu reagieren.
Insgesamt kann ChatGPT durch seine Fähigkeit, große Mengen an Daten zu sammeln, zu analysieren und zu präsentieren, eine wertvolle Unterstützung bei Marktforschungsprojekten sein.“
Qualitative und quantitative Einsatzfelder getestet
Recht selbstbewusst wird ein ganzes Spektrum an Einsatzmöglichkeiten vom Chatbot offengelegt. Aber was ist da dran? Als Innovationsliebende haben wir die Software gezielten Tests unterzogen, um zu prüfen, wie einsatzfähig die KI in der quantitativen und qualitativen Marktforschung wirklich ist. Und die Ergebnisse waren schon recht verblüffend.
Ein Bereich, der uns sehr interessiert und in dem schon länger mit mehr oder weniger gutem Erfolg KI eingesetzt wird, ist die Codierung offener Nennungen. Diese Codierungen, zum Beispiel von Likes und Dislikes in sozialen Netzen oder Kommentarspalten bei Kundenzufriedenheitsbefragungen, sind meist mit hohem manuellem (Zeit- und Kosten-) Aufwand verbunden. Gleichzeitig ist aber dieser (qualitative) Input sehr wichtig für ein gutes Verständnis und bei hohen Qualitätsansprüchen recht alternativlos (auch wenn sich bereits mehrere Firmen daran versucht haben).
Natürlich wäre es sehr schön, wenn man die manuelle Codierung umgehen könnte. Daher war unser Ansatz mit ChatGPT die Codierung offener Nennungen nachzubauen und zu prüfen, wie sehr sich die Ergebnisse unterscheiden.
In der untenstehenden Grafik ist ein Beispiel für ein Projekt zu sehen, welches wir händisch gecodet haben (links) und automatisch von ChatGPT coden haben lassen. Die Ergebnisse sind erstaunlich! Die wichtigsten Codes decken sich zu einem großen Teil und die Antworten der KI lesen sich recht verständlich und selbsterklärend! Hier ein Beispiel der Auswertung:

Beispiel 1: Produkt mit wasserlöslicher Folie. Coding-Auswertung Händisch (links) vs. Automatisch durch ChatGPT (rechts).
Ein anderes Beispiel eines Codings über ein Beauty Produkt zeigt auch, dass sehr ähnliche Codes gefunden werden. Es gibt ein paar Abweichungen und in manchen Fällen werden zwei Codes zusammengefasst oder getrennt aufgelistet.

Beispiel 2: Beauty Produkt. Coding-Auswertung Händisch (links) vs. Automatisch durch ChatGPT (rechts).
Wir haben noch viele weitere Beispiele ausgewertet, mit vergleichbaren Ergebnissen. Folglich lässt sich sagen, dass die Qualität bei offenen Nennungen doch recht nahe an die händische Codierung rankommt.
Nicht außer Acht zu lassen ist, dass wir es hier mit qualitativen Daten zu tun haben, bei denen man auch bei einer zweifachen händischen Codierung nicht einhundertprozentig zu gleichen Ergebnissen kommt.
Auch in der qualitativen Forschung haben wir uns mit ChatGPT beschäftigt. Als Inspirationsquelle und Input für Grundlagenwissen, bei der Erstellung von Screener und Leitfäden aber auch in der Auswertung von Transkripten und Protokollen, sehen wir erstaunliches Unterstützungspotential.
Bei einer kürzlich durchgeführten Eigenstudie zum Veganuary-Trend, bei dem die Teilnehmenden versuchen, sich im Januar ausschließlich vegan zu ernähren, haben wir Protokolle von Online-Chats implementiert und uns Zusammenfassungen davon ausgeben lassen.

Beispiel 3: advise Eigenstudie zum Thema Veganuary, Textabschnitt eines Online-Chat-Protokolls von ChatGPT analysiert. ©OpenAI
Gut für einen inhaltlichen Überblick, Grenzen bei Emotionen
Gerade bei großen Textmengen kann der Chatbot durchaus Sinn machen, um einen schnellen ersten Überblick zu erhalten, was genau diskutiert wurde und welche möglichen Inhaltsschwerpunkte es gibt. Auch die Option, sich Zitate ausgeben zu lassen, funktioniert erstaunlich gut.
Wenn es jedoch um Emotionen oder psychologische Zusammenhänge geht, entdecken wir gewisse Limitationen.
Auch bei der Auswertung von Kreativtechniken, dem Verständnis von Ironie und Emotionen haben wir noch Vorbehalte. Nichtdestotrotz werden wir die Entwicklung diesbezüglich weiter im Auge behalten und gehen davon aus, dass sie auch unsere Marktforschungs-Branche stark revolutionieren wird.
Für uns steht fest, dass sich mit dieser Software eine großartige Chance für die Marktforschung auftut. Deshalb haben wir bereits konkrete Einsatzmöglichkeiten bei uns identifiziert und werden in Zukunft die Coding-Analyse mittels KI als zusätzliche Option der Auswertung anbieten. Diese neue Generation der KI könnte sich unserer Meinung nach durchaus als eine konkrete, schnell umzusetzende Einsatzmöglichkeit in der Marktforschung etablieren.
Über die Person
Andreas Woppmann ist Gründer und Geschäftsführer der advise research GmbH, die seit ihrer Gründung 2013 mittlerweile über 40 Mitarbeitende hat. Weiterhin ist er innerhalb des Unternehmens im Business Development und der Methodenentwicklung tätig. Deshalb beschäftigt sich Herr Woppmann schon länger mit den innovativen Ansätzen künstlicher Intelligenz in der Marktforschung und deren Einsatzmöglichkeiten. Zudem ist er seit 2021 Regionalleiter des BVM Baden-Württemberg und doziert empirische... mehr
Weitere Informationen zum Unternehmen auf marktforschung.de:

Kommentare (0)
Noch keine Kommentare zu diesem Artikel. Machen Sie gerne den Anfang!
Um unsere Kommentarfunktion nutzen zu können müssen Sie sich anmelden.
Anmelden