KI-Bewertung von Freitext / Offenen Fragen

Estimated reading: 3 minutes

Der Open-Ended-Score bewertet die Freitextantworten der Befragten anhand von umfassenden Kriterien. Dafür werden verschiedene statistische Merkmale und ein Machine Learning Modell verwendet.

Machine Learning Modell powerded by GPT-3

Mithilfe eines durch über 100.000 Datensätze trainierten (Fine tuning) ML-Modells auf Basis von GPT-3 von OpenAI wird eine intelligente Analyse der Frage-Antwort Kombination durchgeführt. Diese bewertet, wie gut die Antwort inhaltlich zur Frage passt (BETA).
Des Weiteren werden die Antworten in unterschiedliche Qualitätskategorien unterteilt und mit einem entsprechenden Score versehen.
Die Antworten werden in folgende Kategorien unterteilt:

Gute beschreibende Antwort
Kurze valide Antwort
Inhaltslose Antworten
Schimpfwörter
Unfug

Wörterbuch-Check & Rechtschreibkontrolle

Es wird ein Wörterbuch verwendet, um zu überprüfen ob die Antwort vollständige Wörter enthält. Rechtschreibfehler werden dabei berücksichtigt und vor der Überprüfung korrigiert.

Länge der Angaben

Es wird außerdem überprüft, wie lange bzw. wie viele Zeichen eine Antwort beinhaltet. Die Länge der Antwort wird sowohl auf individueller Ebene als auch im Vergleich zu anderen Antworten bewertet.

Vordefinierte Antwortenliste

Der OES verwendet zur Bewertung auch eine Blacklist, um Schimpfwörter und inhaltslose Antworten, wie »keine Angabe«, »Weiß nicht«, »?« oder Ähnliches zu erkennen.

Copy Paste Antworten

Sollten mehrere offene Fragen in den Daten vorhanden sein, prüft der OES, pro Befragten, ob sich die selbe Antwort in mehreren Fragen befindet und somit auf ein »Copy Paste Antwortverhalten« zu schließen ist.

Unterstützte Sprachen

Derzeit werden sowohl Deutsch, Englisch und Spanisch unterstützt. Weitere Sprachen folgen.

Beispiele

Anwendungen und Einsatzgebiete

Der OES kann bei allen Befragungen mit Freitextantworten eingesetzt werden. Besonders gut eignet sich der OES für die Analyse von Panel Daten.