KI-Bewertung von Freitext / Offenen Fragen
Der Open-Ended-Score bewertet die Freitextantworten der Befragten anhand von umfassenden Kriterien. Dafür werden verschiedene statistische Merkmale und ein Machine Learning Modell verwendet.
Machine Learning Modell powerded by GPT-3
Mithilfe eines durch über 100.000 Datensätze trainierten (Fine tuning) ML-Modells auf Basis von GPT-3 von OpenAI wird eine intelligente Analyse der Frage-Antwort Kombination durchgeführt. Diese bewertet, wie gut die Antwort inhaltlich zur Frage passt (BETA).
Des Weiteren werden die Antworten in unterschiedliche Qualitätskategorien unterteilt und mit einem entsprechenden Score versehen.
Die Antworten werden in folgende Kategorien unterteilt:
- Gute beschreibende Antwort
- Kurze valide Antwort
- Inhaltslose Antworten
- Schimpfwörter
- Unfug
Wörterbuch-Check & Rechtschreibkontrolle
Es wird ein Wörterbuch verwendet, um zu überprüfen ob die Antwort vollständige Wörter enthält. Rechtschreibfehler werden dabei berücksichtigt und vor der Überprüfung korrigiert.
Länge der Angaben
Es wird außerdem überprüft, wie lange bzw. wie viele Zeichen eine Antwort beinhaltet. Die Länge der Antwort wird sowohl auf individueller Ebene als auch im Vergleich zu anderen Antworten bewertet.
Vordefinierte Antwortenliste
Der OES verwendet zur Bewertung auch eine Blacklist, um Schimpfwörter und inhaltslose Antworten, wie »keine Angabe«, »Weiß nicht«, »?« oder Ähnliches zu erkennen.
Copy Paste Antworten
Sollten mehrere offene Fragen in den Daten vorhanden sein, prüft der OES, pro Befragten, ob sich die selbe Antwort in mehreren Fragen befindet und somit auf ein »Copy Paste Antwortverhalten« zu schließen ist.
Unterstützte Sprachen
Derzeit werden sowohl Deutsch, Englisch und Spanisch unterstützt. Weitere Sprachen folgen.