Synthetische Daten: Was sind synthetische Daten?

Synthetische Daten sind künstlich erzeugte Daten, die echten Daten in Aufbau und Eigenschaften ähneln, aber nicht aus echten Vorgängen stammen. Sie werden genutzt, um KI zu trainieren oder zu testen, wenn echte Daten fehlen oder nicht verwendet werden sollen.

Viele KI-Projekte scheitern nicht an der Technik, sondern an den Daten. Es gibt zu wenige Beispiele, die Beispiele enthalten Kundendaten, oder seltene Fälle kommen kaum vor. Synthetische Daten schließen solche Lücken. Sie bringen aber eigene Risiken mit.

Woher der Begriff stammt

„Synthetisch“ heißt künstlich hergestellt. Synthetische Daten werden seit Langem in Statistik und Softwaretests eingesetzt, etwa um Programme mit erfundenen Kundendatensätzen zu prüfen.

Mit den Sprachmodellen hat die Idee einen neuen Schub bekommen. Ein großes Modell kann Texte, Fragen und Beispiele in großer Menge erzeugen. 2023 zeigte ein Forschungsteam von Microsoft mit dem Modell phi-1, dass ein kleines Modell mit sorgfältig erzeugten Lehrbuchtexten gut programmieren lernen kann. Laut der Studie bestand ein Teil der Trainingsdaten aus Lehrbüchern und Übungen, die mit GPT-3.5 erzeugt wurden, im Umfang von rund einer Milliarde Tokens.

Was synthetische Daten genau sind

Synthetische Daten können verschieden entstehen:

Nach Regeln: Ein Programm erzeugt Datensätze nach festen Vorgaben, etwa erfundene Rechnungen mit zufälligen Beträgen.
Aus echten Daten abgeleitet: Ein Verfahren lernt die Muster echter Daten und erzeugt neue Datensätze mit ähnlichen Eigenschaften.
Durch Sprachmodelle: Ein Modell schreibt Beispieltexte, Fragen oder Dialoge nach einer Anweisung.

Im Umfeld von Sprachmodellen dienen sie vor allem drei Zwecken: dem Training, etwa beim Fine-Tuning, dem Testen in Evals und dem Ergänzen seltener Fälle.

Abgrenzung zu ähnlichen Begriffen

Anonymisierte Daten: Hier werden echte Daten so verändert, dass Personen nicht mehr erkennbar sind. Synthetische Daten sind dagegen neu erzeugt. Beides wird oft verwechselt.

Testdaten: Testdaten können echt oder synthetisch sein. Synthetisch sind sie, wenn sie eigens erzeugt wurden.

Model Collapse: So nennen Forschende um Ilia Shumailov einen Effekt, der beim Training mit erzeugten Daten auftreten kann. In ihrer Studie schreiben sie, dass dabei die Ränder der ursprünglichen Verteilung verschwinden, also gerade seltene Inhalte verloren gehen.

Was das für Ihr Unternehmen bedeutet

Für kleine und mittlere Unternehmen sind synthetische Daten vor allem beim Testen nützlich:

Sie wollen einen Chatbot prüfen, haben aber noch kaum echte Kundenfragen.
Sie wollen ein Verfahren zur Dokumentenerkennung testen, ohne echte Kundendokumente zu verwenden.
Sie brauchen Beispiele für seltene Fälle, etwa ungewöhnliche Reklamationen.

Wichtig ist, synthetische Daten mit echten Beispielen abzugleichen. Erzeugte Daten sind oft gleichförmiger als die Wirklichkeit. Wie wir Chatbots vor dem Start testen, zeigen wir auf der Seite zu KI-Chatbots.

Grenzen dessen, was man sicher weiß

Wie gut synthetische Daten echte ersetzen können, hängt stark von der Aufgabe ab. Für manche Aufgaben funktionieren sie gut, für andere kaum. Allgemeine Aussagen dazu sind schwer.

Auch das Risiko von Model Collapse ist in der Praxis schwer abzuschätzen. Die Studien zeigen den Effekt unter bestimmten Bedingungen. Wie stark er sich bei einer Mischung aus echten und erzeugten Daten auswirkt, wird weiter erforscht.

Häufig gestellte Fragen

Kann ich mit synthetischen Daten einen Chatbot testen?

Ja, das ist ein häufiger Einsatz. Ein Sprachmodell erzeugt zum Beispiel hunderte typische Kundenfragen, mit denen Sie prüfen, wie Ihr Chatbot antwortet. Ergänzen Sie diese aber immer um echte Fragen, denn echte Kunden formulieren oft anders als ein Modell.

Lassen synthetische Daten Rückschlüsse auf echte Personen zu?

Das kann passieren. Wenn synthetische Daten aus echten Daten abgeleitet werden, können sie unter Umständen Rückschlüsse auf echte Personen zulassen. Rein nach Regeln erzeugte Daten haben dieses Problem nicht, aus echten Daten gelernte Verfahren schon eher.

Was passiert, wenn eine KI nur mit KI-Daten trainiert wird?

Forschende um Ilia Shumailov haben gezeigt, dass Modelle, die wiederholt mit Daten früherer Modelle trainiert werden, nach und nach seltene Inhalte verlieren. Sie nennen das Model Collapse. Deshalb werden synthetische Daten meist mit echten gemischt.

Synthetische Daten