---
type: quelle
title: "Datenbereinigung"
description: "In einem nächsten Schritt wurden sämtliche Inhalte in ein einheitliches, maschinenlesbares Textformat überführt, insbesondere PDF-Dokumente sowie Audio- und Videomaterialien."
url: "https://afd-gutachten.de/gutachten/03-einfuehrung/04-methodik/03-aufbereitung-und-filterung-von-massendaten/01-datenbereinigung/"
kapitel_pfad: "gutachten/03-einfuehrung/04-methodik/03-aufbereitung-und-filterung-von-massendaten/01-datenbereinigung"
ebene: 4
reihenfolge: 29
stand: "2026-07-25"
content_hash: "sha256:31ad62d1516ef14ff8db025437f295548712a4ee85395049a6c2a26cc8c599d6"
lizenz: "CC-BY 4.0 Gesellschaft fuer Freiheitsrechte e.V."
trust: certified
timestamp: "2026-07-25T00:00:00Z"
tags: [gutachten]
---

# Datenbereinigung

In einem nächsten Schritt wurden sämtliche Inhalte in ein einheitliches, maschinenlesbares Textformat überführt, insbesondere PDF-Dokumente sowie Audio- und Videomaterialien. Video- und Audiomaterial wurde automatisiert durch ein KI-gestütztes Spracherkennungsmodell (Whisper Large v3 Turbo) transkribiert. Sofern die automatisierte Analyse (in späteren Schritten) innerhalb eines Videos für eine Prüfdimension relevante Stellen identifizierte, wurden diese händisch und qualitativ überprüft. Schwieriger zu quantifizieren waren relevante Stellen, die durch fehlerhafte Transkription in der automatisierten Suche gar nicht als solche erkannt wurden. Diese entzogen sich einer nachträglichen Evaluation. Angesichts der vergleichsweise hohen Zuverlässigkeit des Modells für deutschsprachiges Material ist jedoch davon auszugehen, dass der Anteil der auf diesem Weg verloren gegangenen Treffer in einem geringen Rahmen blieb.

Um Dokumente für die Auswertung mit KI-gestützten Verfahren vorzubereiten, wurden längere Texteinheiten — etwa mehrseitige Videotranskripte oder ungewöhnlich lange Facebook-Beiträge — in kürzere, vergleichbare Abschnitte zerlegt. Als Zielgröße wurden Einheiten mit einer Länge von rund 150 bis 250 Tokens (die kleinste Einheit, die ein Modell verarbeitet) festgelegt, was einem kurzen Absatz von wenigen Sätzen entspricht. Somit waren die analysierten Texteinheiten kurz genug, um von den eingesetzten Modellen effizient verarbeitet werden zu können, und lang genug, um eine inhaltlich sinnvolle Aussage vollständig zu umfassen.

Umgekehrt wurden sehr kurze Inhalte — etwa einzelne Tweets oder knappe Telegram-Beiträge — zu größeren, zusammenhängenden Texteinheiten von ebenfalls rund 150 bis 250 Tokens gebündelt. Auf diese Weise entstand über alle Quellen hinweg ein einheitlicher Korpus vergleichbarer Einheiten, der die Grundlage für die Indexierung und die KI-gestützte Analyse bildete, die in den folgenden Abschnitten beschrieben wird.
