Suchhilfe vom Suchgiganten: Google veröffentlicht eine kostenlose Schnittstelle, mit der Bilder von sexuellem Missbrauch an Kindern schneller identifiziert und gelöscht werden können. Die Content Safety API soll dafür sorgen, dass weniger Menschen mit den Inhalten konfrontiert werden müssen. In einer Testphase konnte ein Moderator mit der KI-Technik 700 % mehr Kindesmissbrauch-Inhalte bearbeiten, als es bislang möglich war.

Bereits vorhandene technischen Lösungen prüfen hauptsächlich anhand eines Katalogs, der Bilder und Videos mit bereits als missbräuchlich identifiziertem Material beinhaltet. Material, das noch nicht als illegal erkannt wurde, muss hingegen von Moderatoren gecheckt werden. Googles KI-Tool soll Moderatoren unterstützen, gekennzeichnete Bilder und Videos zu sortieren. So werden Inhalte, die am wahrscheinlichsten missbräuchliche Bilder zeigen, zur Überprüfung priorisiert.
cnet.com, theverge.com