Anfang dieses Jahres hat die soziale Plattform Discord als Reaktion auf den weltweiten Regulierungsdruck eine „Teenager-Standardeinstellung“ eingeführt, die standardmäßig alle als Minderjährige behandelt und einige Funktionen direkt sperrt. Um den Erwachsenenmodus freizuschalten, müssen Sie die Altersüberprüfung bestehen.Es gibt zwei Hauptmethoden zur Überprüfung: Entweder ein kurzes Selfie-Video mit der Kamera machen und die KI lokal auf unserem Handy das Alter schätzen lassen; oder ehrlich den Personalausweis hochladen.

Daraufhin starteten Internet-Freunde diverse Extremtests. Manche Leute benutzten Spiel-Screenshots, um sie zu täuschen, andere benutzten 3D-Modelle, und das Unverschämteste war die Verwendung von Fingerstrichfiguren.

Jemand zeichnete zwei Augen und einen Mund auf seinen Daumen, hob ihn vor die Kamera und folgte den Systemanweisungen zum Zentrieren, Ausrichten, Linksdrehen, Rechtsdrehen ... Nachdem die KI-Analyse abgeschlossen war, lautete die Schlussfolgerung:Im Alter von 13–15 Jahren, bestätigt!

Dem Internet hat es nie an Fantasie gemangelt, wenn es darum geht, „Schlupflöcher auszunutzen“. Es gab auch einen 12-jährigen Jungen, der sich mit einem Augenbrauenstift einen Bart zeichnete und vom System als 15 Jahre alt eingestuft wurde und die Überprüfung erfolgreich bestanden hatte.

Warum passiert das?

Um der Aufsicht gerecht zu werden und gleichzeitig Datenschutzstreitigkeiten zu minimieren, haben sich diese Plattformen für eine geräteseitige Lösung zur Gesichtsaltersschätzung entschieden, bei der der Benutzer ein Video vor der Kamera aufzeichnet. Das KI-Modell wird vollständig auf dem lokalen Mobiltelefon oder Computer ausgeführt und nur die endgültigen Ergebnisse der Altersgruppenbeurteilung werden an den Server zurückgesendet. Die vollständigen Video- oder Gesichtsdaten werden nicht hochgeladen.

Das klingt nach einem geringen Risiko für die Privatsphäre und der Überprüfungsprozess ist relativ einfach. Der Nachteil besteht jedoch darin, dass die verfügbaren Rechenressourcen begrenzt sind, das Modell nicht zu komplex sein darf und sich nicht auf eine umfangreiche Analyse auf der Serverseite verlassen kann.

Diese Modelle stützen sich hauptsächlich auf visuelle Merkmale wie Augen, Mund, Gesichtskonturen und Hautstruktur, um auf das Alter zu schließen. Ein einfacher Daumen, der mit zwei Punkten und einer Linie gezeichnet wurde, entspricht unter bestimmten Lichtverhältnissen, Winkeln und niedriger Auflösung unerwartet dem abstrakten Merkmalsmuster eines „jungen und glatten Gesichts“.

Wenn das System erfordert, dass das „Gesicht“ zentriert und nach links und rechts gedreht wird, liefern das natürliche leichte Schütteln und die folgenden Bewegungen der Finger ein grundlegendes Bewegungssignal, das für die relativ einfache Lebenderkennung ausreicht, um dieses als „lebendes“ Objekt zu betrachten und es direkt freizugeben.

KI-Modelle zur Altersschätzung werden hauptsächlich mithilfe riesiger Mengen realer Gesichtsdaten trainiert und verfügen von Natur aus nicht über ausreichende Robustheit gegenüber solch stark vom Standard abweichenden und abstrakten Eingaben.

In den frühen Tagen der Einführung musste die Plattform den Schwellenwert relativ locker festlegen, um zu verhindern, dass normale Benutzer aufgrund schlechter Beleuchtung, falscher Blickwinkel oder besonderer Optik häufig scheitern, was dieser bösen Low-Tech-Methode die Möglichkeit gab, einen Vorteil daraus zu ziehen.

Ähnliche Situationen sind auf Plattformen wie Roblox aufgetreten. Es zeigt sich, dass die aktuelle Gesichtsalterungstechnologie angesichts sorgfältig konzipierter Täuschungsmethoden alles andere als wasserdicht ist.

平台们也没坐以待毙。

Vor einiger Zeit kündigte Meta an, mithilfe von KI von Benutzern hochgeladene Fotos und Videos aktiv zu scannen.Verwenden Sie allgemeine visuelle Anhaltspunkte wie Größe und Knochenbau, um festzustellen, ob der Kontoinhaber unter 13 Jahre alt ist, und entfernen Sie ihn dann direkt.

Meta betont ausdrücklich: „Das ist keine Gesichtserkennung.“ Es erfolgt lediglich eine ungefähre Beurteilung der Altersspanne. "

Darüber hinaus betrachtet Meta nicht nur Bilder, sondern kombiniert den Textinhalt des gesamten Accounts mit umfassenden Porträts interaktiver Verhaltensweisen, wie Geburtstagskuchen, Erwähnung der Schulnote usw., die in die Beurteilung einfließen.

Sobald die KI das Gefühl hat, minderjährig zu sein, wird sie zunächst das Konto löschen. Wenn Sie es zurückerhalten möchten, müssen Sie den offiziellen Verifizierungsprozess durchlaufen. Dieses System ist derzeit in einigen Ländern online und wird in Zukunft schrittweise auf weitere Regionen ausgeweitet. Eine Ausweitung auf Instagram Live, Facebook-Gruppen und andere Szenarien ist ebenfalls geplant.

Die Plattform nutzt KI, um Lücken zu schließen, und Benutzer finden Möglichkeiten, Lücken auszunutzen.

Dieses Katz-und-Maus-Spiel wird höchstwahrscheinlich weitergehen.