Warum scheinen so viele Unternehmen, die auf Benutzerdaten angewiesen sind, um Geld zu verdienen, ein Faible für künstliche Intelligenz zu haben? Wenn Sie Signal-Präsidentin Meredith Whitaker fragen, wird sie Ihnen sagen, dass es einfach daran liegt, dass „künstliche Intelligenz eine Überwachungstechnologie ist“.
Auf der Bühne der TechCrunchDisrupt2023 brachte Whittaker ihre Ansicht zum Ausdruck, dass KI weitgehend untrennbar mit Big Data verbunden ist und auf die Branche abzielt, die seit langem von Unternehmen wie Google und Meta, weniger verbraucherorientierten, aber gleichermaßen prominenten Unternehmens- und Verteidigungsunternehmen, ins Visier genommen wird.
„Es erfordert Überwachungsgeschäftsmodelle; es ist eine Intensivierung des Wachstums der Überwachungswerbung, das wir seit den späten 1990er Jahren beobachten konnten. Ich denke, KI ist eine Möglichkeit, Überwachungsgeschäftsmodelle zu konsolidieren und zu erweitern“, sagte sie. „Ein Venn-Diagramm ist ein Kreis. Der Einsatz künstlicher Intelligenz ist auch eine Form der Überwachung, oder? Wissen Sie, Sie gehen an einer Gesichtserkennungskamera mit einem pseudowissenschaftlichen Instrument zur Emotionserkennung vorbei und diese generiert Daten über Sie, die zu Recht oder zu Unrecht sagen: „Sie sind glücklich, Sie sind traurig, Sie haben eine schlechte Persönlichkeit, Sie sind ein Lügner usw.“ Dabei handelt es sich letztlich um Überwachungssysteme, die an diejenigen vermarktet werden, die Macht über uns haben: unsere Arbeitgeber, Regierungen, Grenzkontrollen usw., um Urteile und Vorhersagen zu treffen, die unseren Zugang zu Ressourcen und Möglichkeiten bestimmen.“
Ironischerweise weist sie darauf hin, dass die Daten, die diesen Systemen zugrunde liegen, häufig von genau den Mitarbeitern organisiert und kommentiert werden, auf die diese Daten abzielen können (ein notwendiger Schritt im Prozess der Zusammenstellung von KI-Datensätzen).
„Auf der Ebene der Aufklärung der grundlegenden Wahrheit über die Daten gibt es keine Möglichkeit, diese Systeme ohne menschliche Arbeit zu schaffen – verstärkendes Lernen mit menschlichem Feedback, was wiederum nur eine Technologie ist, die instabile menschliche Arbeit bereinigt“, erklärte sie. „Tausende Arbeiter werden schlecht bezahlt, aber insgesamt sind die Kosten hoch, und es gibt keinen anderen Weg, diese Systeme zu schaffen, absolut keinen anderen Weg. In gewisser Weise sehen wir ein Zauberer-von-Oz-Phänomen, bei dem es, wenn wir den Vorhang aufziehen, nicht wirklich viel Intelligenz gibt.“
Allerdings sind nicht alle KI- und maschinellen Lernsysteme gleichermaßen ausbeuterisch. Auf die Frage, ob Signal in seiner App oder Entwicklungsarbeit KI-Tools oder -Prozesse verwendet, bestätigte sie, dass die App über ein „kleines Gerätemodell“ verfüge, aber wir haben es nicht entwickelt, sondern von der Stange als Teil der Gesichtsunschärfefunktion in unserem Medienbearbeitungs-Toolset verwendet. Eigentlich ist es nicht so gut … aber es kann dabei helfen, Gesichter in Fotos von Menschenmengen zu erkennen und sie unscharf zu machen, sodass Sie beim Teilen dieser Fotos in sozialen Medien nicht die privaten biometrischen Daten von Personen an Clearview und dergleichen preisgeben.
„Aber die Sache ist wie … ja, es ist ein großartiger Einsatz künstlicher Intelligenz. Erlaubt uns das nicht einfach, all der Negativität entgegenzuwirken, die ich auf die Bühne werfe?“ fügte sie hinzu. „Natürlich, wenn dies der einzige Markt für Gesichtserkennung ist … aber lassen Sie uns klarstellen: Der Prozess der Entwicklung und Bereitstellung von Gesichtserkennungstechnologie ist teuer, und die wirtschaftlichen Anreize werden niemals dazu führen, dass dies der einzige Nutzen ist.“