Zusammenfassung:
In den letzten zwei Tagen habe ich eine besonders interessante Neuigkeit gesehen. In Australien gibt es ein Unternehmen namens Apate.ai, benannt nach der Göttin der Täuschung in der griechischen Mythologie. Was dieses Unternehmen getan hat, ist besonders empörend. Sie haben 350.000 KIs gebaut. Und die Hauptaufgabe dieser 350.000 KIs besteht täglich darin, Menschen anzulügen.
Es ist nur so, dass das Ziel, das sie täuschen, etwas Besonderes ist.
Sie sind auf Betrüger spezialisiert.
Ja, er ist die Art von Lügner, für die Sie ihn halten.
Jede KI gibt vor, ein gewöhnlicher Mensch zu sein, ob alt oder jung, männlich oder weiblich. Sie haben sogar unterschiedliche Akzente, können mehrere Sprachen sprechen und haben sogar ihre eigene Persönlichkeit.
Betrugsanrufe, Phishing-Websites, Investitionsbetrug usw. Solange sie einen Betrüger finden, werden sie einen Weg finden, eine KI dorthin zu schicken, sich als Opfer auszugeben und mit dem Betrüger zu chatten.
Das Wichtigste ist, dass diese KIs eine sehr lustige Gemeinsamkeit haben, nämlich dass sie sehr leicht zu täuschen sind.
Der Betrüger verlangte die Überweisung des Geldes und sagte, das sei kein Problem.
Der Betrüger forderte mich auf, die Website zu öffnen, und er sagte, es sei in Ordnung.
Der Betrüger forderte mich auf, meine Bankkartennummer einzugeben, aber er sagte: „Ja, kein Problem“.
Wenn es dann um den Ausführungsschritt geht, werden Sie plötzlich anfangen, sich dumm zu verhalten.
Ups, wo habe ich meine Bankkarte hingelegt?
Ups, welches Passwort ist das?
Oh, ich bin alt und mein Sehvermögen funktioniert nicht mehr gut. Kleiner Bruder, kannst du es noch einmal sagen?
Sprechen Sie einfach so abrupt mit dem Betrüger, dass manche Telefonate sogar länger als zwei Stunden dauern können...
Der Lügner wäre fast zusammengebrochen.
Aber die alte Dame am anderen Ende der Leitung war sehr höflich.
„Tut mir leid, junger Mann, bitte bringen Sie es mir noch einmal bei.“
Nach Angaben von Apate hat ihre KI 2,5 Millionen Mal mit Betrügern gechattet und chattet immer noch jeden Tag mit Zehntausenden von Betrügern zur gleichen Zeit.
Insgesamt hat der Betrüger etwa 17 Jahre gebraucht.
Naja, 17 Jahre...
Australiens Telekommunikationsbetreiber TPG hat fast 590.000 verdächtige Anrufe direkt an die KI von Apate weitergeleitet, um sie zu beantworten. Dadurch hat die Commonwealth Bank of Australia die öffentlich gemeldeten Betrugsverluste direkt um 76 % reduziert.
Das Lustigste ist, dass Betrüger von Zeit zu Zeit von diesen KIs so weit heruntergezogen werden, dass sie zusammenbrechen und das Telefon beschimpfen.
Apate wurde nicht nur nicht wütend, sondern nahm diese Schimpfwörter auch in seine Finanzierungs-Roadshow-Materialien auf. Ihr Mitbegründer sagte, Apate sei wahrscheinlich das einzige Unternehmen auf der Welt, das es feiert, wenn Benutzer seine Produkte kritisieren.
Der Ursprung all dessen war ein Familienpicknick vor ein paar Jahren.
Der Gründer von Apate ist Dali Kaafar. An diesem Tag ging er mit seiner Familie auf ein Picknick und erhielt dann einen seltsamen Anruf. Dieser Anruf war zu grob und klang wie ein Betrüger.
Aber er gab nicht auf, denn um die Kinder glücklich zu machen, begann er, sich mit Abstraktionen zu befassen, indem er vorgab, von einer albernen Fee besessen zu sein, und war sehr kooperativ, indem er Satz für Satz mit dem Lügner plauderte.
Dieses Gespräch dauerte 44 Minuten und dann brach die ganze Familie in Gelächter aus.
Nachdem er gelacht hatte, wurde Kaafar plötzlich etwas klar.
Während dieser 44 Minuten unterhielt sich der Betrüger weiter mit ihm am Telefon und hatte keine Zeit, andere anzurufen. Ursprünglich könnte ein allein lebender alter Mann diesen Anruf erhalten und ihm die letzte Rente entzogen werden, die sein Überleben sichern könnte.
Der Preis ist natürlich, dass er auch 44 Minuten dabei war.
In diesem Moment hatte er eine neue Idee und stellte sich die Frage, ob diese Angelegenheit der KI überlassen werden könnte.
Da Kaafar ursprünglich Netzwerksicherheitsforschung an der Macquarie University in Sydney betrieb, spezialisierten er und seine Kollegen sich auf die Untersuchung betrügerischer Anrufe und nutzten KI, um die Worte der Betrüger Stück für Stück zu entschlüsseln. Im Jahr 2024 wurde aus der Idee Apate.
Aus 44 Minuten Picknick wurde eine Vormundschaft, die insgesamt 17 Jahre dauerte.
Wenn es eine Sache auf dieser Welt gibt, die ich bis ins Mark hasse, dann muss es Betrug sein.
Ich glaube, dass viele Menschen genauso denken wie ich.
Aber jetzt scheint die KI etwas zu ändern, was in der Vergangenheit besonders unfair war, nämlich den Preis zwischen Bösem tun und Bösem vorbeugen.
Kürzlich habe ich einen Dokumentarfilm über Telekommunikationsbetrug im Norden Myanmars gesehen. Ich hatte wirklich das Gefühl, dass jeder hart daran arbeitete, zu verhindern, dass normale Menschen getäuscht werden.
Das Schlimmste an Betrug ist jedoch, dass die Kostenstruktur für Betrüger von Natur aus von Vorteil ist.
Zum Beispiel kann ein Lügner täglich Hunderte von Menschen anrufen. Es spielt keine Rolle, ob alle ersten paar hundert Leute auflegen, denn das ist ein Glücksspiel, aber solange am Ende eine Person getäuscht wird, kann sie viel Geld verdienen.
Aber für normale Menschen sind Sie vielleicht nicht schon tausendmal betrogen worden.
Nur zum tausendsten Mal traf ich zufällig einen Lügner, der besonders gut in der Schauspielerei war, ich hatte an diesem Tag zufällig schlechte Laune und stieß zufällig auf meine eigene Schwäche.
Das kann bedeuten, dass Ihre Ersparnisse verloren gehen.
Lügner können unzählige Male scheitern, aber gewöhnliche Menschen wie Sie und ich haben leider manchmal nicht einmal die Chance, einmal zu scheitern.
Unser Land, unsere gesamte Gesellschaft, hat also unzählige Dinge getan und versucht, Wege zu finden, die Wachsamkeit der einfachen Leute zu erhöhen.
Da es nun KI gibt, können Betrüger die Technologie nutzen, um die Kosten für böse Taten zu senken.
Warum können wir dann nicht dieselbe Technologie nutzen, um die Kosten für den Schutz anderer zu senken?
Im August dieses Jahres erhielt Apate eine Seed-Finanzierung in Höhe von 8,15 Millionen US-Dollar. Obwohl sie in der gesamten KI-Welle klein zu sein scheinen, werde ich immer noch Ehrfurcht vor ihnen haben. Darüber hinaus haben sie tatsächlich begonnen, Kunden wie Banken und Telekommunikationsanbieter zu haben, die wirklich zahlungswillig sind.
Wenn der gute Wille weiter bestehen, kopiert und vergrößert werden kann, dann denke ich, dass die dadurch erzeugte Macht die Fähigkeiten einer einzelnen Person bei weitem übersteigen kann.
Was für ein Zufall.
Gerade als der Apate-Vorfall bekannt wurde, geschah etwas ganz Ähnliches in China.
Es ist die KI Xiaohai, die in letzter Zeit für viel Aufsehen gesorgt hat.
Ich glaube, das wissen viele Leute, deshalb gebe ich Ihnen eine kurze Zusammenfassung.
Wahrscheinlich gibt es eine Gruppe von Leuten, die KI verwenden, um stapelweise ein paar hübsch aussehende Jungen zu generieren und jeden Tag „Tante“ in die Kamera zu rufen.
Das Hin und Her bedeutet, dass heute mein Vater krank ist, morgen ich gemobbt werde und übermorgen das Geld knapp wird. Wie auch immer, ich werde weiterhin elend leiden.
Am Ende hatten einige Frauen mittleren Alters und ältere Frauen Mitleid mit ihm und kauften die Produkte mit hohen Provisionen, die in seinem Schaufenster standen. Einige Provisionen lagen sogar bei bis zu 55 %. Das war wahrscheinlich ein solches Muster.
Das Unverschämteste ist, dass es eine 79-jährige alte Dame gibt, die am Telefon wirklich an Xiao Hai geglaubt hat. Sie kaufte alleine ein Zugticket und rannte nach Shanxi, um ihn zu finden.
Weil Xiaohai ihr sagte, dass sie sich gemeinsam die Aprikosenblüten ansehen und Morcheln pflücken könnten.
Aber die alte Dame wusste nach ihrer Ankunft in Shanxi nicht einmal, wohin sie gehen sollte.
Sie wusste nur, dass Xiaohai da war.
Später stellte die Polizei fest, dass etwas nicht stimmte, und fragte ihn danach. Schließlich kontaktierte er seine Familie und nahm ihn zurück.
Dann, kurz nachdem dieser Vorfall aufgedeckt wurde, beschloss eine Gruppe junger Menschen in China mit ihrer Magie und Weisheit, KI zu nutzen, um sich zu wehren.
Einer von ihnen war ein 19-jähriger Student namens Xiaozhou.
Er fand heraus, dass ein alter Mann im Haus seines Freundes mehrere Gegenstände in seinem Fenster gekauft hatte, weil er Mitleid mit Xiao Hai hatte.
Also dachte sich Xiaozhou einen besonders interessanten Weg, da der alte Mann an Xiaohai glaubte.
Lassen Sie Xiaohai dem alten Mann selbst sagen, dass er ein Lügner ist, also nutzte er auch KI, um ein 30-Sekunden-Video zu erstellen.
Es ist immer noch das gleiche Gesicht von Xiao Hai, aber dieses Mal hat sich Xiao Hai in eine reiche zweite Generation verwandelt, die in einem Herrenhaus lebt und einen Anzug trägt.
Dies ist ein Screenshot des Beijing News-Interviews mit Xiaozhou.
In diesem Video lief Xiaohais weißhaariger Vater zu ihm und riet ihm, diese Tanten und Mütter nicht noch einmal anzulügen.
Infolgedessen drehte Xiaohai ihm den Rücken zu und sagte, dass ihm diese Tanten überhaupt nichts bedeuteten. Solange er schrie, würden sie kommen und Geld geben.
Schließlich warf er seinen Vater raus.
Nachdem dieses Video gepostet wurde, hatte es eigentlich nur ein paar Dutzend Likes, aber Xiaozhous Freund zeigte das Video den älteren Menschen zu Hause.
Der alte Mann, der früher Dinge für Xiaohai kaufte, sagte nach dem Lesen:
„Oh, warum ist das so?“
„Ich werde nie wieder etwas von ihm kaufen.“
Einfach so hat ein 30-Sekunden-Video einen alten Mann wirklich dazu gebracht, seine Entscheidung zu ändern.
Später ließen sich immer mehr junge Menschen anstecken und inspirieren und begannen mitzumachen.
Einige Leute baten Xiao Hai, ins Gefängnis zu gehen, einige forderten Xiao Hai auf, zu rauchen und zu trinken, und andere forderten ihn auf, eine Goldkette zu tragen und in einer Villa Geld zu zählen.
Einige Leute forderten Xiaohai sogar dazu auf, Gefängnisuniform zu tragen, sich an den Eisengittern des Gefängnisses festzuhalten und vor der Kamera zuzugeben, dass er ein Lügner sei.
So begann eine wunderbare KI-Konfrontation.
Mir gefällt besonders, was Xiaozhou in einem Interview mit den Beijing News gesagt hat.
„Freundliche Menschen sollten nicht getäuscht werden.“
Ein so einfacher Satz ist meiner Meinung nach wirkungsvoller als jedes große sogenannte KI-Manifest.
Nachdem ich diese beiden Geschichten, die Geschichte von Apate und Xiaozhou, gelesen hatte, war ich wirklich gerührt. Darüber hinaus demonstrierte dies perfekt einen ganz besonderen Wandel in der KI-Ära.
Wenn ein gewöhnlicher Mensch früher eine gute Tat vollbringen wollte, war er dazu möglicherweise nicht in der Lage.
Jetzt hat er endlich die Möglichkeit, KI und Technologie zu nutzen, um seinen guten Willen zu stärken.
Vor langer Zeit habe ich einen Artikel über einen 17-jährigen Oberstufenschüler geschrieben, der vorgab, eine KI zu sein, und mit seinen Antworten die gesamte B-Station heilte. Sie sind alle gewöhnliche, aber großartige Menschen.
Jeden Tag diskutieren wir darüber, wie intelligent das Modell ist, welche Benchmarks es gebrochen hat und wie viele Aufgaben es erledigen kann, die in der Vergangenheit nur von Menschen erledigt werden konnten.
Natürlich sind diese wichtig.
Aber ich denke, dass hinter diesen immer leistungsfähigeren KIs die reine Freundlichkeit gegenüber den Menschen oft noch wertvoller ist.
Die Zukunft der KI, die ich am meisten sehen möchte, ist wahrscheinlich diese.
Die Technologie selbst hat eigentlich keine Stellung.
Was KI verstärkt, sind nie nur menschliche Fähigkeiten.
Es erweitert auch die Wahlmöglichkeiten der Menschen.
Ich hoffe, dass wir eines Tages in der Zukunft die fortschrittlichste Technologie nutzen können, um die älteste und einfachste Güte der Menschheit zu schützen.
Ich hoffe auch auf diejenigen, die freundlich sind.
Müssen Sie es niemals aus eigener Freundlichkeit tun.
Und wieder verletzt werden.
Kommentare