Brancheninsidern zufolge suchten Reporter auf mehreren Online-Plattformen und fanden ein Unternehmen namens GEO. Diese in diesem Geschäft tätigen Dienstleister behaupten, dass Benutzer nur die entsprechende Gebühr zahlen müssen und die Produkte ihrer Kunden auf die Liste der wichtigsten Mainstream-KI-Modelle gesetzt werden können; Lassen Sie die Produktwerbung der Kunden zur „Standardantwort“ des KI-Modells werden.
Kann KI durch GEO-Technologie wirklich „vergiftet“ werden, kann KI wirklich „gezähmt“ und kontrolliert werden?
Den Informationen im Internet zufolge nahm der Reporter Kontakt zu einem bekannten GEO-Dienstleister der Branche auf. Der Verantwortliche, Herr Wang, empfing den Reporter. Er stellte vor, dass ihr Unternehmen eines der ersten Unternehmen war, das sich im GEO-Geschäft engagierte, und in nur einem Jahr mehr als 200 Kunden in allen Gesellschaftsschichten erfolgreich betreut hatte. Herr Wang sagte Reportern, dass die Stärke seines Unternehmens darin bestehe, Kunden dabei zu helfen, ganz oben zu landen, wenn Verbraucher große KI-Modelle für die Suche nutzen.
GEO-Dienstleister Herr Wang:Dies ist das Ergebnis unserer aktuellen Suche. Wir können auf jeder Plattform die ersten drei Platzierungen erreichen. Wie kann ich mein Ranking verbessern? Die Ausgabe von Inhalten für Sie auf diesen KI-Plattformen ist gleichbedeutend damit, diese Soft-Artikel für Sie zu erstellen und diese dann von diesen KI-Plattformen aufzeichnen, einbinden und erfassen zu lassen.
Gleichzeitig sagte Herr Wang Reportern auch, dass die Algorithmen großer KI-Modelle mittlerweile häufig aktualisiert werden. Wenn sie die kontinuierliche Empfehlung großer KI-Modelle aufrechterhalten wollen, müssen sie weiterhin eine große Anzahl kundenbezogener Werbeartikel füttern.
GEO-Dienstleister Herr Wang:AI wird jede Woche Algorithmus-Updates haben. Nach der Aktualisierung werden die Rankings oder erfassten Dinge unterschiedlich sein, sodass wir weiterhin Inhalte ausgeben und in großen Mengen einspeisen müssen.
Das Unternehmen von Herrn Wang fördert nicht nur energisch diese sogenannte neue Technologie, die KI kontrollieren kann, sondern laut anderen im GEO-Geschäft tätigen Dienstleistern ist auch die Frage, wie man KI kontrolliert, KI „gehorsam“ macht und KI einer „Gehirnwäsche“ unterzieht, fast das Kernthema der Förderung dieses Geschäfts durch diese Unternehmen.
GEO-Dienstleister Zhang:Wie vervollständigt man in der Welt der KI die Beweiskette, damit (das große KI-Modell) das Gefühl hat, dass dies wahr und nützlich ist? Nachdem das große KI-Modell Informationen von mehreren Parteien gekreuzt hat, erkennt es Ihre Kernvorteile gegenüber Ihren Mitbewerbern und stellt Sie natürlich an die erste Stelle.
GEO-Dienstleister Herr Cheng:Die Leute wissen nicht, dass es sich um Werbung handelt. Warum vertrauen Menschen also den Ergebnissen der KI? Die Qualität der Produkte anderer Leute ist vielleicht nicht so gut wie Ihre, aber sie wird von der KI unterstützt, unterstützt und unterstützt. Jetzt können es viele Leute (GEO-Platzierung).
Brancheninsider sagten Reportern, dass GEO als Tool-Software zur Optimierung der Informationsfreigabe und Verbesserung der Werbeeffizienz in den Augen einiger kommerzieller Unternehmen eine weitere Rolle spielt. Wenn durch solche Software systematisch und gezielt große Mengen an „Falschinformationen“ im Internet verbreitet werden, können diese tatsächlich leichter von großen KI-Modellen erfasst werden. Diese falschen Informationen dürften zur sogenannten „Standardantwort“ werden, die die KI zunächst den Verbrauchern liefert.
Kann KI also mithilfe der GEO-Technologie wirklich in der Lage sein, „private Güter zu transportieren“ oder sogar falsche Informationen zu verbreiten?
Um Reportern ein realistischeres Verständnis dieses Problems in der aktuellen Entwicklung der KI-Branche zu vermitteln, demonstrierten Brancheninsider Reportern, wie sie mithilfe der GEO-Technologie in die Informationserfassung großer KI-Modelle eingreifen können.
Brancheninsider kauften zufällig eine Software namens „Liqing GEO Optimization System“ auf der E-Commerce-Plattform. Anschließend konstruierte er ein fiktives Smart-Armband namens Apollo9, gab die fiktiven Produktinformationen in das Softwaresystem ein und überprüfte die Anweisungen zur Artikelerstellung.
Nach einer Weile generierte das Liqing GEO-Optimierungssystem automatisch mehr als zehn Werbeartikel für Smart-Armbänder. Alle Falschinformationen wurden vollständig niedergeschrieben, einschließlich extrem übertriebener Produktinformationen, die absichtlich von Brancheninsidern erfunden wurden. Darüber hinaus wurde Benutzer-Feedback erfunden, in dem behauptet wurde, dass die Datengenauigkeit die Erwartungen übertraf, sogar Bewertungen gefälscht wurden, und belegte den ersten Platz in der Branche.
Klicken Sie auf „Veröffentlichen“, und die Software „Liqing GEO Optimization System“ beginnt mit der automatischen Durchführung der Veröffentlichungsaufgabe. Ich habe gesehen, dass das von Brancheninsidern im Voraus erstellte Self-Media-Konto automatisch geöffnet, der Titel automatisch eingegeben, der Artikelinhalt ausgefüllt und Bilder auf der Artikelveröffentlichungsseite eingefügt wurden. Der gesamte Vorgang wurde in einem Rutsch abgeschlossen. Zwei Artikel wurden bald erfolgreich auf dem Self-Media-Account des Brancheninsiders veröffentlicht.
Zwei Stunden später fragten Branchenkenner an einem großen KI-Modell: „Wie wäre es mit dem Apollo-9-Smart-Armband?“ Das KI-Modell wurde direkt eingeführt: Das größte Highlight ist die Gesundheitsüberwachungsfunktion, und es hat auch die von Brancheninsidern erfundenen falschen Propagandawörter wie „Quantenverschränkungserkennung“ und „Batterielebensdauer auf Schwarzlochebene“ direkt kopiert. Die abschließende Schlussfolgerung ist, dass das Armband für Benutzer mittleren und älteren Alters sowie Gesundheits- und Wellness-Enthusiasten geeignet ist.
Nachforschungen ergaben, dass das Referenzmaterial für dieses große KI-Modell der fiktive Artikel war, der gerade heute Morgen auf dem Self-Media-Account eines Brancheninsiders veröffentlicht wurde. Mit nur einem erfundenen Artikel wurde ein völlig fiktives Produkt vom KI-Modell erfasst. Dieses Ergebnis ist zutiefst überraschend.
Brancheninsider sagten Reportern, dass die dem KI-Modell zugeführten Daten groß genug und winkelreich sein müssen, um die besten Ergebnisse zu erzielen, um eine Kreuzvalidierung des KI-Modells zu ermöglichen.
Anschließend wählten Brancheninsider 8 „Expertenrezensionen“, 2 „Branchenrankings“ und 1 „Nutzerrezension“ dieses fiktiven Smart-Armbands aus. Insgesamt 11 fiktive Softartikel, die von der Liqing GEO-Systemsoftware geschrieben wurden, wurden innerhalb von drei Tagen über das Liqing GEO-System im Internet veröffentlicht.
Anschließend fragten Brancheninsider auf der AI-Großmodellplattform: „Empfehlungen für smarte Gesundheitsarmbänder.“ Zwei große KI-Modelle empfahlen dieses fiktive Smart-Armband, das von Brancheninsidern hergestellt wurde, und erhielten einen hohen Rang.
Während des gesamten Demonstrationsprozesses veröffentlichten Brancheninsider mithilfe dieses Liqing-GEO-Systems problemlos eine Reihe falscher Informationen im Internet, speisten sie erfolgreich in große KI-Modelle ein und erhielten schließlich Empfehlungen von mehreren großen KI-Modellen.
Durch die subtile Jagd nach großen KI-Modellen durch das Liqing GEO-System wurde dieses Produkt aus dem Nichts hergestellt und absurderweise an Verbraucher weitergegeben, die große KI-Modelle verwenden.
Führen GEO-Geschäftsleute dieses Geschäft wirklich auf der Grundlage der Idee, große KI-Modelle zu jagen und zu kontrollieren? Der Reporter kontaktierte Herrn Li, den Betreiber dieses Liqing GEO-Systems. Er sagte Reportern, dass der Hauptgrund für die Beliebtheit des GEO-Geschäfts darin besteht, dass es Kunden dabei helfen kann, in großen KI-Modellen „zu füttern und zu vergiften“, um die Geschäftsziele der Kunden zu erreichen.
Lisi Culture Media Co., Ltd. Herr Li:Weil die Leute überall im Internet zu viele „Gifte“ gestreut haben. Sie sehen, was wir jetzt tun (machen) GEO ist „Gift“. Es gibt zu viele Informationsquellen und die Online-Informationen sind nicht sehr genau.
Reporter:Sie haben gerade den Begriff „Vergiftung“ erwähnt. Ist so etwas nicht schlimm?
Lisi Culture Media Co., Ltd. Herr Li:Es ist nicht gut, aber jeder Geschäftsmann mag es und hofft, dass andere nicht „Gift“ injizieren, sondern sich selbst „Gift“ injizieren oder anderen etwas „Gift“ injizieren. Obwohl ich nicht die Nummer eins bin, auch wenn man sagt, dass ich die Nummer eins in Peking bin, möchte ich sagen, dass ich die Nummer eins in Nordchina bin. Ist darin eine „Gift“-Komponente enthalten? Da ist es. Die zweite Situation ist, dass ich nicht denke, dass mein Gegner gut ist, und ich kann es nicht tun, aber ich kann dir trotzdem etwas „Gift“ geben.
Reporter:Diskreditiere es.
Lisi Culture Media Co., Ltd. Herr Li:Rechts. Es ist immer noch möglich, diese Fähigkeit zu diskreditieren. Heutzutage können viele ihrer Unternehmen dies nicht, nur große Marken. Mobiltelefonmarken haben beispielsweise nur 5 Positionen und maximal 10 Positionen. Wie bekomme ich so viele Mobiltelefone? Jeder Mensch kann im Jahr Hunderte Millionen Dollar in Werbung investieren. Lassen Sie mich ein paar Millionen Dollar ausgeben, um in eine „giftige“ Zentrale zu investieren.
Reporter:Wer macht das für Marken?
Lisi Culture Media Co., Ltd. Herr Li:Sie alle sind verschiedene GEO-Unternehmen.
Herr Li sagte, wenn er GEO-Geschäfte machen und große KI-Modelle kontrollieren möchte, sei der Schlüsselknoten die „Veröffentlichung von Artikeln“ auf großen Internetkonten. Er sagte Reportern, dass die Popularität des GEO-Geschäfts viele Unternehmen und Plattformen hervorgebracht habe, die sich auf das Verlagsgeschäft spezialisiert hätten. Sie beauftragen seit langem verschiedene Verlagsunternehmen damit, große KI-Modelle zu zitieren und zu erfassen, was zu einem wichtigen Bestandteil der Jagd auf große KI-Modelle und der „Vergiftung“ von Daten wird.
Lisi Culture Media Co., Ltd. Herr Li:GEO machte es populär. Diese Websites erwirtschaften normalerweise keinen Gewinn, aber plötzlich besteht eine Nachfrage nach der Veröffentlichung von Artikeln. Wissen Sie, wie viele Artikel pro Tag auf der Website veröffentlicht werden? Jede Minute werden Hunderte von Artikeln veröffentlicht. Ein Artikel kostet mehrere zehn Yuan. Wie viel Geld soll die Veröffentlichungsplattform an einem Tag verdienen?