Zusammenfassung:
Am 15. September verstarb laut der Kolumne „Xiaoxin Storytelling“ des Jiaxing News Media Center in der Provinz Zhejiang: Am 17. April dieses Jahres verstarb die Mutter von Herrn Shi. Seine Familie diskutierte darüber, wann sie begraben werden sollte. Er dachte an die künstliche Intelligenz-Software „Doubao“, und die Software empfahl ihm den 19. April.
Als alles geklärt war, fragte Herr Shi „Doubao“ noch einmal, um zu bestätigen, dass der 19. kein geeigneter Tag sei, es aber sehr mühsam wäre, ihn zu ändern. Aus diesem Grund war Herr Shi sehr wütend und verklagte das Softwareunternehmen, das „Doubao“ hergestellt hatte.
Berichten zufolge ist Herr Shis Heimatstadt Shuyang in der Provinz Jiangsu und er lebt derzeit in Jiashan. Am 17. April dieses Jahres starb die Mutter von Herrn Shi an einer plötzlichen Krankheit. Zur Familie von Herrn Shi gehören fünf Brüder und Schwestern. Die Familienmitglieder besprachen gemeinsam die Beerdigung seiner Mutter. Oberste Priorität hatte die Festlegung eines Bestattungstermins.
Herr. Shi sagte gegenüber Reportern: „Ich vertraue Doubao mehr. Ich verlasse mich ständig darauf und denke, dass es alles weiß. Dann habe ich Doubao gefragt, wann er begraben werden würde. Doubao sagte: 19. April. Ich denke, es macht Sinn, also glaube ich es.“
Aus der Q&A-Aufzeichnung der Software geht hervor, dass „Doubao“, nachdem Herr Shi damals die Frage gestellt hatte, antwortete, dass die zuverlässigste Empfehlung der 19. April sei.
Nach einer Weile fragte Herr Shi erneut: „Welche Zeit ist für die Beerdigung geeignet?“ „Doubao“ antwortete von 7 bis 9 Uhr, aber dieses Mal war die Antwort etwas anders als beim letzten Mal. „Doubao“ erwähnte in seiner Antwort, dass der 19. April kein geeigneter Tag sei.
Herr. Shi war für einen Moment verwirrt. Er fragte mehrmals nach und die Antwort von „Doubao“ war, dass der 19. unangemessen sei. Zu diesem Zeitpunkt hatten Verwandte und Freunde bereits mitgeteilt, dass es zu spät sei, den Termin zu ändern. Am Ende musste Herr Shi die Beerdigung seiner Mutter miterleben.
Kurz nach der Beerdigung wurde ein Verwandter zu Hause in einen Verkehrsunfall verwickelt und schwer verletzt. Sie beschwerten sich über die Arrangements von Herrn Shi.
Herr. Shi beschwerte sich bei der Firma der „Doubao“-Software, erhielt jedoch keine Antwort und beschloss, die Gegenpartei zu verklagen. „Doubao“ half Herrn Shi auch dabei, eine Beschwerde zu verfassen, in der er darauf hinwies, dass er klagen könne, und ihm die Schritte zur Strafverfolgung mitteilte.
Aus der Nutzungsvereinbarung der „Doubao“-Software geht hervor, dass die von der „Doubao“-Software und den Diensten generierten Inhalte nur als Referenz dienen und nicht als professionelle Beratung gedacht sind. Bei Situationen mit erheblichen Auswirkungen wird empfohlen, entsprechende Fachleute zu konsultieren; sie sollten nicht als Grundlage für Maßnahmen oder Unterlassungen dienen. Die Konsequenzen und Verantwortlichkeiten einer Beurteilung, die auf der Grundlage des ausgegebenen Inhalts oder nachfolgender damit verbundener Vorgänge auf dieser Grundlage erfolgt, trägt der Benutzer.
Der Reporter erfuhr, dass das Volksgericht des Kreises Jiashan eine Anhörung zu diesem Fall eröffnet hat.
Der Anwalt glaubt, dass es für Herrn Shi schwierig sein wird, seine Rechte durch eine Strafverfolgung zu verteidigen. Wenn Herr Shi den Schutz seiner Rechte gerichtlich geltend machen will, muss er nachweisen, dass der Dienstleister, der die KI-Software bereitgestellt hat, eine rechtswidrige Handlung begangen hat. Zunächst muss die andere Partei ein Verschulden treffen. Darüber hinaus muss ein kausaler Zusammenhang zwischen dem Verschulden der Gegenpartei und dem tatsächlichen Schaden bestehen, den Herr Shi erlitten hat. Das ist sehr schwer zu beweisen. Wenn die KI lediglich eine falsche Antwort liefert, reicht das offensichtlich nicht aus.
Nachrichten über „KI täuscht Menschen“ sind an der Tagesordnung. Am 18. Juni wurde dem 52-jährigen Zhang in Changsha zu Hause plötzlich schwindelig. Gewöhnlich schaltete er sein Mobiltelefon ein und nutzte die KI, um nach verwandten Symptomen und Behandlungsmethoden zu suchen. Drei Tage später besserte sich der Zustand nicht, sondern verschlechterte sich. Die Familienangehörigen schickten den Patienten schnell zum Arzt, und die Situation änderte sich. Ärzte warnen, dass die KI-Beratung hauptsächlich auf der Analyse der von Patienten eingegebenen Informationen beruht. Es ist schwierig, den Schweregrad der Erkrankung allein anhand von Textbeschreibungen zu beurteilen und kann ein persönliches Gespräch mit einem professionellen Arzt nicht ersetzen.
Kein Zufall. Am 5. Juni benutzte ein Bürger in Nanjing Sitzsäcke, um Fotos zu machen, um in der Gemeinde gepflückte Pilze zu identifizieren, die fast zu einer Lebensmittelvergiftung geführt hätten. Darüber hinaus wurde der 57-jährige Meister Yang aus Ningbo von der KI in die tiefen Berge „geführt“ und verirrte sich am Wochenende beim Klettern und blieb gefangen. Er war erschöpft und wurde von Feuerwehrleuten gerettet, nachdem er Hilfe gesucht hatte. Studenten der College-Aufnahmeprüfung nutzten KI, um ihre Freiwilligen auszufüllen, waren jedoch durch erfundene Berufskodizes und Punkterankings aus früheren Jahren voreingenommen. Landwirte fragten KI, welche Pestizide sie verwenden sollten, und Hunderte Hektar Sesamfelder starben über Nacht ... Diese Fälle sind oberflächlich betrachtet voller Unsinn, aber dahinter steckt die ernste Frage, wie wir KI richtig betrachten und einsetzen sollten.
Zuvor antwortete der zuständige Verantwortliche der Douyin Group, dass sich die KI noch in der Entwicklungsphase befinde und Doubao auch die Erkennungsgenauigkeit ständig verbessere, was wichtige Themen wie die persönliche Sicherheit betreffe. Es wird empfohlen, die Antworten der KI als Referenz zu verwenden und nach Argumenten mehrerer Parteien zu suchen, um Schaden zu vermeiden.
Das Papier kommentierte einmal: „Die Stärke der KI liegt in ihrer Fähigkeit, riesige Mengen fragmentierter Netzwerkinformationen in sehr kurzer Zeit zu durchsuchen und sie zu einer Antwort zusammenzusetzen, die „so etwas in der Art“ sagt. Aber die Antwort, die es gibt, ist „der Text, der der Wahrheit am ähnlichsten ist“ und nicht „die absolute, korrekte und verlässliche Wahrheit“. Es kann die komplexen Wege in einem tiefen Berg nicht erkennen, kann keine Diagnose anhand einfacher Beschreibungen stellen und kennt die Vorsichtsmaßnahmen für Pflanzenmedikamente nicht, ganz zu schweigen davon, dass es vorgeben kann, falsche Informationen zu verstehen und zu fabrizieren.
Je stärker die Technologie, desto mehr Menschen müssen wach bleiben. KI kann als Hilfsmittel zum Nachschlagen von Informationen, zum Organisieren von Ideen und zum Erstellen von Listen eingesetzt werden, sie ist jedoch niemals ein Allheilmittel, geschweige denn ein „Generalschlüssel“, der das Denken und die Entscheidungsfindung der Menschen ersetzen kann.
Besonders wenn es um wichtige Themen wie Reisesicherheit, körperliche Gesundheit und Ambitionen für die Hochschulaufnahmeprüfung geht, bei denen ein Fehler zum Umsturz führen kann, kann das Vertrauen in die KI nicht zu grenzenloser und bedingungsloser Abhängigkeit aufgewertet werden, und wir sollten den gesunden Menschenverstand im Leben und maßgebliche Kanäle zur Lösung von Problemen aufgeben. Die Alten sagten: „Es ist besser, keine Bücher zu haben, als an Bücher zu glauben.“ Heute sollten wir wohl sagen: Es ist besser, keine KI zu haben, als an KI zu glauben.
Kommentare