Zusammenfassung:
Neben der Suche nach medizinischem Rat gehört Outdoor-Bergsteigen offensichtlich zu den Bereichen, in denen Menschen „niemals blind an KI glauben sollten“. Als kürzlich mehrere junge Kletterer den Mount Shasta (Mount Shasta) im Siskiyou County, Kalifornien, USA, bestiegen, verursachten sie fast eine Katastrophe, weil sie sich zu sehr auf den Google-KI-Chatroboter Gemini verließen. Die KI hatte ursprünglich vorhergesagt, dass die Reise nur 8 Stunden dauern würde, aber am Ende brauchten sie doppelt so lange, um den Gipfel des Berges zu erreichen, was alle in ernsthafte Schwierigkeiten brachte.
Die drei beteiligten Bergsteiger sagten, dass sie sich bei der Vorbereitung auf diese Reise hauptsächlich auf Google Gemini, YouTube und die Wanderanwendung AllTrails berufen hätten. Sie verlassen sich nicht nur auf KI, um Routen zu planen, sondern lassen sich vom Chatbot sogar Lebensmittel und Trinkwasser vorschlagen, die sie mitbringen sollten. Geminis damaliger Rat war, für den erwarteten achtstündigen Aufstieg einfache Zucker und Kohlenhydrate anstelle von Fetten mitzunehmen, da die Verdauung von Fett zu lange dauert. Nachdem sie sich diesen Rat angehört hatten, bereiteten die Teammitglieder nur eine sehr begrenzte Menge an Wasser und Vorräten vor, die ihrer Meinung nach ausreichten, um diesen „relativ kurzen“ Aufstieg zu bewältigen.
Am 29. August errichteten die drei Bergsteiger ein Basislager in der Nähe des Quellgebiets von Clear Creek. Laut San Francisco Chronicle (SFGate) ist Camping in der Gegend tatsächlich verboten. Am nächsten Tag um 3 Uhr morgens brachen die drei offiziell ihr Lager ab und machten sich auf den Weg zum Klettern. Der tatsächliche Schwierigkeitsgrad übertraf jedoch die Schätzung der KI bei weitem. Es dauerte bis 19 Uhr. Am 30. August erreichten sie nach 16 Stunden beschwerlicher Wanderung endlich den Gipfel. Zu diesem Zeitpunkt war die örtlich empfohlene Rückkehrzeit von 12 Uhr mittags bereits weit überschritten.
Nachdem wir oben angekommen waren, verschlechterte sich die Situation. Der Akku des Telefons, das sie zum Anzeigen der AllTrails-Navigationsrouten verwendeten, war völlig leer und schaltete sich ab. Als die Nacht hereinbrach, tappte eines der Teammitglieder in der Dunkelheit nach vorne, um Scheinwerferstrom zu sparen. Leider stürzte er in einer Höhe von etwa 11.500 Fuß (ca. 3.500 Meter) und verletzte sich am Knie. Als die in Panik geratenen Bergsteiger sahen, dass das Essen und Wasser aufgebraucht war und ihnen die warme Kleidung und die nötige Schutzausrüstung für die Nacht fehlten, riefen sie schließlich 911 um Hilfe.
Aufgrund der starken Winde in der Bergregion konnte sich der Rettungshubschrauber zu diesem Zeitpunkt zweimal nicht abseilen und heben. Erst am 31. August um 9:30 Uhr nahm das Personal der Waldpatrouille endlich Kontakt zu den drei eingeschlossenen Personen auf und konnte sie erfolgreich zu Fuß retten. Anschließend gaben diese verängstigten jungen Menschen bei der Befragung durch Streifenpolizisten zu: „Wir verlassen uns zu sehr auf künstliche Intelligenz, vernachlässigen aber unser eigenes kritisches Denken.“
Es ist heutzutage keine Seltenheit, den Ratschlägen von KI-Chatbots blind zu folgen und negative Konsequenzen zu ziehen. Zuvor folgte ein Landwirt den Anweisungen des Chatbots zum Unkrautjäten und zur Schädlingsbekämpfung, was direkt zum Absterben von 25 Hektar Ernte führte; jemand litt auch an einer seltenen psychischen Störung des 19. Jahrhunderts, weil er die Ernährungsempfehlungen von ChatGPT befolgte; und ein 19-jähriger junger Mann bat angeblich um personalisierte Medikamentenberatung bei ChatGPT, der eine tödliche Medikamentenkombination empfahl, die schließlich zum Tod des Klienten führte und eine Klage gegen OpenAI auslöste.
Kommentare