Zusammenfassung:
Das Korea Advanced Institute of Science and Technology (KAIST) und Microsoft Research Asia haben eine neuartige Gehirn-Computer-Schnittstellentechnologie entwickelt, die in Echtzeit erkennen kann, ob künstliche Intelligenz die Absichten des Benutzers missverstanden hat, indem sie menschliche Gehirnwellen analysiert und ihr Verhalten entsprechend anpasst. Das Forschungsteam geht davon aus, dass diese Technologie die künstliche Intelligenz auf eine neue Stufe bringen wird, vom „Gehorchen von Anweisungen“ bis zum „Verstehen von Absichten“.
Die Forscher nannten diese Technologie „Neural Value Alignment (NVA)“. Das System verwendet Elektroenzephalographie (EEG), um die neuronale Aktivität zu überwachen, die von Benutzern erzeugt wird, während sie der künstlichen Intelligenz bei der Ausführung von Aufgaben zusehen. Wenn die KI ein falsches Ziel verfolgt oder eine vom Benutzer nicht erwartete Aktion ausführt, generiert das Gehirn ein bestimmtes Vorhersagefehlersignal. Das System kann diese Änderungen erfassen und in Rückmeldungsinformationen umwandeln, sodass die KI erkennt, dass eine Abweichung in ihrem Verständnis vorliegt.
Obwohl künstliche Intelligenz in vielen Bereichen leistungsstarke Fähigkeiten unter Beweis gestellt hat, kommt es immer noch häufig zu Missverständnissen in der Kommunikation zwischen Mensch und KI. Selbst wenn der Benutzer detaillierte Eingabeaufforderungen gibt, kann die KI zwar relevante, aber erwartungsgemäß ungenaue Ergebnisse generieren. Das Forschungsteam geht davon aus, dass die Ursache des Problems darin liegt, dass künstliche Intelligenz hauptsächlich auf externen Informationen wie Sprache, Handlungen und Gesten beruht, um auf Absichten zu schließen, und diese Verhaltensweisen selbst oft nicht eindeutig sind.
Die Forscher gaben ein Beispiel dafür, dass eine Person durch das Aufheben einer Tasse Wasser trinken, die Tasse reinigen, die Tasse bewegen oder sie an jemand anderen weitergeben kann; Wenn umgekehrt das Ziel darin besteht, den Durst zu stillen, können Menschen dies auch auf unterschiedliche Weise erreichen, z. B. indem sie eine Tasse in die Hand nehmen, eine Wasserflasche holen oder andere um Hilfe bitten. Es ist oft unmöglich, den wahren Zweck durch bloße Beobachtung des Verhaltens selbst genau zu bestimmen.
Um dieses Problem der „Ziel- und Handlungsmehrdeutigkeit“ zu lösen, richtete das Forschungsteam seine Aufmerksamkeit auf das menschliche Gehirn selbst. Wenn die tatsächlichen Ergebnisse nicht mit den Erwartungen der Menschen übereinstimmen, erzeugt das Gehirn auf natürliche Weise spezielle Vorhersagefehlersignale. Das NVA-System nutzt diese neuronale Reaktion als zusätzliche Informationsquelle, um der künstlichen Intelligenz dabei zu helfen, festzustellen, in welchem Link es Missverständnisse gibt.
Das Forschungsteam konzentrierte sich auf zwei Arten von Gehirnnervensignalen. Ein Typ ist der „Belohnungsvorhersagefehler“, der widerspiegelt, ob das Ergebnis den persönlichen Zielen und Werterwartungen entspricht; Der andere Typ ist der „Zustandsvorhersagefehler“, der widerspiegelt, ob die tatsächliche Situation mit dem vom Gehirn erwarteten Prozess übereinstimmt. Durch die gleichzeitige Analyse dieser beiden Signale kann das System nicht nur Fehler im KI-Verständnis erkennen, sondern auch feststellen, ob die Fehler auf der Zielebene oder der Ebene der Ausführungsmethode auftreten.
Experimentelle Ergebnisse zeigen, dass künstliche Intelligenz nach der Einführung des EEG-Feedbacks genauer auf die wahre Absicht des Benutzers schließen und Abweichungen während der Aufgabenausführung proaktiv korrigieren kann, ohne dass der Benutzer ständig Anweisungen wiederholen oder neue Anweisungen erteilen muss.
Das Forschungsteam gab an, dass dieses Ergebnis voraussichtlich auf Szenarien wie Roboter, Mensch-Maschine-Kollaborationssysteme und intelligente Assistenten angewendet werden kann. Wenn beispielsweise ein zukünftiger Heimroboter eine Aufgabe ausführt und im Kopf des Benutzers die Reaktion „Das ist nicht das gewünschte Ergebnis“ erkennt, kann er seinen Aktionsplan proaktiv anpassen, ohne auf explizite Anweisungen warten zu müssen.
Forscher glauben, dass dies bedeutet, dass künstliche Intelligenz in Zukunft nicht mehr nur passiv auf Befehle reagieren kann, sondern mithilfe der Gehirn-Computer-Schnittstellentechnologie die wahren Absichten des Menschen verstehen kann, die sich hinter der Sprache verbergen, und so eine natürlichere und effizientere Mensch-Maschine-Zusammenarbeit erreichen kann. Während die entsprechende Forschung weiter voranschreitet, könnten intelligente Systeme der nächsten Generation, die menschliches kognitives Feedback erfassen und Verhalten in Echtzeit ändern können, nach und nach Realität werden.
Kommentare