Dieses KI-Programm könnte Sie in einem Streit schlagen – aber es weiß nicht, was es sagt

IBM-Forschung

Während einer Live-Debatte heute Abend in San Francisco brachte ein KI-Programm ein überraschend überzeugendes Argument vor, dass die Weltraumforschung subventioniert werden sollte. Wenn ein Mensch anderer Meinung war, bot das Programm eine Widerlegung an.

Die Debatte zwischen einem IBM-Computerprogramm namens Project Debater und mehreren menschlichen Teilnehmern ist der jüngste Beweis dafür, dass künstlich intelligente Maschinen Fortschritte bei Fähigkeiten machen, die zuvor Menschen vorbehalten waren – in diesem Fall dem Streiten.

Während der Veranstaltung wechselten sich das Programm und ein menschlicher Teilnehmer mit einem Argument zu einem bestimmten Thema ab, brachten eine Widerlegung vor und fügten ein abschließendes Argument hinzu. In einer zweiten Debatte plädierte die Sendung für den verstärkten Einsatz von Telemedizin, während der menschliche Teilnehmer dagegen argumentierte.

Verwandte Geschichte

Verwandte Geschichte Experten schlagen vor, dass KI-Systeme, die versuchen, sich gegenseitig zu überlisten, einer Person helfen könnten, ihre Absichten zu beurteilen.

IBM arbeitet seit mehreren Jahren an der KI-Software, die Unmengen von Text durchforstet, bevor sie eine Argumentation zu einem bestimmten Thema erstellt. Das Unternehmen hielt heute Abend die Debatte ab, um die Technologie zu fördern.

Project Debater versucht nicht, ein Argument auf der Grundlage eines Verständnisses des betreffenden Themas aufzubauen. Stattdessen konstruiert es einfach eines, indem es Elemente früherer Argumente zusammen mit relevanten Informationen aus Wikipedia kombiniert.

Noam Slonim und Ranit Aharonov, die IBM-Forscher hinter Project Debater. IBM-Forschung

Ranit Aharonov , ein in Israel ansässiger Forscher hinter dem Projekt, räumt ein, dass es begrenzt ist. Bei der Beherrschung der Sprache sei noch ein weiter Weg zu gehen, sagt sie. Aharonov glaubt jedoch, dass die Technologie eine Reihe von praktischen Anwendungen haben könnte. Es könnte beispielsweise jemandem helfen, eine wichtige Entscheidung zu treffen, indem es eine Reihe von Argumenten dafür und dagegen liefert.

Ein argumentatives KI-System könnte natürlich auch schändliche Verwendungen haben, einschließlich der Ansteuerung schädlicherer Bots in sozialen Medien und darüber hinaus. Aharonovs Mitarbeiter Noam Slonim mindert die Gefahr. Es gibt immer ein Risiko, und ich denke, es ist tatsächlich begrenzter als bei anderen Technologien, sagt er.

Oren Etzioni, CEO der Allen Institut für Künstliche Intelligenz in Seattle, sagt, dass es schwierig ist, die Fähigkeiten des IBM-Systems nur auf der Grundlage dieses Wettbewerbs zu beurteilen. Es ist einfacher, eine vorgefertigte Demo zusammenzustellen als eine offene, bei der Sie auf natürliche Weise damit interagieren können, sagt er.

Christian Hammond , Professor an der Northwestern University und Gründer von Narrative Sciences, einem Unternehmen, das automatisch Nachrichtenberichte und andere Inhalte generiert, sagt, dass sich die Technologie als nützlich erweisen könnte. Aber Hammond betont, dass die IBM-Software nur nachplappert, was sie ausgegraben hat. Es gibt nie einen Punkt, an dem das System weiß, wovon es spricht, sagt er. Bei Menschen halten wir das für beschissene Argumentation.

Hammond sagt auch, dass der Wettbewerb in San Francisco kaum die Nützlichkeit des Systems demonstriert. Das lenkt ein bisschen ab, sagt er.

verbergen