Wenn Chatbots besser werden sollen, müssen sie Sie möglicherweise beleidigen

Kategorie: Künstliche Intelligenz Gesendet 22. Feb

KIs sind besser darin geworden, ein Gespräch zu führen, aber Technologiefirmen scheuen sich davor, sie aus Angst vor PR-Albträumen einzuführen.

Bessere Bots: Der New York Times sagt Die jüngsten KI-Fortschritte halfen Microsoft und Facebook, eine neue Art von Chatbots zu entwickeln, die sorgfältig auswählen, wie sie sich unterhalten. Microsoft hat beispielsweise einen entwickelt, der aus einer Reihe von Konkurrenten den am menschlichsten klingenden Satz auswählt, um präzise und vertraute Antworten zu erstellen.

Aber: Wie Microsofts katastrophal rassistischer Tay-Bot gehen sie immer noch schief. Laut Facebook kann 1 von 1.000 Äußerungen seiner Chatbots rassistisch, aggressiv oder allgemein unerwünscht sein. Das ist fast unvermeidlich, wenn sie mit begrenzten Daten trainiert werden, denn in Online-Gesprächen, die als Trainingssätze verwendet werden, gibt es zwangsläufig anstößigen Text.

Warum es wichtig ist: Wenn sich die Bots weiter verbessern sollen, müssen sie sich echten Benutzern stellen. Aber Technologiefirmen befürchten PR-Desaster, wenn die Software das Falsche sagt. Möglicherweise müssen wir Fehler besser akzeptieren, wenn wir wollen, dass die Bots besser werden.