Preisalgorithmen können lernen, miteinander zu kooperieren, um die Preise zu erhöhen

Kategorie: Künstliche Intelligenz Gesendet 12. Feb

Wenn Sie bei Amazon einkaufen, legt wahrscheinlich eher ein Algorithmus als ein Mensch den Preis für die Dienstleistung oder den Artikel fest, den Sie gekauft haben. Preisalgorithmen sind im Online-Einzelhandel allgegenwärtig geworden, da automatisierte Systeme immer erschwinglicher und einfacher zu implementieren sind. Aber während Unternehmen wie Fluggesellschaften und Hotels seit langem Maschinen verwenden, um ihre Preise festzulegen, haben sich die Preissysteme weiterentwickelt. Sie sind von regelbasierten Programmen zu Programmen mit Verstärkungslernen übergegangen, bei denen die Logik der Entscheidung über den Preis eines Produkts nicht mehr in der menschlichen Kontrolle liegt.

Wenn Sie sich erinnern, ist Reinforcement Learning eine Teilmenge des maschinellen Lernens, das Strafen und Belohnungen verwendet, um einen KI-Agenten dazu anzuregen, ein bestimmtes Ziel zu erreichen. AlphaGo hat es bekanntermaßen verwendet, um die besten menschlichen Spieler beim alten Brettspiel Go zu schlagen. Innerhalb eines Preiskontextes wird diesen Systemen ein Ziel gegeben, wie z. B. die Maximierung des Gesamtgewinns; Anschließend experimentieren sie mit verschiedenen Strategien in einer simulierten Umgebung, um die optimale zu finden. Eine neue Papier deutet nun an, dass diese Systeme ein großes Problem darstellen könnten: Sie lernen schnell, geheime Absprachen zu treffen.

Forscher der Universität Bologna in Italien haben zwei einfache, auf Reinforcement-Learning basierende Preisalgorithmen entwickelt und sie in einer kontrollierten Umgebung eingesetzt. Sie entdeckten, dass die beiden völlig autonomen Algorithmen lernten, auf das Verhalten des anderen zu reagieren, und den Preis der Waren schnell über den Wert trieben, an dem sie entweder alleine betrieben worden wären.

Am besorgniserregendsten sei, dass die Algorithmen keine Spur einer konzertierten Aktion hinterließen, schrieben die Forscher. Sie lernen, Absprachen ausschließlich durch Versuch und Irrtum zu treffen, ohne vorherige Kenntnis der Umgebung, in der sie tätig sind, ohne miteinander zu kommunizieren und ohne speziell für Absprachen konzipiert oder angewiesen worden zu sein. Dadurch besteht die Gefahr, dass die Warenpreise in die Höhe getrieben werden und letztendlich die Verbraucher geschädigt werden.

Dies erschien ursprünglich in unserem KI-Newsletter The Algorithm. Um es direkt in Ihren Posteingang geliefert zu bekommen, melden Sie sich hier kostenlos an.