211service.com
Unser seltsames Verhalten während der Pandemie ist es, mit KI-Modellen herumzuspielen
Getty
In der Woche vom 12. bis 18. April waren die Top-10-Suchbegriffe auf Amazon.com: Toilettenpapier, Gesichtsmaske, Händedesinfektionsmittel, Papierhandtücher, Lysol-Spray, Clorox-Tücher, Maske, Lysol, Masken zum Schutz vor Keimen und N95-Maske . Die Leute suchten nicht nur, sie kauften auch – und zwar in großen Mengen. Die Mehrheit der Leute, die nach Masken suchten, kauften sie schließlich neu Amazon Nr. 1 Bestseller, Gesichtsmaske, 50 Stück .
Als Covid-19 zuschlug, fingen wir an, Dinge zu kaufen, die wir noch nie zuvor gekauft hatten. Die Verschiebung kam plötzlich: Die Hauptstützen der Top Ten von Amazon – Handyhüllen, Handyladegeräte, Lego – wurden in nur wenigen Tagen aus den Charts gedrängt. Nozzle, ein in London ansässiges Beratungsunternehmen, das sich auf algorithmische Werbung für Amazon-Verkäufer spezialisiert hat, hat die schnelle Veränderung in diesem einfachen Diagramm festgehalten.
Ende Februar dauerte es weniger als eine Woche, bis die Top 10 Amazon-Suchbegriffe in mehreren Ländern mit Produkten im Zusammenhang mit Covid-19 gefüllt waren. Sie können die Ausbreitung der Pandemie anhand unserer Einkäufe verfolgen: Die Artikel erreichten zuerst ihren Höhepunkt in Italien, gefolgt von Spanien, Frankreich, Kanada und den USA. Großbritannien und Deutschland hinken etwas hinterher. Es ist ein unglaublicher Übergang innerhalb von fünf Tagen, sagt Rael Cline, CEO von Nozzle. Die Dominoeffekte wurden in allen Lieferketten des Einzelhandels beobachtet.
Aber sie haben auch die künstliche Intelligenz beeinflusst und Probleme bei den Algorithmen verursacht, die hinter den Kulissen in der Bestandsverwaltung, Betrugserkennung, im Marketing und mehr laufen. Modelle für maschinelles Lernen, die auf normales menschliches Verhalten trainiert wurden, stellen nun fest, dass sich das Normale geändert hat und einige nicht mehr so funktionieren, wie sie sollten.
Wie schlimm die Situation ist, hängt davon ab, mit wem man spricht. Laut Pactera Edge, einem globalen KI-Beratungsunternehmen, befindet sich die Automatisierung im Trudeln. Andere sagen, dass sie automatisierte Systeme im Auge behalten, die gerade noch halten, und bei Bedarf mit einer manuellen Korrektur eingreifen.
Klar ist, dass die Pandemie gezeigt hat, wie eng unser Leben mit KI verflochten ist, und eine heikle Co-Abhängigkeit aufgedeckt hat, bei der Änderungen an unserem Verhalten die Funktionsweise von KI und Änderungen an der Funktionsweise von KI unser Verhalten verändern. Dies ist auch eine Erinnerung daran, dass die menschliche Beteiligung an automatisierten Systemen nach wie vor von entscheidender Bedeutung ist. Man kann nie sitzen und vergessen, wenn man sich in solch außergewöhnlichen Umständen befindet, sagt Cline.
Mehr zum Coronavirus
Unsere wichtigste Berichterstattung über Covid-19 ist kostenlos, einschließlich:
Was ist Herdenimmunität?
Was ist ein serologischer Test?
Wie funktioniert das Coronavirus?
Was sind die möglichen Behandlungen?
Welche Medikamente wirken am besten?
Was ist der richtige Weg, um soziale Distanzierung zu tun?
Weitere häufig gestellte Fragen zum Coronavirus
---
Newsletter: Coronavirus Tech Report
Zoom-Show: Radio Corona
Siehe auch:
Alle unsere Covid-19-Berichterstattung
Die Covid-19-Sonderausgabe
Bitte klicken Sie hier, um unseren gemeinnützigen Journalismus zu abonnieren und zu unterstützen.
Modelle für maschinelles Lernen sind darauf ausgelegt, auf Änderungen zu reagieren. Aber die meisten sind auch zerbrechlich; Sie funktionieren schlecht, wenn die Eingabedaten zu stark von den Daten abweichen, mit denen sie trainiert wurden. Es ist ein Fehler anzunehmen, dass man ein KI-System einrichten und dann weggehen kann, sagt Rajeev Sharma, Global Vice President bei Pactera Edge: KI ist eine lebendige, atmende Maschine.
Sharma hat mit mehreren Unternehmen gesprochen, die mit eigensinniger KI zu kämpfen haben. Ein Unternehmen, das Soßen und Gewürze an Einzelhändler in Indien liefert, benötigte Hilfe bei der Reparatur seines automatisierten Bestandsverwaltungssystems, als Großbestellungen seine Vorhersagealgorithmen durchbrachen. Die Verkaufsprognosen des Systems, auf die sich das Unternehmen bei der Nachbestellung von Lagerbeständen stützte, stimmten nicht mehr mit den tatsächlichen Verkäufen überein. Es wurde noch nie auf einem Spike wie diesem trainiert, also war das System aus dem Gleichgewicht geraten, sagt Sharma.
Ein anderes Unternehmen verwendet eine KI, um die Stimmung von Nachrichtenartikeln zu bewerten, und gibt auf der Grundlage der Ergebnisse tägliche Anlageempfehlungen ab. Aber da die Nachrichten im Moment düsterer als gewöhnlich sind, werden die Ratschläge sehr verzerrt sein, sagt Sharma. Und eine große Streaming-Firma, die einen plötzlichen Zustrom von inhaltshungrigen Abonnenten hatte, habe ebenfalls Probleme mit ihren Empfehlungsalgorithmen, sagt er. Das Unternehmen nutzt maschinelles Lernen, um den Zuschauern relevante und personalisierte Inhalte vorzuschlagen, damit sie immer wieder zurückkehren. Aber die plötzliche Änderung der Abonnentendaten machte die Empfehlungen des Systems ungenauer.
Viele dieser Probleme mit Modellen entstehen, weil immer mehr Unternehmen maschinelle Lernsysteme kaufen, aber nicht über das interne Know-how verfügen, um sie zu warten. Das Umschulen eines Modells kann einen fachmännischen menschlichen Eingriff erfordern.
Die aktuelle Krise hat auch gezeigt, dass es schlimmer kommen kann als die ziemlich einfachen Worst-Case-Szenarien, die in Trainingssets enthalten sind. Sharma ist der Meinung, dass mehr KIs nicht nur für die Höhen und Tiefen der letzten Jahre geschult werden sollten, sondern auch für ungewöhnliche Ereignisse wie die Weltwirtschaftskrise der 1930er Jahre, den Börsencrash am Schwarzen Montag 1987 und die Finanzkrise 2007-2008. Eine Pandemie wie diese sei ein perfekter Auslöser, um bessere Modelle für maschinelles Lernen zu entwickeln, sagt er.
Trotzdem kann man sich nicht auf alles vorbereiten. Wenn ein maschinelles Lernsystem nicht das sieht, was es erwartet, werden Sie im Allgemeinen Probleme haben, sagt David Excell, Gründer von Featurespace, einem Unternehmen für Verhaltensanalysen, das KI zur Erkennung von Kreditkartenbetrug einsetzt. Vielleicht überraschenderweise hat Featurespace seine KI nicht allzu stark getroffen. Die Leute kaufen immer noch Dinge bei Amazon und abonnieren Netflix wie früher, aber sie kaufen keine teuren Artikel oder geben sie an neuen Orten aus, was die Verhaltensweisen sind, die Verdacht erregen können. Das Ausgabeverhalten der Menschen ist eine Kontraktion ihrer alten Gewohnheiten, sagt Excell.
Die Ingenieure des Unternehmens mussten nur eingreifen, um sich auf einen Anstieg der Käufer von Gartengeräten und Elektrowerkzeugen einzustellen, sagt Excell. Dies sind die Arten von anomalen Käufen im mittleren Preissegment, die Betrugserkennungsalgorithmen aufspüren könnten. Ich denke, es gibt sicherlich mehr Aufsicht, sagt Excell. Die Welt hat sich verändert und die Daten haben sich geändert.
Den richtigen Ton treffen
Phrasee mit Sitz in London ist ein weiteres KI-Unternehmen, das praktisch ist. Es verwendet natürliche Sprachverarbeitung und maschinelles Lernen, um E-Mail-Marketing-Kopien oder Facebook-Anzeigen im Namen seiner Kunden zu erstellen. Es gehört zu seinem Job, dafür zu sorgen, dass es den richtigen Ton trifft. Seine KI funktioniert, indem sie viele mögliche Phrasen generiert und sie dann durch ein neuronales Netzwerk laufen lässt, das die besten auswählt. Aber da die Generierung natürlicher Sprache sehr schief gehen kann, lässt Phrasee immer Menschen überprüfen, was in seine KI hineingeht und aus ihr herauskommt.
Als Covid-19 zuschlug, erkannte Phrasee, dass mehr Sensibilität als gewöhnlich erforderlich sein könnte, und begann, zusätzliche Sprache herauszufiltern. Das Unternehmen hat bestimmte Ausdrücke verboten, wie z. B. viral werden, und erlaubt keine Sprache, die sich auf entmutigte Aktivitäten bezieht, wie z. B. Partykleidung. Es hat sogar Emojis ausgesondert, die als zu glücklich oder zu alarmierend gelesen werden können. Und es hat auch Begriffe fallen gelassen, die Angst schüren können, wie OMG, sei vorbereitet, fülle deine Vorräte auf und wappne dich. Die Leute wollen nicht, dass Marketing sie ängstlich und ängstlich macht – wissen Sie, dieser Deal läuft bald aus, Druck Druck Druck, sagt Parry Malm, der CEO der Firma.
Als Mikrokosmos für den gesamten Einzelhandel ist Amazon jedoch nicht zu schlagen. Hier werden auch einige der subtilsten Anpassungen hinter den Kulissen vorgenommen. Da Amazon und die 2,5 Millionen Drittanbieter, die es unterstützt, Schwierigkeiten haben, die Nachfrage zu befriedigen, nimmt es winzige Änderungen an seinen Algorithmen vor, um die Last zu verteilen.
Die meisten Amazon-Verkäufer verlassen sich auf Amazon, um ihre Bestellungen auszuführen. Verkäufer lagern ihre Artikel in einem Amazon-Lagerhaus und Amazon kümmert sich um die gesamte Logistik, die Lieferung zu den Menschen nach Hause und die Abwicklung von Rücksendungen. Es fördert dann Verkäufer, deren Bestellungen es selbst erfüllt. Wenn Sie beispielsweise nach einem bestimmten Artikel suchen, z. B. einem Nintendo Switch, ist das Ergebnis, das oben neben der prominenten Schaltfläche „Zum Warenkorb hinzufügen“ angezeigt wird, eher von einem Anbieter, der die Logistik von Amazon nutzt, als von einem, der dies tut 'T.
Aber in den letzten Wochen habe Amazon das umgedreht, sagt Cline. Um die Nachfrage nach seinen eigenen Lagern zu verringern, scheinen seine Algorithmen jetzt eher Verkäufer zu fördern, die ihre eigenen Lieferungen abwickeln.
Volatile Märkte
Diese Art der Anpassung wäre ohne manuellen Eingriff schwer zu bewerkstelligen. Die Situation ist so volatil, sagt Cline. Sie haben letzte Woche versucht, für Toilettenpapier zu optimieren, und diese Woche wollen alle Puzzles oder Fitnessgeräte kaufen.
Die Optimierungen, die Amazon an seinen Algorithmen vornimmt, wirken sich dann auf die Algorithmen aus, die Verkäufer verwenden, um zu entscheiden, was sie für Online-Werbung ausgeben. Jedes Mal, wenn eine Webseite mit Anzeigen geladen wird, findet eine superschnelle Auktion statt, bei der automatische Bieter untereinander entscheiden, wer jedes Anzeigenfeld füllen darf. Der Betrag, den diese Algorithmen für eine Anzeige ausgeben, hängt von einer Vielzahl von Variablen ab, aber letztendlich basiert die Entscheidung auf einer Schätzung, wie viel Sie, die Augäpfel auf der Seite, ihnen wert sind. Es gibt viele Möglichkeiten, das Kundenverhalten vorherzusagen, darunter nicht nur Daten über Ihre vergangenen Einkäufe, sondern auch die Schublade, in die Werbeunternehmen Sie aufgrund Ihrer Online-Aktivitäten eingeordnet haben.
Aber jetzt ist einer der besten Vorhersagen dafür, ob jemand, der auf eine Anzeige klickt, Ihr Produkt kaufen wird, wie lange Sie sagen, dass es dauern wird, um es zu liefern, sagt Cline. Nozzle spricht daher mit Kunden darüber, ihre Algorithmen anzupassen, um dies zu berücksichtigen. Wenn Sie beispielsweise der Meinung sind, dass Sie nicht schneller als ein Wettbewerber liefern können, lohnt es sich möglicherweise nicht, ihn in einer Anzeigenauktion zu überbieten. Auf der anderen Seite, wenn Sie wissen, dass Ihr Konkurrent keine Lager mehr hat, können Sie billig spielen, wo er nicht bieten wird.
All dies ist nur mit einem engagierten Team möglich, das die Dinge im Auge behält, sagt Cline. Er glaubt, dass die aktuelle Situation vielen Menschen die Augen öffnet, die davon ausgegangen sind, dass alle automatisierten Systeme von selbst laufen könnten. Sie brauchen ein Data-Science-Team, das das, was in der Welt vor sich geht, mit dem verbinden kann, was in den Algorithmen vor sich geht, sagt er. Ein Algorithmus würde einige dieser Dinge niemals aufgreifen.
Mit allem, was damit zusammenhängt, waren die Auswirkungen einer Pandemie weit und breit zu spüren und berührten Mechanismen, die in typischeren Zeiten verborgen bleiben. Wenn wir nach einem Silberstreif am Horizont suchen, dann ist es jetzt an der Zeit, eine Bestandsaufnahme dieser neu aufgedeckten Systeme zu machen und zu fragen, wie sie besser gestaltet und widerstandsfähiger gemacht werden könnten. Wenn Maschinen vertraut werden sollen, müssen wir sie im Auge behalten.