211service.com
Dieser Chip wurde auf der geheimen Tech-Konferenz von Jeff Bezos vorgeführt. Es könnte der Schlüssel für die Zukunft der KI sein.
Fotografien von Tony Luong
Kürzlich, an einem strahlenden Morgen in Palm Springs, Kalifornien, Vivienne Sze trat auf einer kleinen Bühne auf, um die vielleicht nervenaufreibendste Präsentation ihrer Karriere zu liefern.
Sie kannte das Thema in- und auswendig. Sie sollte dem Publikum von den Chips erzählen, die in ihrem Labor am MIT entwickelt werden und die versprechen, eine Vielzahl von Geräten mit begrenzter Leistung mit leistungsstarker künstlicher Intelligenz zu versorgen, die außerhalb der Reichweite der riesigen Rechenzentren liegen, in denen die meisten KI-Berechnungen stattfinden. Die Veranstaltung – und das Publikum – ließ Sze jedoch innehalten.
Toni Luong
Schauplatz war MARS, eine Elite-Konferenz nur für geladene Gäste, bei der Roboter durch ein Luxusresort schlendern (oder fliegen) und sich mit berühmten Wissenschaftlern und Science-Fiction-Autoren vermischen. Nur wenige Forscher werden eingeladen, Fachvorträge zu halten, und die Sitzungen sollen sowohl beeindruckend als auch aufschlussreich sein. Die Menge bestand unterdessen aus etwa 100 der weltweit wichtigsten Forscher, CEOs und Unternehmer. MARS wird von niemand anderem als dem Gründer und Vorsitzenden von Amazon, Jeff Bezos, moderiert, der in der ersten Reihe saß.
Es war, würde man wohl sagen, ein ziemlich hochkarätiges Publikum, erinnert sich Sze lachend.
Andere MARS-Sprecher stellten einen Karate-hackenden Roboter, Drohnen, die wie große, unheimlich leise Insekten flattern, und sogar optimistische Blaupausen für Marskolonien vor. Szes Chips mögen bescheidener erscheinen; Mit bloßem Auge sind sie nicht von den Chips zu unterscheiden, die Sie in jedem elektronischen Gerät finden würden. Aber sie sind wohl viel wichtiger als alles andere, was auf der Veranstaltung gezeigt wird.
Neue Fähigkeiten
Neu gestaltete Chips, wie sie in Szes Labor entwickelt werden, könnten für zukünftige Fortschritte in der KI von entscheidender Bedeutung sein – einschließlich von Dingen wie den Drohnen und Robotern, die bei MARS gefunden wurden. Bisher läuft KI-Software größtenteils auf Grafikchips, aber neue Hardware könnte KI-Algorithmen leistungsfähiger machen, was neue Anwendungen erschließen würde. Neue KI-Chips könnten Lagerroboter verbreiteter machen oder Smartphones fotorealistische Augmented-Reality-Szenerien erstellen lassen.
Die Chips von Sze sind sowohl äußerst effizient als auch flexibel in ihrem Design, was für ein Gebiet, das sich unglaublich schnell entwickelt, von entscheidender Bedeutung ist.
Die Mikrochips sollen mehr aus den Deep-Learning-KI-Algorithmen herausholen, die bereits die Welt auf den Kopf gestellt haben. Und dabei können sie diese Algorithmen selbst dazu inspirieren, sich weiterzuentwickeln. Wir brauchen neue Hardware, weil sich Moores Gesetz verlangsamt hat, sagt Sze und verweist auf das von Intel-Mitbegründer Gordon Moore geprägte Axiom, das vorhersagte, dass sich die Anzahl der Transistoren auf einem Chip etwa alle 18 Monate verdoppeln wird – was zu einer entsprechenden Leistungssteigerung der Computerleistung führen würde .
Toni Luong
Diese Gesetzmäßigkeit stößt nun zunehmend an die physikalischen Grenzen, die Ingenieurbauteilen im atomaren Maßstab begegnen. Und es weckt neues Interesse an alternativen Architekturen und Computeransätzen.
Die hohen Einsätze, die mit der Investition in KI-Chips der nächsten Generation verbunden sind – und die Aufrechterhaltung der amerikanischen Dominanz in der Chipherstellung insgesamt –, gehen der US-Regierung nicht verloren. Die Mikrochips von Sze werden mit Mitteln eines Programms der Defense Advanced Research Projects Agency (DARPA) entwickelt, das zur Entwicklung neuer KI-Chipdesigns beitragen soll (siehe Die KI-Ideen draußen, die die USA vor China halten sollen).
Innovationen in der Chipherstellung wurden jedoch vor allem durch das Aufkommen von Deep Learning vorangetrieben, einer sehr leistungsfähigen Methode für Maschinen, um zu lernen, nützliche Aufgaben auszuführen. Anstatt einem Computer eine Reihe von Regeln zu geben, die er befolgen soll, programmiert sich eine Maschine im Grunde genommen selbst. Trainingsdaten werden in ein großes simuliertes künstliches neuronales Netzwerk eingespeist, das dann so optimiert wird, dass es das gewünschte Ergebnis liefert. Mit ausreichend Training kann ein Deep-Learning-System subtile und abstrakte Muster in Daten finden. Die Technik wird auf ein ständig wachsendes Spektrum praktischer Aufgaben angewendet, von der Gesichtserkennung auf Smartphones bis zur Vorhersage von Krankheiten anhand medizinischer Bilder.
Das neue Chip-Rennen
Deep Learning ist nicht so abhängig von Moores Gesetz. Neuronale Netze führen viele mathematische Berechnungen parallel aus, sodass sie viel effektiver auf den spezialisierten Grafikchips für Videospiele ausgeführt werden, die parallele Berechnungen zum Rendern von 3D-Bildern durchführen. Aber Mikrochips, die speziell für die Berechnungen entwickelt wurden, die Deep Learning zugrunde liegen, sollten noch leistungsfähiger sein.
Das Potenzial für neue Chiparchitekturen zur Verbesserung der KI hat ein Maß an unternehmerischer Aktivität ausgelöst, das die Chipindustrie seit Jahrzehnten nicht mehr gesehen hat (siehe The Race to Power AI’s Silicon Brains and China has never had an real chip industry. Making AI chips konnte ändere das ).
Toni Luong
Große Technologieunternehmen, die KI nutzen und kommerzialisieren wollen – darunter Google, Microsoft und (ja) Amazon – arbeiten alle an ihren eigenen Deep-Learning-Chips. Auch viele kleinere Unternehmen entwickeln neue Chips. Es ist unmöglich, alle Unternehmen im Auge zu behalten, die in den KI-Chip-Bereich einsteigen, sagt Mike Delmer, Mikrochip-Analyst bei der Linley-Gruppe , ein Analystenhaus. Ich scherze nicht, dass wir fast jede Woche etwas Neues erfahren.
Die wirkliche Chance, sagt Sze, besteht nicht darin, die leistungsstärksten Deep-Learning-Chips zu bauen, die möglich sind. Die Energieeffizienz ist wichtig, da die KI auch außerhalb der Reichweite großer Rechenzentren laufen muss, was bedeutet, dass sie sich nur auf die Leistung verlassen muss, die auf dem Gerät selbst verfügbar ist, um zu laufen. Dies wird als Betrieb am Rand bezeichnet.
KI wird überall sein – und es wird äußerst wichtig sein, Wege zu finden, die Dinge energieeffizienter zu machen, sagt Naveen Rao, Vizepräsident der Produktgruppe für künstliche Intelligenz bei Intel.
Zum Beispiel ist die Hardware von Sze effizienter, teilweise weil sie den Engpass zwischen dem Ort der Datenspeicherung und dem Ort ihrer Analyse physisch reduziert, aber auch weil sie clevere Schemata zur Wiederverwendung von Daten verwendet. Bevor er zum MIT kam, leistete Sze bei Texas Instruments Pionierarbeit bei diesem Ansatz zur Verbesserung der Effizienz der Videokomprimierung.
In einem schnelllebigen Bereich wie Deep Learning besteht die Herausforderung für diejenigen, die an KI-Chips arbeiten, darin, sicherzustellen, dass sie flexibel genug sind, um für jede Anwendung geeignet zu sein. Es ist einfach, einen supereffizienten Chip zu entwerfen, der nur eine Sache kann, aber ein solches Produkt wird schnell veraltet sein.
Szes Chip heißt Eyeriss. Entwickelt in Zusammenarbeit mit Joel Emer , ein Forschungswissenschaftler bei Nvidia und Professor am MIT, wurde es zusammen mit einer Reihe von Standardprozessoren getestet, um zu sehen, wie es mit einer Reihe verschiedener Deep-Learning-Algorithmen umgeht. Durch den Ausgleich von Effizienz und Flexibilität erreicht der neue Chip eine Leistung, die 10- oder sogar 1.000-mal effizienter ist als die bisherige Hardware ein Papier letztes Jahr online gestellt.
Sertac Karaman und Vivienne Sze vom MIT entwickelten den neuen Chip Tony Luong
Einfachere KI-Chips zeigen bereits große Wirkung. High-End-Smartphones enthalten bereits Chips, die für die Ausführung von Deep-Learning-Algorithmen zur Bild- und Spracherkennung optimiert sind. Effizientere Chips könnten es diesen Geräten ermöglichen, leistungsfähigeren KI-Code mit besseren Fähigkeiten auszuführen. Auch selbstfahrende Autos benötigen leistungsstarke KI-Computerchips, da die meisten Prototypen derzeit auf eine Vielzahl von Computern angewiesen sind.
Rao sagt, die MIT-Chips seien vielversprechend, aber viele Faktoren würden darüber entscheiden, ob eine neue Hardware-Architektur erfolgreich sei. Einer der wichtigsten Faktoren, sagt er, ist die Entwicklung von Software, auf der Programmierer Code ausführen können. Etwas vom Compiler-Standpunkt aus nutzbar zu machen, ist wahrscheinlich das größte Hindernis für die Einführung, sagt er.
Tatsächlich erforscht Szes Labor auch Möglichkeiten, Software so zu entwerfen, dass sie die Eigenschaften bestehender Computerchips besser ausnutzt. Und diese Arbeit geht über Deep Learning hinaus.
Zusammen mit Sertac Karaman , vom Department of Aeronautics and Astronautics des MIT, entwickelte Sze einen Low-Power-Chip namens Navion, der unglaublich effizient 3-D-Mapping und -Navigation für den Einsatz auf einer winzigen Drohne durchführt. Entscheidend für diese Bemühungen war die Entwicklung des Chips, um das Verhalten von navigationsorientierten Algorithmen auszunutzen – und die Entwicklung des Algorithmus, um das Beste aus einem benutzerdefinierten Chip herauszuholen. Zusammen mit der Arbeit an Deep Learning spiegelt Navion die Art und Weise wider, wie sich KI-Software und -Hardware jetzt in Symbiose zu entwickeln beginnen.
Szes Chips sind vielleicht nicht so aufmerksamkeitsstark wie eine flatternde Drohne, aber die Tatsache, dass sie auf dem MARS ausgestellt wurden, vermittelt einen Eindruck davon, wie wichtig ihre Technologie – und Innovationen im Bereich Silizium im Allgemeinen – für die Zukunft der KI sein werden. Nach ihre Präsentation , sagt Sze, bekundeten einige der anderen MARS-Sprecher Interesse, mehr darüber zu erfahren. Die Leute fanden viele wichtige Anwendungsfälle, sagt sie.
Mit anderen Worten, erwarten Sie, dass die auffälligen Roboter und Drohnen auf der nächsten MARS-Konferenz etwas ganz Besonderes im Inneren verbergen.