211service.com
KI ist jetzt real: Ein Gespräch mit Sophie Vandebroek
Warum es nie wieder einen KI-Winter geben wird und was IBM und MIT gemeinsam dafür tun.
28. Februar 2019
Gefördert durch Dunkle Spur
Mehr als fast jedes andere Innovationsfeld hat die künstliche Intelligenz wiederkehrende Zyklen übertriebener Hoffnungen überstanden, gefolgt von Enttäuschung, Pessimismus und Kürzungen der Mittel. Aber Sophie Vandebroek, Vice President of Emerging Technology Partnerships von IBM, ist der Meinung, dass die KI-Winter dank der riesigen Mengen an Rechenleistung und Daten, die jetzt zum Trainieren neuronaler Netze zur Verfügung stehen, wirklich der Vergangenheit angehören.
In dieser Folge teilt Vandebroek Beispiele für reale Anwendungen, die durch diesen Wandel ermöglicht werden, von der Bilderkennung zu Chatbots. Und sie beschreibt die Mission des neuen MIT-IBM Watson AI Lab, einer 10-jährigen Zusammenarbeit zwischen IBM-Forschern und MIT-Fakultäten und -Studenten im Wert von 240 Millionen US-Dollar, um sich auf die wichtigsten Fortschritte zu konzentrieren, die KI branchenübergreifend vom Gesundheitswesen bis hin zu nützlicher und zuverlässiger machen Finanzen zur Sicherheit.
Diese Episode wird Ihnen von Darktrace präsentiert, dem weltweit führenden Anbieter von KI-Technologie für die Cyberabwehr. Darktrace hat seinen Hauptsitz in San Francisco und Cambridge, Großbritannien, und hat fast 2.500 Kunden auf der ganzen Welt, die seine Software verwenden, um Cyber-Bedrohungen für ihre Unternehmen, Benutzer und Geräte zu erkennen und darauf zu reagieren. Darktrace hat eine innovative maschinelle Lerntechnologie entwickelt, die ungewöhnliche Aktivitäten mit einem Ansatz erkennen kann, der dem menschlichen Immunsystem nachempfunden ist. In der zweiten Hälfte der Show erklärt Nicole Eagan, CEO von Darktrace, wie die Technologie von Darktrace funktioniert und warum Unternehmen neue Abwehrmechanismen in das heutige Cyber-Wettrüsten einbringen müssen.
HINWEISE UND LINKS ANZEIGEN
VOLLSTÄNDIGE ABSCHRIFT
Elizabeth Bramson-Boudreau: Ich bin Elizabeth Bramson-Boudreau vom MIT Technology Review, und dies ist Business Lab, die Messe, die Führungskräften dabei hilft, neue Technologien, die aus dem Labor kommen und auf den Markt kommen, zu verstehen. Diese Episode wird Ihnen von Darktrace präsentiert, dem weltweit führenden Anbieter von KI-Technologie für die Cyberabwehr. Später im Programm werde ich mit der CEO von Darktrace, Nicole Eagan, sprechen. Sie wird uns zeigen, wie Fortschritte in den Bereichen KI und maschinelles Lernen uns neue Wege eröffnen, uns gegen Hacker und Cyberkriminelle zu verteidigen.
Elisabeth: Aber unser erster Gast kommt aus einem der neuesten Zentren für KI-Forschung, dem MIT-IBM Watson AI .Lab, nur ein paar Blocks von unseren Büros hier in Cambridge, Massachusetts, entfernt. Es ist der Ort von mehr als 50 neuen Projekten, an denen IBM-Forscher und MIT-Fakultäten beteiligt sind, die alle darauf abzielen, die grundlegenden Technologien hinter künstlicher Intelligenz voranzutreiben. Und hier, um mit uns zu sprechen, ist eine der Architekten dieser Bemühungen, Dr. Sophie Vandebroek.
Elisabeth: Sophie ist derzeit IBMs Vice President of Emerging Technology Partnerships und in der Computerbranche für ihre bemerkenswerte Geschichte bekannt, in der sie Innovationen vorangetrieben hat – nicht nur bei IBM, sondern auch bei Xerox, wo sie über ein Jahrzehnt als Chief Technology Officer bei Xerox tätig war. Sie war Direktorin von PARC Inc., dem berühmten Labor, das früher als Xerox PARC bekannt war. 2011 wurde sie in die Women in Technology Hall of Fame aufgenommen. Passend zu den Themen des MIT IBM Watson AI Lab sprachen wir zu Beginn darüber, wie sich KI entwickelt und warum sie Unternehmen auf eine Weise verändert, die die meisten Führungskräfte gerade erst zu verstehen beginnen.
Elisabeth: Sophie, vielen Dank, dass Sie hierher gekommen sind, um mit uns zu sprechen und willkommen zu heißen.
Sophie Vandebroek: Oh, es ist mir eine große Freude, hier zu sein. Ich bin ein begeisterter Leser Ihres Journals, daher freue ich mich sehr, am Podcast teilzunehmen.
Elisabeth : Ich hoffe, Sie können nicht nur mit mir, sondern auch mit den Leuten, die diesen Podcast hören, darüber sprechen, wohin sich die KI entwickelt und in welcher Phase wir uns in der KI-Entwicklung befinden. Ich weiß, dass viele Leute darüber sprechen, dass KI kurz davor stand, die Arbeit zu verändern, nur um diese Hoffnungen zu verpuffen. Könnten wir möglicherweise in einer anderen dieser Situationen sein, in der es im Sande verläuft, oder ist das jetzt anders?
Sophie: Es ist ganz anders, jetzt, wo KI real ist. Und ja, das Wort künstliche Intelligenz wurde vor fast 70 Jahren geprägt. Es ist so viele Jahrzehnte später. Also was ist passiert? Warum war es damals nicht real und warum ist es heute real? Es gibt zwei Hauptgründe, warum es jetzt real ist. Und beides liegt an Exponentialgesetzen. Das erste ist Moores Gesetz, das wir alle sehr gut kennen und lieben. Der Transistor, der grundlegende Transistor, wurde in den 50er Jahren erfunden. 1975 gab es 1000 Transistoren auf einem Quadratzentimeter großen Chip. Heute gibt es 10 Milliarden Transistoren auf einem Quadratzentimeter-Chip, den IBM heute entwickelt, und diese Rechenleistung hat zu den mobilen Geräten geführt, die wir in unseren Taschen haben, den neuesten Hochleistungscomputern, dem Summit, wissen Sie, diesem IBM-Computer dieser Oak Ridge National Lab wurde kürzlich gekauft. Es macht 200 Petaflops, was 200.000 Billionen Berechnungen pro Sekunde entspricht. Ich meine, superschnell.
Sophie: Wir haben also ein Volumen, ich meine eine riesige Menge an Rechenleistung, die entscheidend dafür ist, dass KI real ist. Dazu kommt das zweite Gesetz, das Metcalfe’sche Gesetz. Bob Metcalfe, der auch lange Zeit Teil der Bostoner Community war, war bei Xerox PARC, und wie Sie wissen, war ich vor meiner Zeit bei IBM einige Jahrzehnte bei Xerox und arbeitete eng mit dem PARC-Team zusammen, als er Ethernet erfand. Und das verbundene Ethernet ... der Wert des Ethernets, der Wert eines Netzwerks, ist proportional zu 2 hoch n mit n, der Anzahl der Geräte im Netzwerk. Das nennt man Metcalfe’s Law, und es bezog sich nicht nur auf das Ethernet, sondern offensichtlich auf das World Wide Web, auf soziale Netzwerke, und es hat viele sehr wertvolle Unternehmen geschaffen, die wir heute alle kennen.
Sophie: Aber zusätzlich hat es diese riesige Datenmenge erzeugt, richtig? Und so haben die Daten im Internet zusammen mit den strukturierten digitalen Daten, die viele Unternehmen heute haben, viele Unternehmen begonnen, alle ihre Arbeitsprozesse zu digitalisieren, zusammen mit all den Daten, die von Sensoren mit dem Internet der Dinge und Sensoren und Fertigung und Kameras stammen, allgegenwärtig Kameras usw. Es gibt eine riesige Datenmenge, die in den letzten zehn Jahren oder sogar noch mehr exponentiell zugenommen hat. Und so kam es zu den „KI-Wintern“, weil tatsächlich die Rechenleistung und die Daten fehlten, um diese neuronalen Netze zu trainieren. Und heute haben wir die Rechenleistung. Wir haben die Daten. Und bei den neuronalen Netzen wurden in den letzten fünf Jahren enorme Fortschritte gemacht, da es 2012 erstmals ein tief lernendes neuronales Netz war, das auf einer grafischen Verarbeitungseinheit, einer GPU, lief erstmals einen Wettbewerb zur Bilderkennung gewonnen. Und tatsächlich hat die KI in diesen engen Bereichen übermenschliche Qualität und Supergeschwindigkeit. Und aus diesen Gründen, diesen beiden Exponentialen, ist KI real. Und tatsächlich würde ich sagen, dass die künstliche Intelligenz selbst jetzt am Anfang einer exponentiellen Kurve steht, dass wir exponentiell schnell neue Erkenntnisse schaffen, die Einzelpersonen, egal in welcher Branche Sie tätig sind, nutzen können, um schnelle Entscheidungen in Echtzeit zu treffen. Außerdem kann es den Entdeckungsprozess in der biowissenschaftlichen Forschung und Entwicklung insgesamt beschleunigen. Es wird also genutzt. Und es hat wirklich die Fähigkeit, mehrere Bereiche zu beeinflussen.
Elisabeth: Das ist also eine großartige Erklärung dafür, was diesen Wandel wirklich ermöglicht hat und warum KI heute ein so allgegenwärtiges Thema für Unternehmensleiter ist. Was ermöglicht es, was ermöglicht KI Unternehmen, was vor einem Jahrzehnt schwierig oder sogar unmöglich gewesen wäre?
Sophie: Ja, das hat es, es ermöglicht Unternehmen, sowohl ihre Effektivität als auch ihre Effizienz unter dem Gesichtspunkt der Rentabilität zu steigern. Aber es ermöglicht ihnen auch, ganz neue Geschäftsmodelle und neue Umsatzmöglichkeiten zu schaffen. Lassen Sie mich ein Beispiel für das erste geben. Zum Beispiel virtuelle Agenten, die in diese Kategorie der engen KI passen, die wir gerade in dieser Phase durchlaufen haben, wir befinden uns heute in der Phase der breiten KI und wir können darüber sprechen, bevor wir zur allgemeinen künstlichen Intelligenz kommen. Aber die virtuellen Agenten oder die Chatbots, die viele von uns heute als Teil von Kundenservern kennen und mit denen sie interagieren, gab es vor einem Jahrzehnt einfach nicht. Alles wurde von Call-Center-Agenten erledigt, die große Datenbanken nutzen mussten, um Ihnen Antworten auf Ihre Fragen usw. zu geben. Nun, das meiste davon können virtuelle Agenten heute sehr effektiv und effizient erledigen. Tatsächlich werden einige dieser virtuellen Agenten heute sehr schnell einschätzen, ob Sie extrovertiert oder introvertiert sind, und ihre Sprache an Ihren Stil anpassen.
Sophie: Auch Automatisierung. Wenn Sie beispielsweise heute mit Ihrem Auto durch eine Mautstelle fahren, erfolgt die Kennzeichenerkennung und das Auslesen der Kennzeichen vollautomatisch, sodass Ihnen innerhalb der Backend-Prozesse tatsächlich Gebühren für das Durchfahren der Mautstellen in Rechnung gestellt werden. Auch hier wurden die meisten dieser Prozesse in der Vergangenheit alle manuell durchgeführt. Es würden Fotos von Nummernschildern gemacht, zur Bearbeitung nach Indien geschickt, und dann würden vier von fünf Personen, wenn ihr Nummernschild in das System eingegeben wird, eine Rechnung erhalten. Das sind all diese transaktionalen, routinemäßigen, sehr engen, sehr spezifischen Prozesse, die heute automatisiert sind.
Elisabeth: Das klingt alles fantastisch. Und als Führungskraft denke ich, dass Sie wissen, warum ich keine größeren Effizienzen sehen möchte. Aber gibt es Dinge, über die ich vielleicht in Bezug auf die Risiken von auf maschinellem Lernen basierenden Tools nachdenken muss?
Sophie: Ja, auf jeden Fall gibt es Risiken. Und viele Unternehmen – bei IBM ist es oberstes Gebot. Wir erstellen die Tools und Funktionen als Teil von IBM OpenScale oder wir haben andere Toolkits, die ich hervorheben werde. Eine davon besteht darin, Unternehmen beim Umgang mit Risiken zu unterstützen. Auch Vorstände und Direktoren von Unternehmen rücken zunehmend in den Fokus, sicherzustellen, dass diese Risiken im Zusammenhang mit dem Einsatz und der Übernahme von künstlicher Intelligenz als Teil der Organisation angegangen werden. Lassen Sie mich nur einige hervorheben. Nummer eins stellt sicher, dass die Algorithmen, KI-Algorithmen fair sind – dass das Ergebnis des KI-Algorithmus, da KI Menschen bei der Entscheidungsfindung unterstützt, dass die Entscheidungen fair und ethisch und nicht voreingenommen sind. Also haben wir gerade Open Source eingeführt, jeder kann uns helfen, es zu verbessern, also hat IBM Research das AI Fairness 360 Toolkit als Open Source veröffentlicht, in das Sie Ihren Algorithmus einbinden können und der dann auf alle Arten von Verzerrungen überprüft wird. Heute prüfen wir auf Geschlechter-, Alters-, Rassen- und Dinge wie Postleitzahl-Vorurteile. Einer der Gründe für die Voreingenommenheit ist, dass der Datensatz, mit dem die Argumentation trainiert wird, und insbesondere in Unternehmen – Unternehmen nicht über riesige Datenmengen wie in der Verbraucherwelt verfügen, wo es eine riesige Menge an Katzenbildern geben könnte einen Bildalgorithmus zu trainieren, um eine Katze zu erkennen. Die Unternehmen, in denen ein Unternehmen, sagen wir ein Krankenhaus, eine Schule oder ein Unternehmen, über eine begrenzte Menge an Daten verfügt, um die Algorithmen zu trainieren, sodass die Daten möglicherweise nicht genügend Vielfalt und Einbeziehung in den Datensatz aufweisen, so dass die Algorithmen tatsächlich werden voreingenommen.
Sophie: Ein Beispiel ist zum Beispiel, dass Personalabteilungen beginnen, KI einzusetzen, um bei der Suche nach neuen Mitarbeitern zu helfen. Wenn also Ihre Quelle für Softwareentwickler einen KI-Algorithmus nutzt, der möglicherweise mit Ihren Daten trainiert wird, wird der Algorithmus lernen, dass die meisten Softwareentwickler männlich sind, weil Sie in der Vergangenheit solche Mitarbeiter eingestellt haben. Das Risiko besteht also darin, dass Algorithmen Ihrer nächsten Einstellung dann empfehlen könnten, wenn sie sich alle Lebensläufe ansehen, sie könnten proportional mehr Männer als Frauen für Softwareentwicklungsjobs empfehlen. Wir alle wissen, dass das Geschlecht für einen Softwareentwickler irrelevant ist. Es ist einfach so, dass historische Daten innerhalb der Daten voreingenommen waren. Die Tools empfehlen dann also, einen vielfältigeren Datensatz zu haben.
Elisabeth: Okay, was sind einige der anderen Risiken?
Sophie: Okay. Die anderen Risiken sind, ich meine eher, dass die heutigen Algorithmen, insbesondere Deep Learning und neuronale Netze, wie Black Boxes sind, richtig. Das Risiko besteht also darin, dass der Algorithmus Ihnen eine Antwort gibt. Ja, Sie erhalten einen Kredit, oder nein, Sie erhalten keinen Kredit, oder ja, Sie haben Hautkrebs, weil die KI Hautkrebs besser als der Mensch erkennen kann. Aber es kann es nicht erklären. Es erklärt nicht, warum oder wie es zu dieser Antwort kam. Daher ist die Erklärbarkeit sehr wichtig. Das ist also ein Risiko, dass Sie in Ihrem Unternehmen nicht erklären können, wie bestimmte Antworten zustande gekommen sind. Und tatsächlich ist es in der Europäischen Union mit der DSGVO, den Allgemeinen Datenschutzbestimmungen, eine Anforderung. Unternehmen können KI nicht einmal nutzen, wenn sie sich nicht selbst erklären kann. Alles muss erklärt werden können.
Elisabeth: Erzählen Sie uns also etwas über das MIT-IBM Watson Lab und seine Mission.
Sophie: Ja. Vielen Dank für die Frage. Dies ist eine sehr aufregende Partnerschaft zwischen der IBM-Forschung und dem MIT, die wir vor etwas mehr als einem Jahr gegründet haben. Es handelt sich also um eine Verpflichtung von IBM in Höhe von 240 Millionen US-Dollar über 10 Jahre und es ist ein weltweit einzigartiges Labor, ein Labor für die Zusammenarbeit zwischen Universität und Industrie. Es gibt kein anderes dieser Art. Tatsächlich begannen ich und der Dekan für Ingenieurwissenschaften am MIT, Anantha [Chandrakasan], im Sommer 2017 mit dem Brainstorming, ich glaube, es war …
Sophie: Du hast mir gesagt, dass alles ziemlich schnell gegangen ist.
Elisabeth: Es geschah in drei Wochen. Vielleicht vier Wochen, wenn ich das Mittagessen einbeziehe, das Anantha und ich hatten, bevor unser Senior Vice President an einem Montagmorgen mit dem Präsidenten des MIT sprach und drei Wochen später, an einem Freitag, der Vertrag unterzeichnet wurde. Und so ist es in der Tat, die Vision war, dieses gemeinsame Labor von etwa 100 Forschern zu schaffen, und zu den Forschern gehörten IBM-Forscher, MIT-Professoren und Studenten, und wir feierten im September den ersten Jahrestag. Letzten September 2018. Und tatsächlich haben wir 49 gemeinsame Projekte, die heute aktiv sind, mit etwa 100 Personen oder umgerechnet 100 Personen in diesen Projekten. Und das sind sie wirklich, sie sind Forschungsprojekte und keine angewandte Technologie. Wir wollten wirklich sicherstellen, dass diese 50 Projekte die schwierigsten Probleme der KI angehen. Und genau das tun sie.
Sophie: Es gibt also vier Säulen. Wir haben vier Säulen definiert. Einer dreht sich um zentrale KI-Algorithmen, und genau dort sprechen wir diese schwierigen Probleme an, wie KI, die sich selbst erklären kann. Oder das Lernen aus kleinen Daten, verschiedene Methoden, um aus kleinen Daten zu lernen, z. B. Krankenhäuser haben eine kleine Gruppe von Patienten, aber eine kleine Gruppe von Daten.
Elisabeth: Um das zuvor erwähnte Problem anzugehen, dass es auf Unternehmensseite nicht gibt, gibt es oft nicht genug Daten, um die Algorithmen wirklich zu trainieren.
Sophie: Nicht so, wie es in der Vergangenheit in der engen KI-Phase richtig gemacht wurde. Jetzt befinden wir uns in dieser Phase der breiten KI, in der Systeme aus kleinen Daten lernen müssen. Damit sind auch einige der Projekte im MIT-IBM Watson AI Lab verbunden.
Sophie: Die zweite Säule ist die Anwendung von KI in der Industrie. Und heute betrachten wir drei Branchen: das Gesundheitswesen und die Biowissenschaften, denn die Geschäftseinheit Watson Health von IBM hat ihren Hauptsitz genau hier in Cambridge, Massachusetts. Auf die Industrie angewandte KI ist auch Sicherheit, angewandt auf Sicherheitsunternehmen. Und natürlich ist Sicherheit für alle Branchen relevant. Und die dritte Branche, auf die wir uns konzentrieren, sind Finanzdienstleistungen, also Finanzen und Wirtschaft. Das ist also ein zweites Standbein. Das MIT-IBM Watson AI Lab besteht aus vier Säulen.
Sophie: Das dritte ist, wir nennen es die Physik der KI. Was sind die Hardware-Herausforderungen, um ein effizientes und effektives Training sowohl in den Clouds als auch am Rand durchzuführen? Und die vierte Kategorie, auf die ich mich sehr freue, ist eine Kategorie, die wir „durch KI ermöglichten Wohlstand“ oder „durch KI ermöglichten gemeinsamen Wohlstand“ nennen. Es befasst sich erneut mit diesen Herausforderungen bei der Erstellung von KI-Systemen, die wirklich moralische Werte haben, die ethische Entscheidungen treffen können. Was zum Beispiel die Zukunft der Arbeitsplätze ist, ist ein Projekt, das wir in dieser Kategorie haben. Und ja, das sind die vier Säulen: KI-Kernalgorithmen, KI-Physik, KI für die Industrie und durch KI ermöglichter Wohlstand. Und jetzt, da wir unser einjähriges Bestehen gefeiert haben, haben wir gerade zwischen dem MIT und IBM vereinbart, dass wir unsere Türen für andere große Unternehmen öffnen werden, die wirklich daran interessiert sind, an der Spitze der Forschung im Bereich der künstlichen Intelligenz zu stehen, um sich unserem Labor anzuschließen. Daran arbeiten wir also als nächstes.
Elisabeth: Zwei Bereiche, über die wir bei MIT Technology Review viel Zeit verbringen, sind Kryptowährungen oder Blockchain und Quantencomputing. Ich würde wirklich gerne hören, was Sie alle in diesen Bereichen tun. Und vielleicht können wir mit Krypto anfangen. Und ich denke, die Frage, die ich hätte, lautet: Wie denken wir darüber, dass Blockchain mehr ist als eine Kuriosität und tatsächlich etwas, das vertrauenswürdig und stabil ist und den geschäftlichen Kontext, in dem es verwendet wird, irgendwie verbessern kann?
Sophie: Ja, da hast du das richtige Wort gesagt. Es geht also um Vertrauen. Wenn wir bei IBM über Blockchain sprechen, in der Tat Blockchain, wurde mehrere Jahre lang in den Forschungslabors viel über Blockchain geforscht, und IBM hat vor etwa zweieinhalb Jahren ein Unternehmen gegründet, eine Blockchain-Geschäftseinheit. Ich sehe drei Arten von Bereichen, in denen Blockchain heute verwendet wird oder in denen viele Prototypen experimentieren. Man steckt ja in Kryptowährungen wie Bitcoin. Und so kennen die meisten Leute Blockchain, sie denken an Bitcoin. Und das ist ein ganzer Bereich der Kryptowährung. Bei IBM interessieren wir uns nicht für Kryptowährungen, weil unsere Kunden kein Interesse an Kryptowährungen haben. Uns interessiert die zugrunde liegende Blockchain-Plattform. Und tatsächlich ist ein Großteil der zugrunde liegenden Plattform Open-Source auf Hyperledger, betrieben von der Linux Foundation, und IBM hat maßgeblich zum Code beigetragen, und wir werden dies auch weiterhin tun. Die nächste ist Blockchain, diese zugrunde liegende Plattform, die in Wertschöpfungsketten verwendet wird, um wertvolle Güter oder wertvolle digitale Güter auf ihrem Weg von ihrem Ursprungsort bis zu ihrem Verwendungsort zu verfolgen. Und ich kann einige Beispiele nennen. Und der dritte Bereich, in dem es besonders in der Finanzdienstleistungsbranche wertvoll ist, betrifft die digitale Identität. Und da kann ich einige Beispiele nennen. Aber woran Unternehmen interessiert sind, ist in der Lage zu sein, vertrauenswürdige Transaktionen zwischen Partnern zu erstellen, die sich von Natur aus nicht kennen, wie kleine Unternehmen oder größere Unternehmen oder Händler oder Landwirte.
Sophie: Und so Vertrauen auf verteilte Weise schaffen. Die Blockchain-Netzwerke, die wir mit unseren Kunden erstellt haben, sind also private Netzwerke. Sie sind nicht offen für alle. Sie sind privat. Es ist ein genehmigungspflichtiges Netzwerk. Eines der ersten Beispiele, das wir vor vielen, vielen Jahren gemacht haben und das jetzt in Betrieb ist, ist ein Blockchain-Netzwerk für Lebensmittelsicherheit, das wir mit Walmart erstellt haben. Walmart war ein tragendes Mitglied dieses Blockchain-Netzwerks und viele der Walmart-Lieferanten sind im Netzwerk. Und dort verfolgt es Lebensmittel von der Farm bis zum Tisch. Und vor allem die Absicht hier ist, dass, wenn wie ein Ausbruch von E. coli oder ein anderes Problem mit der Lebensmittelsicherheit...
Elisabeth: Römersalat.
Sophie: Ja, Römersalat. Ich meine, es passiert die ganze Zeit. Wir wussten, dass der Ausbruch irgendwo in Kalifornien stattfand, aber alles, einschließlich Kopfsalat, der hier in Massachusetts angebaut wurde, wurde direkt aus dem Regal genommen. Das passiert heute. Es dauert lange, nachzuvollziehen, wo ein Ausbruch stattgefunden hat. Aber wenn Sie alle Ihre Waren innerhalb von zwei Minuten oder schneller durch die Blockchain verfolgen, können Sie schnell nachvollziehen, woher dieser bestimmte Salat stammt. Dann müssen Sie noch hineingehen und sehen, an welchem Punkt in der Kette von der Farm über das Geschäft bis zum Tisch die E. coli tatsächlich die Lebensmittel kontaminiert haben. Aber das ist einfacher, als zuerst herauszufinden, woher es kommt. Richtig.
Elisabeth: Toll. Nun, es ist absolut wunderbar, von Ihnen zu hören und die Gelegenheit zu haben, wieder mit Ihnen zu sprechen. Und es ist toll, das Labor gleich um die Ecke zu haben. Es ist eine wunderbare Einrichtung und es ist gut, Sie in der Nachbarschaft zu haben. Also vielen Dank.
Sophie: Oh vielen Dank. Es war mir eine große Freude.
Elisabeth: Diese Episode wird Ihnen von Darktrace, dem weltweit führenden Anbieter von Cyber-KI-Technologie, präsentiert. Darktrace hat seinen Hauptsitz in San Francisco in Cambridge, England. Es hat rund 2.500 Kunden auf der ganzen Welt, die seine Software verwenden, um Cyber-Bedrohungen für ihre Unternehmen, Benutzer und Geräte zu erkennen und darauf zu reagieren. Darktrace hat eine innovative maschinelle Lerntechnologie entwickelt, die ungewöhnliche Aktivitäten erkennen kann. Um mehr darüber zu erfahren, wie das funktioniert, habe ich mit der CEO des Unternehmens, Nicole Eagan, gesprochen.
Elisabeth: Schön reden zu können.
Nicole Eagan: Kein Problem.
Elisabeth: Ich weiß es zu schätzen, dass Sie dies tun. Bei Darktrace vergleichen Sie Ihre Marke der Cybersicherheit mit dem menschlichen Immunsystem. Und ich hoffe, Sie können uns erklären, was Sie damit meinen.
Nicole: Was wirklich passiert ist, ist meiner Meinung nach, dass die Sicherheitsindustrie davon besessen war, die Bösewichte fernzuhalten. Und was wir erkannt haben, ist, dass die sehr raffinierten Angreifer wie die Nationalstaaten oft in jedes Netzwerk eindringen, das sie wollen. Also beschlossen wir, das Problem in die andere Richtung zu drehen und anzunehmen, dass die bösen Jungs drinnen waren oder in der Lage sein würden, hineinzukommen. Das führte uns zu dieser Idee, unsere künstliche Intelligenz tatsächlich auf den Prinzipien des menschlichen Immunsystems aufzubauen. Wenn Sie also an das Immunsystem des menschlichen Körpers denken, hat es ein angeborenes Selbstgefühl, das es ihm ermöglicht, zu wissen, was es nicht ist, und eine sehr präzise und schnelle Reaktion zu haben. Genau so funktioniert unsere künstliche Intelligenz. Es ist in jedes Unternehmen unserer Kunden eingebettet und lernt einfach ein Gefühl für sich selbst, was normal ist. Was wir das „Lebensmuster“ jedes Benutzers und Geräts nennen, das mit diesem Netzwerk verbunden ist. Und das ermöglicht es uns, Dinge zu finden, die aussergewöhnlich sind, und die Angriffe buchstäblich zu stoppen oder sie in ihren Bahnen zu neutralisieren.
Elisabeth: Und wie sehen Sie allgemein, ganz allgemein, wie sich Cyber-Angriffe heutzutage verändern, seien sie nun aus Nationalstaaten oder von einzelnen Bösewichten, Cyber-Kriminellen, ausgegangen?
Nicole: Ich habe mich kürzlich mit einem Chief Security Officer eines unserer Kunden getroffen, und ich denke, er hatte eine großartige Art, es zu beschreiben. Er sagte, denken Sie nur, es gibt irgendwo auf der Welt ein Team, und der Vollzeitjob dieses Teams besteht darin, darüber nachzudenken, wie es entweder Ihr geistiges Eigentum stehlen oder irgendwie Informationen von Ihnen erhalten kann. Und genau das ist es, womit Unternehmen konfrontiert sind, und der Grund dafür ist die Art von Cyber-Wettrüsten, bei dem wir daran gewöhnt sind, dass Regierungen gegen Regierungen kämpfen – während das immer noch stattfindet, haben wir jetzt diese ganz neue Dimension, wo Nationalstaaten tatsächlich sind möglicherweise Angriffe auf die Unternehmen. Und das bedeutet, dass sich dieses digitale Schlachtfeld wirklich verschoben hat und das ist etwas, wogegen sich die meisten Unternehmen in der Vergangenheit wirklich nicht wehren mussten. Jetzt verkomplizieren und kombinieren Sie das mit der Tatsache, dass diese Nationalstaaten in vielen Fällen auch mit einem sehr starken globalen Cyberkriminalitätsring organisiert werden können. Und diese Art der Zusammenarbeit zwischen diesen Einheiten ist auch eine Art neue Dimension. Das ist also etwas, womit Unternehmen konfrontiert sind, das im Vergleich zu den Angriffen vor vielleicht fünf oder zehn Jahren ziemlich neu und ziemlich neuartig ist.
Elisabeth: Okay. Wenn es also darum geht, was Darktrace tut, verwenden Sie künstliche Intelligenz, um Angriffe zu erkennen, sich gegen Angriffe zu verteidigen oder beides?
Nicole: Das ist eine ausgezeichnete Frage. Wissen Sie, ich denke, in einigen Fällen verwenden Unternehmen künstliche Intelligenz einfach, um menschliche Prozesse zu automatisieren. So hat beispielsweise jedes Unternehmen in der Regel ein Security Operations Center. Sie werden dort eine Reihe von Bedrohungsanalysten und Vorfallreaktionskräften haben. Und es gibt einen Ansatz, der gut sagt, warum man KI nicht einfach ausschaltet und aus den Schritten lernt, die sie im sogenannten Playbook unternehmen, um auf Verstöße zu reagieren und sie zu automatisieren. Und das kann Ihnen einen kleinen Effizienzgewinn bringen. Aber gleichzeitig wird es kein Game Changer sein. Die andere Sache, für die ich gesehen habe, dass KI verwendet wird, ist im Grunde die Analyse aller historischen Angriffe, die auf andere Personen und andere Unternehmen stattgefunden haben, und der Versuch, dies als Indikator für zukünftige Bedrohungen zu verwenden. Nun, obwohl es sehr interessant und irgendwie praktisch klingt, scheint es tatsächlich grundlegend fehlerhaft zu sein, und das liegt daran, dass sich die Angriffe so schnell ändern. Tatsächlich gibt es in vielen Fällen nur neue Angriffsstränge, bei denen eine einzelne Codezeile geändert wird, und jetzt stimmen die sogenannten Signaturen nicht mehr überein. In unserem Fall verwenden wir also zahlreiche Arten von unüberwachtem, überwachtem und tiefem Lernen, um nicht nur die Angriffe zu finden, sondern auch, dass die künstliche Intelligenz weiß, wie der Angriff zu untersuchen ist. Und vor allem auch, wie man tatsächlich handelt. Und das ist sehr selten. Es gibt tatsächlich kein anderes Unternehmen, das KI einsetzt, um Maßnahmen zu ergreifen.
Elisabeth: Richtig. Sie tun also beides. Sie erkennen und ergreifen Maßnahmen.
Nicole: Wir nutzen die KI wirklich, um zu erkennen, zu untersuchen und Maßnahmen zu ergreifen. Und dieser letzte Teil, das Handeln, ist wirklich schwierig und wirklich interessant. Es ist großartig, weil es sehr schnell auf Angriffe reagieren kann, im Durchschnitt kann es in weniger als zwei Sekunden auf einen Angriff reagieren. Und wenn sich diese Angriffe mit Maschinengeschwindigkeit bewegen, ist das absolut kritisch. Aber die andere Sache, die wir aus praktischer Sicht festgestellt haben, ist, dass es Zeit für Leute in der Sicherheitsorganisation braucht – vielleicht ist dies das erste Mal, dass sie überhaupt mit künstlicher Intelligenz arbeiten und erweitert werden – es braucht Zeit für sie dieses Vertrauen tatsächlich aufzubauen. Wir haben also tatsächlich eine ganz neue Funktion geschaffen, mit der es Empfehlungen geben kann. Was ist, wenn die KI empfiehlt, welche Maßnahmen sie ergreifen würde, und von einem Menschen bestätigt wird? Und sobald die Menschen anfangen zu sehen, wow, es macht jedes Mal die richtige Empfehlung, sie bauen ein Vertrauen auf und versetzen es in den sogenannten aktiven Modus. Ich denke, nachdem wir dies in den letzten fünf Jahren in fast 2.500 Unternehmen getan haben, sind wir wirklich gut darin geworden, zu verstehen, was es braucht, um diese Vertrauensbeziehung aufzubauen, aber auch unsere Algorithmen sind wirklich stark und wirklich schlau geworden, um auf diese Angriffe zu reagieren Echtzeit.
Elisabeth: Wenn also die Verteidigung besser wird, kann man dann nicht sagen, dass auch Angriffe besser werden, vielleicht mit Hilfe von KI, um sich gegen KI-orientierte oder KI-organisierte Cyberabwehr zu wehren?
Nicole: Sie haben absolut Recht, obwohl es noch ziemlich früh ist und wir nur Anzeichen dafür gesehen haben, dass es in diese Richtung gehen kann, und wir haben Dinge wie Verhaltensangriffe gesehen, bei denen die KI Ihren Stil und Ihre Kommunikationsweise lernen könnte die Sie verwenden, sagen wir mal eine E-Mail. In diesem Stadium war es eine Art grundlegendes maschinelles Lernen. Aber wir erwarten voll und ganz, dass es eine ganz neue Angriffskategorie geben wird, die als offensive KI bezeichnet wird. Und das bedeutet, dass die Angreifer beginnen werden, verschiedene Formen des maschinellen Lernens, der KI und schließlich des Deep Learning als Teil der Angriffe einzusetzen. Das wird also diese ganze Branche über Nacht verändern. Und ich denke, im Großen und Ganzen haben viele Führungskräfte wahrscheinlich noch nicht darüber nachgedacht.
Elisabeth: Richtig. Es ist also sehr interessant, denn während Sie darüber sprachen, wie Darktrace eine Bestandsaufnahme dessen macht, was „normale Aktivität“ in einem Netzwerk ist, kommt mir in den Sinn, dass es andere Anwendungsfälle für diese Informationen oder diese Einsicht geben könnte. Und ich frage mich, ob Sie über eine Art Cybersicherheit hinaus darüber nachgedacht haben, normale Aktivitäten zu betrachten, um bei anderen Dingen zu helfen, wie zum Beispiel der Einhaltung gesetzlicher Vorschriften oder dem Risikomanagement und solchen Dingen.
Nicole: Absolut. Ich denke, was interessant war, ist, dass wir im Auftrag unserer Kunden einen wirklich einzigartigen Datensatz erstellt haben. Jeder von ihnen, der heute Darktrace für die Sicherheit verwendet, verfügt also tatsächlich über eine eingebettete künstliche Intelligenz, die das Selbstgefühl lernt und kontinuierlich lernt und aktualisiert. Und das ist ein Datensatz, der für andere Dinge verwendet werden kann. Es könnte für die Einhaltung gesetzlicher Vorschriften verwendet werden. Tatsächlich nutzen uns einige Darktrace-Kunden heute für die Einhaltung von HIPAA und HITRUST im Gesundheitswesen oder von Dingen wie DFS, den Vorschriften des Staates New York für Finanzdienstleistungen. Wir sehen also bereits Frühindikatoren dafür, wie diese künstlichen Intelligenzmodelle und dieser einzigartige Datensatz genutzt werden können. Ich denke, ein wirklich interessanter Anwendungsfall sind Fusionen und Übernahmen. Wir haben einige Unternehmen, die uns in Due-Diligence-Phasen für Fusionen und Übernahmen einsetzen, um tatsächlich mehr Einblick in das Umfeld des Zielvermögens zu erhalten. Und heute verwenden sie es, um tatsächlich zu sehen, ob es vielleicht einen Konkurrenten oder einen Nationalstaat innerhalb dieses Netzwerks gibt, der beispielsweise versucht, geistiges Eigentum zu stehlen. Aber es gibt viel breitere Arten von M&A-Due-Diligence-Prüfungen, für die es verwendet werden könnte. Und schließlich haben wir einige Kunden, die uns auch für die Einhaltung des Datenschutzes wie der DSGVO nutzen, indem sie sehen, welcher Datenverkehr in und aus Europa geht. Also absolut, ich denke, obwohl wir heute irgendwie nur die Macht dieses Datensatzes und unserer KI-Modelle für die Cybersicherheit freisetzen, könnten wir in Zukunft eine Entscheidung treffen, Kunden dabei zu helfen, andere Schlüssel zu verwenden, um sie freizuschalten und zusätzlichen Wert zu liefern.
Elisabeth: Und machen Sie verschiedene Dinge mit diesen Informationen. Ja, es ist faszinierend. Nicole, vielen Dank, dass Sie mit mir darüber gesprochen haben.
Nicole: Vielen Dank, Elisabeth.
Elisabeth: Das war es für diese Folge von Business Lab. Ich bin Ihre Gastgeberin Elizabeth Bramson-Boudreau. Ich bin CEO und Herausgeber von MIT Technology Review. Wir wurden 1899 am Massachusetts Institute of Technology gegründet. Sie finden uns jedes Jahr in gedruckter Form, im Internet, bei Dutzenden von Live-Veranstaltungen und jetzt auch in Audioform. Weitere Informationen über das Magazin und die Messe finden Sie auf unserer Website unter TechnologyReview.com. Unsere Show ist überall dort verfügbar, wo Sie Ihre Podcasts erhalten. Wenn Ihnen diese Folge gefallen hat, hoffen wir, dass Sie sich einen Moment Zeit nehmen, um uns bei Apple Podcasts zu bewerten und zu rezensieren. Business Lab ist eine Produktion des MIT Technology Review. Der Produzent ist Wade Roush mit redaktioneller Hilfe von Mindy Blodgett. Besonderer Dank gilt unseren Gästen Sophie Vandebroek und Nicole Eagan. Und vielen Dank an unseren Sponsor Darktrace, den weltweit führenden Anbieter von KI-Technologie für die Cyberabwehr. Danke fürs Zuhören. Wir melden uns bald mit einer neuen Folge zurück.