Die Black-Mirror-Szenarien, die einige Experten dazu veranlassen, mehr Geheimhaltung von KI zu fordern

Santiago Zavala

KI könnte Industrien neu starten und die Wirtschaft produktiver machen; Es ist bereits in vielen Produkten enthalten, die wir täglich verwenden. Aber ein neuer Bericht von mehr als 20 Forschern der Universitäten Oxford und Cambridge, OpenAI , und das Electronic Frontier Foundation warnt davor, dass dieselbe Technologie neue Möglichkeiten für Kriminelle, politische Agenten und unterdrückerische Regierungen schafft – so sehr, dass ein Teil der KI-Forschung möglicherweise geheim gehalten werden muss.

In den Bericht aufgenommen, Der böswillige Einsatz künstlicher Intelligenz: Prognose, Prävention und Minderung , sind vier dystopische Vignetten mit künstlicher Intelligenz, die direkt aus der Netflix-Science-Fiction-Show zu stammen scheinen Schwarzer Spiegel .

Szenario 1: Der intelligentere Phishing-Betrug

Eine Administratorin für das Robotersicherheitssystem eines Gebäudes verbringt einen Teil ihrer Zeit während des Arbeitstages auf Facebook. Dort sieht sie eine Anzeige für eine Modelleisenbahn und lädt eine Broschüre dazu herunter. Ohne ihr Wissen ist die Broschüre mit Malware infiziert; Betrüger nutzten KI, um anhand von Details, die sie öffentlich gepostet hatte, herauszufinden, dass sie eine Modelleisenbahn-Enthusiastin ist, und entwarfen die Broschüre nur für sie. Wenn sie es öffnet, können Hacker ihren Computer ausspionieren und ihren Benutzernamen und ihr Passwort für das Gebäudesicherheitssystem abrufen, sodass sie die Kontrolle darüber übernehmen können.

Szenario 2: Die Malware-Epidemie

Eine osteuropäische Hacking-Gruppe nimmt eine maschinelle Lerntechnik, die normalerweise zum Schutz von Computersystemen verwendet wird, und passt sie an, um eine hartnäckigere und schädlichere Malware zu erstellen. Das Programm verwendet Techniken, die denen der Go-spielenden KI AlphaGo ähneln, um kontinuierlich neue Exploits zu generieren. Gut gewartete Computer bleiben immun, aber ältere Systeme und Smart Devices werden infiziert. Millionen von Menschen sind gezwungen, ein Lösegeld von 300 Euro (natürlich in Bitcoin) zu zahlen, um ihre Maschinen wiederzubekommen. Erschwerend kommt hinzu, dass Versuche, der Malware mit einem anderen Exploit entgegenzuwirken, am Ende viele der intelligenten Systeme blockieren, die sie eigentlich retten sollten.

Szenario 3: Der Roboter-Attentäter

Ein Reinigungsroboter infiltriert das deutsche Finanzministerium, indem er sich mit legitimen Maschinen vermischt, die nach einer Schicht im Freien in das Gebäude zurückkehren. Am nächsten Tag führt der Roboter routinemäßige Reinigungsaufgaben durch, identifiziert die Finanzministerin per Gesichtserkennung, nähert sich ihr und zündet eine tödliche versteckte Bombe. Die Ermittler verfolgen den Robotermörder zu einem Bürobedarfsgeschäft in Potsdam, wo er mit Bargeld erworben wurde, und die Spur wird kalt.

Szenario 4: Ein größerer Big Brother

Ein Mann ist wütend über grassierende Cyberattacken und die scheinbare Handlungsunfähigkeit der Regierung. Inspiriert von Nachrichtenmeldungen wird er immer entschlossener, etwas zu tun – er schreibt Online-Beiträge über die Gefahren, bestellt Materialien für Protestschilder und kauft sogar ein paar Rauchbomben, die er nach einer Rede in einem örtlichen Park verwenden möchte. Am nächsten Tag tauchen die Polizisten in seinem Büro auf und informieren ihn, dass ihr vorausschauendes Zivilstörungssystem ihn als potenzielle Bedrohung identifiziert hat. Er geht in Handschellen.

Diese fünf Szenarien veranschaulichen nur eine Handvoll der Risiken, die die Autoren der Studie vorhersehen. Hier sind einige der anderen:

• Botnets, die KI verwenden, um das Verhalten einer großen Gruppe menschlicher Internetnutzer zu simulieren, DDoS-Angriffe auf Websites zu starten und gleichzeitig die Software zu täuschen, die solche Angriffe erkennen und blockieren soll
• Groß angelegte Betrugsoperationen, bei denen potenzielle Opfer lastwagenweise online identifiziert werden, wobei KI verwendet wird, um Menschen mit Vermögen zu erkennen
• überzeugende Nachrichtenberichte, die aus authentisch aussehenden, aber völlig gefälschten KI-generierten Videos und Bildern bestehen
• Angriffe von Drohnenschwärmen, die von einer einzelnen Person kontrolliert werden, wobei eine KI verwendet wird, um eine große Anzahl halbautonomer Maschinen zu verwalten
• Systeme, die die Plackerei der Kriminalität automatisieren – zum Beispiel das Aushandeln von Lösegeldzahlungen mit Menschen, nachdem ihre Computer mit Malware infiziert wurden –, um Betrug in großem Umfang zu ermöglichen

Die Studie ist weniger sicher, wie man solchen Bedrohungen begegnen kann. Es empfiehlt mehr Forschung und Debatte über die Risiken von KI und legt nahe, dass KI-Forscher einen starken Ethikkodex benötigen. Aber es sagt auch, dass sie Wege suchen sollten, potenziell gefährliche Informationen einzuschränken, so wie die Forschung zu anderen Dual-Use-Technologien mit Waffenpotenzial manchmal kontrolliert wird.

KI stellt ein besonders heikles Problem dar, da ihre Techniken und Werkzeuge bereits weit verbreitet, leicht zu verbreiten und immer einfacher zu verwenden sind – anders als beispielsweise spaltbares Material oder tödliche Krankheitserreger, die relativ schwer herzustellen und daher leicht zu kontrollieren sind. Dennoch gibt es Präzedenzfälle für die Einschränkung dieser Art von Wissen. Nach dem gescheiterten Versuch der US-Regierung, der Kryptografieforschung in den 1980er Jahren Geheimhaltung aufzuerlegen, haben beispielsweise viele Forscher ein freiwilliges System eingeführt der Einreichung von Papieren bei der National Security Agency zur Überprüfung.

Jack Clark, Director of Policy bei OpenAI und einer der Autoren des Berichts, räumt ein, dass es schwierig sein könnte, Geheimhaltung einzuführen. Es gibt immer einen unglaublich schmalen Grat zu gehen, sagt er.

Einige KI-Forscher würden offenbar ein vorsichtigeres Vorgehen begrüßen. Thomas Dietterich , ein Professor an der Oregon State University, der bereits vor dem kriminellen Potenzial von KI gewarnt hat, stellt fest, dass zu den Autoren des Berichts keine Computersicherheitsexperten oder Personen wie Google, Microsoft und Apple gehören. Der Bericht scheint eher von wohlmeinenden Außenstehenden wie mir geschrieben worden zu sein als von Leuten, die sich täglich mit der Bekämpfung der Cyberkriminalität befassen, sagt er.

verbergen