„Vertrauenswürdige KI“ ist ein Rahmenwerk zur Verwaltung einzigartiger Risiken

„Vertrauenswürdige KI“ ist ein Rahmenwerk zur Verwaltung einzigartiger Risiken

Zur Verfügung gestellt von Das Deloitte AI Institute

Die Technologie der künstlichen Intelligenz (KI) schreitet sprunghaft voran und wird schnell zu einem potenziellen Störfaktor und wesentlichen Wegbereiter für fast jedes Unternehmen in jeder Branche. In diesem Stadium ist eines der Hindernisse für den weit verbreiteten Einsatz von KI nicht mehr die Technologie selbst; Vielmehr handelt es sich um eine Reihe von Herausforderungen, die ironischerweise viel menschlicher sind: Ethik, Governance und menschliche Werte.

Irfan Saif ist Principal bei Deloitte Risk and Financial Advisory. Beena Ammanath ist Geschäftsführerin bei Deloitte Consulting LLP.

Da die KI in fast jeden Aspekt des modernen Lebens vordringt, steigen die Risiken von Fehlverhalten der KI exponentiell – bis zu einem Punkt, an dem diese Risiken buchstäblich zu einer Frage von Leben und Tod werden können. Zu den realen Beispielen für schief gelaufene KI gehören Systeme, die Menschen aufgrund ihrer Rasse, ihres Alters oder ihres Geschlechts diskriminieren, sowie Social-Media-Systeme, die versehentlich Gerüchte und Desinformationen verbreiten, und vieles mehr.

Schlimmer noch, diese Beispiele sind nur die Spitze des Eisbergs. Wenn KI in größerem Umfang eingesetzt wird, werden die damit verbundenen Risiken wahrscheinlich nur noch zunehmen – mit möglicherweise schwerwiegenden Folgen für die Gesellschaft insgesamt und noch größeren Folgen für die verantwortlichen Unternehmen. Aus geschäftlicher Sicht umfassen diese potenziellen Folgen alles von Klagen, Bußgeldern und verärgerten Kunden bis hin zu Blamage, Rufschädigung und Zerstörung des Unternehmenswerts.

Doch da KI mittlerweile zu einer erforderlichen Geschäftsfähigkeit wird – nicht nur ein Nice-to-have – haben Unternehmen nicht mehr die Möglichkeit, die einzigartigen Risiken von KI zu vermeiden, indem sie KI ganz vermeiden. Stattdessen müssen sie lernen, KI-Risiken effektiv zu identifizieren und zu managen. Um das Potenzial der Zusammenarbeit zwischen Mensch und Maschine auszuschöpfen, müssen Organisationen einen Plan für KI kommunizieren, der von der Poststelle bis zur Vorstandsetage angenommen und gesprochen wird. Durch die Einrichtung eines ethischen Rahmens schaffen Organisationen eine gemeinsame Sprache, mit der sie Vertrauen ausdrücken und die Integrität der Daten bei all ihren internen und externen Stakeholdern gewährleisten können. Ein gemeinsamer Rahmen und eine gemeinsame Linse, um die Governance und das Management von Risiken im Zusammenhang mit KI konsistent im gesamten Unternehmen anzuwenden, kann eine schnellere und konsistentere Einführung von KI ermöglichen.

Das vertrauenswürdige KI-Framework

Um die Herausforderungen im Zusammenhang mit KI-Ethik und -Governance besser anzugehen, hilft es, ein Framework zu nutzen. Das Trustworthy AI Framework von Deloitte führt sechs Schlüsseldimensionen ein, die bei gemeinsamer Betrachtung in den Design-, Entwicklungs-, Bereitstellungs- und Betriebsphasen der Implementierung von KI-Systemen dazu beitragen können, die Ethik zu wahren und eine vertrauenswürdige KI-Strategie aufzubauen.

Das Trustworthy AI Framework soll Unternehmen helfen, potenzielle Risiken im Zusammenhang mit der KI-Ethik in jeder Phase des KI-Lebenszyklus zu identifizieren und zu mindern. Hier ist ein genauerer Blick auf jede der sechs Dimensionen des Frameworks.

Das vertrauenswürdige KI-Framework

1. Fair, nicht voreingenommen

Vertrauenswürdige KI muss so konzipiert und trainiert sein, dass sie einem fairen, konsistenten Prozess folgt und faire Entscheidungen trifft. Es muss auch interne und externe Kontrollen beinhalten, um diskriminierende Vorurteile zu reduzieren.

Bias ist eine ständige Herausforderung für Menschen und Gesellschaft, nicht nur für KI. Die Herausforderung für die KI ist jedoch noch größer, da ihr ein differenziertes Verständnis sozialer Standards fehlt – ganz zu schweigen von der außergewöhnlichen allgemeinen Intelligenz, die erforderlich ist, um den gesunden Menschenverstand zu erreichen – was möglicherweise zu Entscheidungen führt, die technisch korrekt, aber sozial inakzeptabel sind. KI lernt aus den Datensätzen, mit denen sie trainiert wird, und wenn diese Datensätze reale Verzerrungen enthalten, können KI-Systeme diese Verzerrungen in digitaler Geschwindigkeit und Größenordnung lernen, verstärken und verbreiten.

Beispielsweise könnte ein KI-System, das on-the-fly entscheidet, wo Online-Stellenanzeigen geschaltet werden, Anzeigen für höher bezahlte Jobs auf unfaire Weise auf männliche Besucher einer Website ausrichten, da die realen Daten zeigen, dass Männer normalerweise mehr verdienen als Frauen. In ähnlicher Weise könnte ein Finanzdienstleistungsunternehmen, das KI zur Überprüfung von Hypothekenanträgen einsetzt, feststellen, dass sein Algorithmus Menschen aufgrund von Faktoren, die sozial nicht akzeptabel sind, wie Rasse, Geschlecht oder Alter, zu Unrecht diskriminiert. In beiden Fällen könnten dem für die KI verantwortlichen Unternehmen erhebliche Konsequenzen drohen, darunter Bußgelder und Reputationsschäden.

Um Probleme im Zusammenhang mit Fairness und Voreingenommenheit zu vermeiden, müssen Unternehmen zunächst bestimmen, was fair ist. Dies kann viel schwieriger sein, als es sich anhört, da es für ein bestimmtes Thema im Allgemeinen keine einheitliche Definition von fair gibt, auf die sich alle Menschen einigen. Unternehmen müssen auch aktiv nach Verzerrungen in ihren Algorithmen und Daten suchen, die notwendigen Anpassungen vornehmen und Kontrollen implementieren, um sicherzustellen, dass zusätzliche Verzerrungen nicht unerwartet auftauchen. Wenn Voreingenommenheit erkannt wird, muss sie verstanden und dann durch etablierte Prozesse zur Lösung des Problems und zur Wiederherstellung des Kundenvertrauens gemildert werden.

KI kann nicht länger als Black Box behandelt werden, die Eingaben empfängt und Ausgaben generiert, ohne ein klares Verständnis dafür zu haben, was im Inneren vor sich geht.

2. Transparent und erklärbar

Damit die KI vertrauenswürdig ist, haben alle Teilnehmer das Recht zu verstehen, wie ihre Daten verwendet werden und wie die KI Entscheidungen trifft. Die Algorithmen, Attribute und Korrelationen der KI müssen einsehbar und ihre Entscheidungen vollständig erklärbar sein.

Da Entscheidungen und Prozesse, die auf KI angewiesen sind, sowohl an Zahl als auch an Bedeutung zunehmen, kann KI nicht länger als Blackbox behandelt werden, die Input erhält und Output erzeugt, ohne ein klares Verständnis dafür zu haben, was im Inneren vor sich geht.

Beispielsweise stehen Online-Händler, die KI verwenden, um Kunden Produktempfehlungen zu geben, unter dem Druck, ihre Algorithmen und die Art und Weise, wie Empfehlungsentscheidungen getroffen werden, zu erklären. In ähnlicher Weise sieht sich das US-Gerichtssystem anhaltenden Kontroversen über die Verwendung undurchsichtiger KI-Systeme zur Information über strafrechtliche Verurteilungsentscheidungen ausgesetzt.

Wichtige Aspekte, die in diesem Bereich zu berücksichtigen sind, sind die Identifizierung der KI-Anwendungsfälle, für die Transparenz und Erklärbarkeit besonders wichtig sind, und das Verständnis, welche Daten verwendet werden und wie Entscheidungen für diese Anwendungsfälle getroffen werden. Auch in Sachen Transparenz wächst der Druck Menschen ausdrücklich informieren wenn sie mit KI interagieren, anstatt die KI als echte Person maskieren zu lassen.

3. Verantwortlich und rechenschaftspflichtig

Vertrauenswürdige KI-Systeme müssen Richtlinien enthalten, die klar festlegen, wer für ihre Ergebnisse verantwortlich und rechenschaftspflichtig ist. Die Technologie selbst für schlechte Entscheidungen und Fehleinschätzungen verantwortlich zu machen, ist einfach nicht gut genug – nicht für die Menschen, die geschädigt werden, und schon gar nicht für die staatlichen Aufsichtsbehörden. Dies ist ein Schlüsselthema, das wahrscheinlich nur noch wichtiger werden wird, da KI für eine wachsende Zahl von immer kritischeren Anwendungen wie Krankheitsdiagnose, Vermögensverwaltung und autonomes Fahren eingesetzt wird.

Wenn beispielsweise ein fahrerloses Fahrzeug eine Kollision verursacht, wer ist dann für den Schaden verantwortlich und haftbar? Der Fahrer? Der Fahrzeughalter? Der Hersteller? Die KI-Programmierer? Der Geschäftsführer?

Betrachten Sie in ähnlicher Weise das Beispiel einer Wertpapierfirma, die eine automatisierte Plattform nutzt, die von KI unterstützt wird, um im Namen ihrer Kunden zu handeln. Wenn ein Kunde seine Ersparnisse über die Firma investiert und dann aufgrund schlechter Algorithmen alles verliert, sollte ein Mechanismus vorhanden sein, um festzustellen, wer für das Problem verantwortlich ist und wer dafür verantwortlich ist, die Dinge in Ordnung zu bringen.

Zu den wichtigsten zu berücksichtigenden Faktoren gehören, welche Gesetze und Vorschriften die gesetzliche Haftung bestimmen und ob KI-Systeme überprüfbar sind und von bestehenden Whistleblower-Gesetzen erfasst werden. Und wie werden Probleme an die Öffentlichkeit und die Regulierungsbehörden kommuniziert und welche Konsequenzen drohen den Verantwortlichen?

4. Robust und zuverlässig

Damit KI eine breite Akzeptanz erreichen kann, muss sie mindestens so robust und zuverlässig sein wie die traditionellen Systeme, Prozesse und Menschen, die sie ergänzt oder ersetzt.

Damit KI als vertrauenswürdig gilt, muss sie verfügbar sein, wenn sie verfügbar sein soll, und konsistente und zuverlässige Ergebnisse generieren – Aufgaben unter nicht idealen Bedingungen und bei unerwarteten Situationen und Daten ordnungsgemäß ausführen. Vertrauenswürdige KI muss sich gut skalieren lassen und robust und zuverlässig bleiben, wenn ihre Wirkung zunimmt und wächst. Und wenn es fehlschlägt, muss es auf vorhersehbare, erwartete Weise fehlschlagen.

Betrachten Sie das Beispiel eines Gesundheitsunternehmens, das KI verwendet, um Anomalien in Gehirnscans zu identifizieren und eine angemessene Behandlung zu verschreiben. Um vertrauenswürdig zu sein, ist es absolut notwendig, dass die Al-Algorithmen konsistente und zuverlässige Ergebnisse liefern, da Leben auf dem Spiel stehen könnten.

Unternehmen müssen alle Arten von Risiken berücksichtigen und angehen – externe, physische, digitale – und diese Risiken dann den Benutzern mitteilen.

Um eine robuste und zuverlässige KI zu erreichen, müssen Unternehmen sicherstellen, dass ihre KI-Algorithmen für jeden neuen Datensatz die richtigen Ergebnisse liefern. Sie benötigen auch etablierte Prozesse für den Umgang mit Problemen und Inkonsistenzen, falls und wenn sie auftreten. Der menschliche Faktor ist hier ein entscheidendes Element: zu verstehen, wie menschliche Eingaben die Zuverlässigkeit beeinflussen; Bestimmen, wer die richtigen Personen sind, um Beiträge zu leisten; und sicherzustellen, dass diese Personen angemessen ausgestattet und geschult sind – insbesondere im Hinblick auf Voreingenommenheit und Ethik.

5. Achtung der Privatsphäre

Datenschutz ist ein kritisches Thema für alle Arten von Datensystemen, aber besonders kritisch für KI, da die ausgefeilten Erkenntnisse, die von KI-Systemen generiert werden, oft aus detaillierteren und persönlicheren Daten stammen. Vertrauenswürdige KI muss die Datenvorschriften einhalten und Daten nur für die angegebenen und vereinbarten Zwecke verwenden.

Das Thema KI-Datenschutz geht oft über die eigenen Mauern hinaus. Beispielsweise hat die Vertraulichkeit von Audiodaten, die von KI-Assistenten erfasst wurden, in letzter Zeit Schlagzeilen gemacht, wobei Kontroversen darüber aufkamen, inwieweit Anbieter und Partner eines Unternehmens Zugriff auf die Daten erhalten und ob die Daten mit Strafverfolgungsbehörden geteilt werden sollten.

Unternehmen müssen wissen, welche Kundendaten gesammelt werden und warum und ob die Daten so verwendet werden, wie es die Kunden verstanden und vereinbart haben. Außerdem sollten Kunden das erforderliche Maß an Kontrolle über ihre Daten erhalten, einschließlich der Fähigkeit dazu einsteigen oder ablehnen ihre Daten teilen zu lassen. Und wenn Kunden Bedenken hinsichtlich des Datenschutzes haben, brauchen sie eine Möglichkeit, diese Bedenken zu äußern.

6. Sicher und sicher

Um vertrauenswürdig zu sein, muss KI vor Cybersicherheitsrisiken geschützt werden, die zu physischen und/oder digitalen Schäden führen könnten. Obwohl Sicherheit für alle Computersysteme eindeutig wichtig ist, sind sie für KI aufgrund der großen und zunehmenden Rolle und des Einflusses von KI auf Aktivitäten in der realen Welt besonders wichtig.

Wenn beispielsweise ein KI-basiertes Finanzsystem gehackt wird, kann dies zu Reputationsschäden und Geld- oder Datenverlust führen. Das sind natürlich schwerwiegende Folgen. Sie sind jedoch bei weitem nicht so schwerwiegend wie die möglichen Folgen eines Hackerangriffs auf ein KI-gesteuertes Fahrzeug, der das Leben von Menschen gefährden könnte.

Ein weiteres Beispiel für ein KI-Cybersicherheitsrisiko ist ein kürzlich aufgetretener Datenverstoß, an dem Millionen von Personen beteiligt sind Fingerabdruck- und Gesichtserkennungsaufzeichnungen . Dieser Verstoß war besonders schwerwiegend, da es sich um biometrische Daten von Personen handelte, die dauerhaft sind und nicht geändert werden können (im Gegensatz zu einem gestohlenen Passwort oder anderen Standarddaten, die schnell und einfach geändert werden können, um den Schaden zu begrenzen).

Um die Sicherheit ihrer KI-Systeme zu gewährleisten, müssen Unternehmen alle Arten von Risiken – unter anderem externe, physische und digitale – gründlich prüfen und angehen und diese Risiken dann den Benutzern mitteilen. Obwohl externe Risiken in der Regel die meiste Aufmerksamkeit erhalten, können interne Risiken wie Betrug genauso schwerwiegend sein. Für jeden KI-Anwendungsfall müssen Unternehmen bewerten, ob die potenziellen Vorteile die damit verbundenen Risiken ausreichend überwiegen.

KI, der Sie vertrauen können

Die KI-Ethik stellt sich als die größte Herausforderung für den weiteren KI-Fortschritt und den weit verbreiteten Einsatz heraus – und es ist eine Herausforderung, die Unternehmen nicht länger ignorieren können, da KI zu einer wesentlichen Geschäftsfähigkeit wird. Das Trustworthy AI-Framework bietet eine strukturierte und umfassende Möglichkeit, über KI-Ethik nachzudenken, und hilft Unternehmen, KI-Systeme zu entwerfen, zu entwickeln, einzusetzen und zu betreiben kann Vertrauen.

Für weitere Informationen besuchen Sie www.deloitte.com/us/trustai .

verbergen