Wie steuern wir KI am besten?

25. Mai 2023 | Brad Smith – stellvertretender Vorsitzender und Präsident

Dieser Beitrag ist das Vorwort von Brad Smith für den Bericht von MicrosoftKI regieren: Eine Blaupause für die Zukunft . Der erste Teil des Berichts beschreibt fünf Möglichkeiten, wie Regierungen Richtlinien, Gesetze und Vorschriften rund um KI berücksichtigen sollten. Der zweite Teil konzentriert sich auf Microsofts internes Engagement für ethische KI und zeigt, wie das Unternehmen eine Kultur verantwortungsvoller KI sowohl operativ nutzt als auch aufbaut.

„Fragen Sie nicht, was Computer können, sondern was sie tun sollen.“

Das ist der Titel des Kapitels über KI und Ethik in einem Buch, das ich 2019 mitverfasst habe. Damals schrieben wir: „Dies könnte eine der entscheidenden Fragen unserer Generation sein.“ Vier Jahre später steht die Frage nicht nur in den Hauptstädten der Welt, sondern an vielen Esstischen im Mittelpunkt.

Als Menschen die Leistungsfähigkeit des GPT-4-Grundmodells von OpenAI nutzten oder davon hörten, waren sie oft überrascht oder sogar verblüfft. Viele waren begeistert oder sogar begeistert. Einige waren besorgt oder sogar verängstigt. Was fast jedem klar geworden ist, haben wir bereits vor vier Jahren festgestellt: Wir sind die erste Generation in der Geschichte der Menschheit, die Maschinen geschaffen hat, die Entscheidungen treffen können, die zuvor nur von Menschen getroffen werden konnten.

Länder auf der ganzen Welt stellen häufige Fragen. Wie können wir diese neue Technologie nutzen, um unsere Probleme zu lösen? Wie können wir neue Probleme vermeiden oder bewältigen, die dadurch entstehen könnten? Wie kontrollieren wir eine so leistungsstarke Technologie?

Diese Fragen erfordern nicht nur ein umfassendes und nachdenkliches Gespräch, sondern auch entschlossenes und wirksames Handeln. In diesem Dokument stellen wir einige unserer Ideen und Vorschläge als Unternehmen vor.

Diese Vorschläge bauen auf den Lektionen auf, die wir aufgrund der Arbeit, die wir seit mehreren Jahren leisten, gelernt haben. Satya Nadella, CEO von Microsoft, gab uns einen klaren Kurs, als er 2016 schrieb: „Die vielleicht produktivste Debatte, die wir führen können, ist nicht die Debatte zwischen Gut und Böse: Die Debatte sollte sich um die Werte drehen, die den Menschen und Institutionen vermittelt werden, die dies schaffen.“ Technologie."

Seitdem haben wir ethische Grundsätze definiert, veröffentlicht und umgesetzt, die unsere Arbeit leiten. Und wir haben ständig verbesserte Technik- und Governance-Systeme aufgebaut, um diese Prinzipien in die Praxis umzusetzen. Heute arbeiten bei Microsoft fast 350 Mitarbeiter an verantwortungsvoller KI und helfen uns dabei, Best Practices für den Aufbau sicherer und transparenter KI-Systeme zum Nutzen der Gesellschaft umzusetzen.

Neue Möglichkeiten zur Verbesserung der menschlichen Verfassung

Die daraus resultierenden Fortschritte in unserem Ansatz haben uns die Fähigkeit und das Vertrauen gegeben, immer neue Möglichkeiten für KI zu erkennen, das Leben der Menschen zu verbessern. Wir haben gesehen, dass KI dazu beiträgt, das Augenlicht von Menschen zu retten, Fortschritte bei neuen Heilmitteln gegen Krebs zu erzielen, neue Erkenntnisse über Proteine ​​zu gewinnen und Vorhersagen zu treffen, um Menschen vor gefährlichem Wetter zu schützen. Weitere Innovationen dienen der Abwehr von Cyberangriffen und dem Schutz grundlegender Menschenrechte, selbst in Ländern, die von ausländischen Invasionen oder Bürgerkriegen betroffen sind.

Auch alltägliche Aktivitäten werden davon profitieren. Indem sie als Copilot im Leben der Menschen fungieren, verwandeln die leistungsstarken Basismodelle wie GPT-4 die Suche in ein leistungsfähigeres Werkzeug für die Recherche und steigern die Produktivität der Menschen bei der Arbeit. Und für alle Eltern, die Schwierigkeiten haben, sich daran zu erinnern, wie sie ihrem 13-jährigen Kind bei einer Algebra-Hausaufgabe helfen können, ist die KI-basierte Unterstützung ein hilfreicher Nachhilfelehrer.

In vielerlei Hinsicht bietet KI vielleicht sogar mehr Potenzial für das Wohl der Menschheit als jede Erfindung zuvor. Seit der Erfindung der Druckmaschine mit beweglichen Lettern im 14. Jahrhundert ist der Wohlstand der Menschheit immer schneller gewachsen. Erfindungen wie die Dampfmaschine, die Elektrizität, das Automobil, das Flugzeug, die Computertechnik und das Internet haben viele Bausteine ​​der modernen Zivilisation geliefert. Und wie die Druckmaschine selbst bietet KI ein neues Werkzeug, um das menschliche Lernen und Denken wirklich voranzutreiben.

Leitplanken für die Zukunft

Ebenso wichtig ist eine weitere Schlussfolgerung: Es reicht nicht aus, sich nur auf die vielen Möglichkeiten zu konzentrieren, KI zur Verbesserung des Lebens der Menschen einzusetzen. Dies ist vielleicht eine der wichtigsten Lehren aus der Rolle der sozialen Medien. Vor etwas mehr als einem Jahrzehnt schwärmten Technologen und politische Kommentatoren gleichermaßen von der Rolle der sozialen Medien bei der Verbreitung der Demokratie während des Arabischen Frühlings. Doch fünf Jahre später erfuhren wir, dass soziale Medien, wie so viele andere Technologien zuvor, sowohl zu einer Waffe als auch zu einem Werkzeug werden würden – in diesem Fall mit dem Ziel der Demokratie selbst.

Heute sind wir 10 Jahre älter und weiser, und wir müssen diese Weisheit in die Tat umsetzen. Wir müssen frühzeitig und mit klarem Blick über die Probleme nachdenken, die vor uns liegen könnten. Da die Technologie voranschreitet, ist es ebenso wichtig, eine ordnungsgemäße Kontrolle über die KI sicherzustellen, wie ihre Vorteile zu nutzen. Als Unternehmen sind wir entschlossen und entschlossen, KI auf sichere und verantwortungsvolle Weise zu entwickeln und einzusetzen. Wir sind uns jedoch auch darüber im Klaren, dass die notwendigen Leitplanken für KI ein breites gemeinsames Verantwortungsbewusstsein erfordern und nicht allein Technologieunternehmen überlassen werden sollten.

Als wir bei Microsoft im Jahr 2018 unsere sechs ethischen Grundsätze für KI verabschiedeten, stellten wir fest, dass ein Grundsatz die Grundlage für alles andere bildete – Verantwortlichkeit. Dies ist das grundlegende Bedürfnis: sicherzustellen, dass Maschinen weiterhin einer wirksamen Aufsicht durch Menschen unterliegen und die Menschen, die Maschinen entwerfen und bedienen, allen anderen gegenüber rechenschaftspflichtig bleiben. Kurz gesagt: Wir müssen stets sicherstellen, dass die KI unter menschlicher Kontrolle bleibt. Dies muss für Technologieunternehmen und Regierungen gleichermaßen oberste Priorität haben.

Dies steht in direktem Zusammenhang mit einem weiteren wesentlichen Konzept. In einer demokratischen Gesellschaft ist eines unserer Grundprinzipien, dass niemand über dem Gesetz steht. Keine Regierung steht über dem Gesetz. Kein Unternehmen steht über dem Gesetz, und kein Produkt und keine Technologie sollte über dem Gesetz stehen. Dies führt zu einer kritischen Schlussfolgerung: Menschen, die KI-Systeme entwerfen und betreiben, können nicht zur Rechenschaft gezogen werden, es sei denn, ihre Entscheidungen und Handlungen unterliegen der Rechtsstaatlichkeit.

Dies ist in vielerlei Hinsicht der Kern der sich entwickelnden KI-Politik- und Regulierungsdebatte. Wie stellen Regierungen am besten sicher, dass KI der Rechtsstaatlichkeit unterliegt? Kurz gesagt: Welche Form sollten neue Gesetze, Vorschriften und Richtlinien annehmen?

Ein Fünf-Punkte-Plan für die öffentliche Verwaltung von KI

Abschnitt eins dieses Papiers bietet einen Fünf-Punkte-Plan, um verschiedene aktuelle und aufkommende KI-Probleme durch öffentliche Politik, Gesetze und Vorschriften anzugehen. Wir bieten dies in der Erkenntnis an, dass jeder Teil dieses Entwurfs von einer breiteren Diskussion profitieren wird und einer tiefergehenden Entwicklung bedarf. Wir hoffen jedoch, dass dies einen konstruktiven Beitrag zur bevorstehenden Arbeit leisten kann.

Erstens: Implementieren Sie neue, von der Regierung geleitete KI-Sicherheitsrahmen und bauen Sie darauf auf. Der beste Weg zum Erfolg besteht oft darin, auf den Erfolgen und guten Ideen anderer aufzubauen. Vor allem, wenn man schnell vorankommen möchte. In diesem Fall besteht eine wichtige Gelegenheit, auf der Arbeit aufzubauen, die das US-amerikanische National Institute of Standards and Technology (NIST) erst vor vier Monaten abgeschlossen hat. Als Teil des Handelsministeriums hat NIST ein neues KI-Risikomanagement-Framework fertiggestellt und eingeführt.

Wir bieten vier konkrete Vorschläge zur Umsetzung und Weiterentwicklung dieses Rahmenwerks an, einschließlich der Zusagen, die Microsoft als Reaktion auf ein kürzliches Treffen im Weißen Haus mit führenden KI-Unternehmen eingeht. Wir glauben auch, dass die Verwaltung und andere Regierungen die Dynamik durch auf diesem Rahmen basierende Beschaffungsregeln beschleunigen können.

Zweitens sind wirksame Sicherheitsbremsen für KI-Systeme erforderlich, die kritische Infrastrukturen steuern. In manchen Kreisen fragen sich nachdenkliche Menschen zunehmend, ob wir die KI zufriedenstellend kontrollieren können, wenn sie immer leistungsfähiger wird. Manchmal werden Bedenken hinsichtlich der KI-Steuerung kritischer Infrastrukturen wie dem Stromnetz, dem Wassersystem und dem städtischen Verkehrsfluss geäußert.

Dies ist der richtige Zeitpunkt, diese Frage zu diskutieren. Dieser Entwurf schlägt neue Sicherheitsanforderungen vor, die faktisch Sicherheitsbremsen für KI-Systeme schaffen würden, die den Betrieb ausgewiesener kritischer Infrastrukturen steuern. Diese ausfallsicheren Systeme wären Teil eines umfassenden Ansatzes zur Systemsicherheit, bei dem eine effektive menschliche Aufsicht, Belastbarkeit und Robustheit im Vordergrund stehen würden. Im Geiste ähneln sie den Bremssystemen, die Ingenieure seit langem in andere Technologien wie Aufzüge, Schulbusse und Hochgeschwindigkeitszüge einbauen, um nicht nur Alltagsszenarien, sondern auch Notfälle sicher zu bewältigen.

Bei diesem Ansatz würde die Regierung die Klasse der Hochrisiko-KI-Systeme definieren, die kritische Infrastrukturen steuern und solche Sicherheitsmaßnahmen als Teil eines umfassenden Ansatzes zur Systemverwaltung rechtfertigen. Neue Gesetze würden von den Betreibern dieser Systeme verlangen, Sicherheitsbremsen in Hochrisiko-KI-Systeme einzubauen. Die Regierung würde dann sicherstellen, dass die Betreiber Hochrisikosysteme regelmäßig testen, um sicherzustellen, dass die Systemsicherheitsmaßnahmen wirksam sind. Und KI-Systeme, die den Betrieb ausgewiesener kritischer Infrastrukturen steuern, würden nur in lizenzierten KI-Rechenzentren eingesetzt, die durch die Möglichkeit, diese Sicherheitsbremsen zu betätigen, eine zweite Schutzebene gewährleisten und so eine wirksame menschliche Kontrolle gewährleisten würden.

Drittens: Entwickeln Sie einen umfassenden rechtlichen und regulatorischen Rahmen auf der Grundlage der Technologiearchitektur für KI. Wir glauben, dass es eine rechtliche und regulatorische Architektur für KI geben muss, die die Technologiearchitektur für KI selbst widerspiegelt. Kurz gesagt, das Gesetz muss verschiedenen Akteuren je nach ihrer Rolle bei der Verwaltung verschiedener Aspekte der KI-Technologie verschiedene regulatorische Verantwortlichkeiten auferlegen.

Aus diesem Grund enthält dieser Entwurf Informationen über einige der entscheidenden Teile, die bei der Erstellung und Verwendung neuer generativer KI-Modelle eine Rolle spielen. Vor diesem Hintergrund wird vorgeschlagen, dass unterschiedliche Gesetze den Organisationen spezifische regulatorische Verantwortlichkeiten auferlegen, die bestimmte Verantwortlichkeiten auf drei Ebenen des Technologie-Stacks ausüben: der Anwendungsebene, der Modellebene und der Infrastrukturebene.

Dabei sollen zunächst bestehende Rechtsschutzmaßnahmen auf Anwendungsebene auf den Einsatz von KI angewendet werden. Dies ist die Ebene, auf der die Sicherheit und die Rechte der Menschen am stärksten beeinträchtigt werden, insbesondere weil die Auswirkungen von KI in verschiedenen Technologieszenarien deutlich variieren können. In vielen Bereichen brauchen wir keine neuen Gesetze und Vorschriften. Stattdessen müssen wir bestehende Gesetze und Vorschriften anwenden und durchsetzen und Behörden und Gerichte dabei unterstützen, das Fachwissen zu entwickeln, das für die Anpassung an neue KI-Szenarien erforderlich ist.

Dann müssen neue Gesetze und Vorschriften für hochleistungsfähige KI-Grundlagenmodelle entwickelt werden, die am besten von einer neuen Regierungsbehörde umgesetzt werden. Dies wird sich auf zwei Schichten des Technologie-Stacks auswirken. Ersteres erfordert neue Vorschriften und Lizenzen für diese Modelle selbst. Und zweitens geht es um Verpflichtungen für die KI-Infrastrukturbetreiber, auf denen diese Modelle entwickelt und eingesetzt werden. Der folgende Entwurf bietet vorgeschlagene Ziele und Ansätze für jede dieser Ebenen.

Dabei baut dieser Entwurf teilweise auf einem Prinzip auf, das in den letzten Jahrzehnten im Bankwesen zum Schutz vor Geldwäsche und krimineller oder terroristischer Nutzung von Finanzdienstleistungen entwickelt wurde. Das „Know Your Customer“- oder KYC-Prinzip erfordert, dass Finanzinstitute die Identität ihrer Kunden überprüfen, Risikoprofile erstellen und Transaktionen überwachen, um verdächtige Aktivitäten zu erkennen. Es wäre sinnvoll, dieses Prinzip zu übernehmen und einen KY3C-Ansatz anzuwenden, der im KI-Kontext bestimmte Verpflichtungen schafft, die eigene Cloud, die eigenen Kunden und die eigenen Inhalte zu kennen.

Zunächst „kennen“ die Entwickler ausgewiesener, leistungsstarker KI-Modelle zunächst die Cloud, in der ihre Modelle entwickelt und bereitgestellt werden. Darüber hinaus sollte das Unternehmen, das eine direkte Beziehung zu einem Kunden hat – sei es der Modellentwickler, der Anwendungsanbieter oder der Cloud-Betreiber, auf dem das Modell läuft –, etwa bei Szenarien mit sensiblen Nutzungen, „die Kunden kennen“. greifen darauf zu.

Außerdem sollte die Öffentlichkeit in die Lage versetzt werden, „den Inhalt zu kennen“, den die KI erstellt, und zwar durch die Verwendung eines Etiketts oder einer anderen Markierung, die die Menschen darüber informiert, wenn etwas wie eine Video- oder Audiodatei von einem KI-Modell und nicht von einem Menschen produziert wurde. Diese Kennzeichnungspflicht soll die Öffentlichkeit auch vor der Veränderung ursprünglicher Inhalte und der Entstehung von „Deep Fakes“ schützen. Dies erfordert die Entwicklung neuer Gesetze, und es werden viele wichtige Fragen und Details zu klären sein. Aber die Gesundheit der Demokratie und die Zukunft des bürgerlichen Diskurses werden von durchdachten Maßnahmen profitieren, die den Einsatz neuer Technologien zur Täuschung oder zum Betrug der Öffentlichkeit verhindern.

Viertens: Förderung der Transparenz und Gewährleistung des akademischen und gemeinnützigen Zugangs zu KI. Wir glauben, dass es ein wichtiges öffentliches Ziel ist, die Transparenz zu fördern und den Zugang zu KI-Ressourcen zu erweitern. Während es einige erhebliche Spannungen zwischen Transparenz und dem Bedürfnis nach Sicherheit gibt, gibt es viele Möglichkeiten, KI-Systeme auf verantwortungsvolle Weise transparenter zu machen. Aus diesem Grund verpflichtet sich Microsoft zu einem jährlichen KI-Transparenzbericht und anderen Schritten, um die Transparenz für unsere KI-Dienste zu erhöhen.

Wir glauben auch, dass es von entscheidender Bedeutung ist, den Zugang zu KI-Ressourcen für die akademische Forschung und die gemeinnützige Gemeinschaft zu erweitern. Grundlagenforschung, insbesondere an Universitäten, ist seit den 1940er Jahren von grundlegender Bedeutung für den wirtschaftlichen und strategischen Erfolg der Vereinigten Staaten. Wenn akademische Forscher jedoch nicht auf wesentlich mehr Rechenressourcen zugreifen können, besteht die reale Gefahr, dass die wissenschaftliche und technologische Forschung darunter leidet, auch in Bezug auf die KI selbst. Unser Entwurf sieht neue Schritte vor, einschließlich der Schritte, die wir bei Microsoft unternehmen werden, um diese Prioritäten anzugehen.

Fünftens: Streben Sie nach neuen öffentlich-privaten Partnerschaften, um KI als wirksames Instrument zur Bewältigung der unvermeidlichen gesellschaftlichen Herausforderungen zu nutzen, die mit neuen Technologien einhergehen. Eine Lehre aus den letzten Jahren ist, was demokratische Gesellschaften erreichen können, wenn sie die Macht der Technologie nutzen und den öffentlichen und den privaten Sektor zusammenbringen. Auf dieser Lektion müssen wir aufbauen, um die Auswirkungen der KI auf die Gesellschaft anzugehen.

Wir alle werden von einer starken Portion klarem Optimismus profitieren. KI ist ein außergewöhnliches Werkzeug. Aber wie andere Technologien kann auch sie zu einer mächtigen Waffe werden, und es wird einige auf der Welt geben, die versuchen werden, sie auf diese Weise einzusetzen. Aber wir sollten etwas Mut aus der Cyberfront und den letzten anderthalb Jahren des Krieges in der Ukraine schöpfen. Wir haben herausgefunden, dass wenn der öffentliche und der private Sektor zusammenarbeiten, wenn gleichgesinnte Verbündete zusammenkommen und wenn wir Technologie entwickeln und sie als Schutzschild nutzen, sie mächtiger ist als jedes Schwert auf dem Planeten.

Es bedarf jetzt wichtiger Arbeit, um KI zum Schutz von Demokratie und Grundrechten einzusetzen, einen breiten Zugang zu den KI-Fähigkeiten zu ermöglichen, die integratives Wachstum fördern, und die Kraft der KI zu nutzen, um die Nachhaltigkeitsbedürfnisse des Planeten voranzutreiben. Vielleicht mehr als alles andere bietet eine Welle neuer KI-Technologien Anlass, groß zu denken und mutig zu handeln. In jedem Bereich wird der Schlüssel zum Erfolg darin liegen, konkrete Initiativen zu entwickeln und Regierungen, angesehene Unternehmen und tatkräftige NGOs zusammenzubringen, um diese voranzutreiben. Wir bieten in diesem Bericht einige erste Ideen an und freuen uns darauf, in den kommenden Monaten und Jahren noch viel mehr zu tun.

Steuerung der KI bei Microsoft

Letztendlich muss jede Organisation, die fortschrittliche KI-Systeme erstellt oder nutzt, ihre eigenen Governance-Systeme entwickeln und implementieren. Abschnitt zwei dieses Dokuments beschreibt das KI-Governancesystem innerhalb von Microsoft – wo wir angefangen haben, wo wir heute stehen und wie wir uns in die Zukunft bewegen.

Wie in diesem Abschnitt erkannt wird, ist die Entwicklung eines neuen Governance-Systems für neue Technologien eine Reise für sich. Vor einem Jahrzehnt existierte dieses Feld kaum. Heute beschäftigt Microsoft fast 350 Mitarbeiter, die sich darauf spezialisiert haben, und wir investieren in unserem nächsten Geschäftsjahr, um diese Zahl weiter auszubauen.

Wie in diesem Abschnitt beschrieben, haben wir in den letzten sechs Jahren eine umfassendere KI-Governance-Struktur und ein umfassenderes KI-Governance-System bei Microsoft aufgebaut. Wir haben nicht bei Null angefangen, sondern haben uns stattdessen von Best Practices zum Schutz von Cybersicherheit, Privatsphäre und digitaler Sicherheit bedient. Dies alles ist Teil des umfassenden Enterprise Risk Management (ERM)-Systems des Unternehmens, das heute zu einem entscheidenden Bestandteil des Managements von Unternehmen und vielen anderen Organisationen auf der Welt geworden ist.

Beim Thema KI haben wir zunächst ethische Grundsätze entwickelt und mussten diese dann in konkretere Unternehmensrichtlinien umsetzen. Wir befinden uns jetzt bei Version 2 des Unternehmensstandards, der diese Prinzipien verkörpert und präzisere Praktiken definiert, die unsere Ingenieurteams befolgen müssen. Wir haben den Standard durch Schulungs-, Werkzeug- und Testsysteme implementiert, die sich rasch weiterentwickeln. Dies wird durch zusätzliche Governance-Prozesse unterstützt, die Überwachung, Prüfung und Compliance-Maßnahmen umfassen.

Wie bei allem im Leben lernt man aus Erfahrung. Wenn es um die KI-Governance geht, stammen einige unserer wichtigsten Erkenntnisse aus der detaillierten Arbeit, die zur Überprüfung spezifischer sensibler KI-Anwendungsfälle erforderlich ist. Im Jahr 2019 haben wir ein Programm zur Überprüfung sensibler Anwendungen ins Leben gerufen, um unsere sensibelsten und neusten KI-Anwendungsfälle einer strengen, spezialisierten Überprüfung zu unterziehen, die zu maßgeschneiderten Leitlinien führt. Seitdem haben wir rund 600 sensible Anwendungsfallprüfungen durchgeführt. Das Tempo dieser Aktivität hat sich beschleunigt, um dem Tempo der KI-Fortschritte gerecht zu werden. In den 11 Monaten fanden fast 150 solcher Überprüfungen statt.

All dies baut auf der Arbeit auf, die wir geleistet haben und auch weiterhin leisten werden, um verantwortungsvolle KI durch die Unternehmenskultur voranzutreiben. Das bedeutet, neue und vielfältige Talente einzustellen, um unser verantwortungsvolles KI-Ökosystem auszubauen, und in die Talente zu investieren, die wir bereits bei Microsoft haben, um Fähigkeiten zu entwickeln und sie zu befähigen, umfassend über die potenziellen Auswirkungen von KI-Systemen auf Einzelpersonen und die Gesellschaft nachzudenken. Es bedeutet auch, dass die Grenzen der Technologie viel mehr als in der Vergangenheit einen multidisziplinären Ansatz erfordern, der großartige Ingenieure mit talentierten Fachleuten aus allen Bereichen der Geisteswissenschaften verbindet.

All dies wird in diesem Papier in dem Sinne dargelegt, dass wir uns auf einer gemeinsamen Reise befinden, um eine verantwortungsvolle Zukunft für künstliche Intelligenz zu gestalten. Wir können alle voneinander lernen. Und egal, wie gut wir heute denken, dass etwas ist, wir alle müssen immer besser werden.

Da sich der technologische Wandel beschleunigt, muss die Arbeit zur verantwortungsvollen Steuerung der KI mit diesem Schritt halten. Wir glauben, dass dies mit den richtigen Verpflichtungen und Investitionen möglich ist.