Hollywood und Silicon Valley messen sich im Kampf um SB 1047, Kaliforniens erstes Gesetz zur KI-Sicherheit. Während es Zweifel darüber gibt, ob Gouverneur Gavin Newsom das Gesetz unterzeichnen wird, zeugt eine Welle prominenter Unterstützungsbekundungen von der ersten organisierten Bemühung prominenter Persönlichkeiten, KI-Regulierungen über die direkten Interessen der Unterhaltungsindustrie hinaus voranzutreiben.
Am Dienstag veröffentlichten über 125 große Hollywood-Namen einen offenen Brief, in dem sie Newsom aufforderten, das KI-Sicherheitsgesetz zu unterzeichnen. Zu den Unterzeichnern gehören Ava DuVernay, Jane Fonda, JJ Abrams, Shonda Rhimes, Alec Baldwin, Pedro Pascal, Jessica Chastain, Adam McKay und Ron Perlman. „Wir glauben fest an das überwältigende Potenzial der KI, für das Gute eingesetzt zu werden. Aber wir müssen auch realistisch sein, was die Risiken angeht“, heißt es in dem Brief. Als Zeichen echter Begeisterung wurde der Brief laut einer mit den Prominenten in Kontakt stehenden Person von einem der Unterzeichner geschrieben.
SB 1047 ist das bislang bedeutendste Gesetz zur Sicherheit von KI in den USA, und Newsoms Unterschrift würde den Präzedenzfall brechen, der es der Industrie erlaubt, die Entwicklung und den Einsatz ihrer leistungsstärksten Modelle durch freiwillige Verpflichtungen zu überwachen. Der Kern des Gesetzesentwurfs schreibt vor, dass die größten KI-Entwickler selbst gewählte Sicherheitsvorkehrungen treffen müssen, um die Wahrscheinlichkeit zu verringern, dass ihr Modell eine Katastrophe verursacht oder ermöglicht, wie etwa einen schweren Cyberangriff oder eine Pandemie. Dies würde für jedes betroffene KI-Unternehmen gelten, das in Kalifornien tätig ist, wo die fünf größten generativen KI-Unternehmen ansässig sind und die fünftgrößte Volkswirtschaft der Welt. Damit ist es eine de facto nationale Regelung in einem Land, das bei den Bemühungen zur Regulierung von KI hinter der EU, China und Großbritannien zurückgeblieben ist.
Der Gesetzentwurf wurde im August vom kalifornischen Parlament verabschiedet, und Newsom hat bis zum 30. September Zeit, ihn zu unterzeichnen oder sein Veto einzulegen. Bisher ist nicht klar, was er tun wird. Der Gouverneur äußerte sich letzte Woche erstmals direkt zu SB 1047 in einem Interview mit dem Milliardär und Salesforce-Gründer Marc Benioff. Während er dem Los Angeles Times Obwohl er sich unmittelbar vor dem Interview noch nicht endgültig entschieden hatte, deutete er gegenüber Benioff an, dass er Bedenken hinsichtlich der möglichen Auswirkungen des Gesetzes auf die Wettbewerbsfähigkeit des Staates habe.
Es war zunächst nicht klar, wie viel SAG-AFTRA für SB 1047 tun würde
Gleichzeitig unterzeichnete Newsom kürzlich in seinem Hauptsitz in Los Angeles, flankiert von den Führern der mächtigen Gewerkschaft der Filmschauspieler und -darsteller, zwei KI-Gesetze, die sich direkt an die SAG-AFTRA richten. Die Gewerkschaft war eine treibende Kraft hinter den Gesetzentwürfen, die die Verwendung digitaler Repliken regeln und auf Zugeständnissen aufbauen, die im Schauspielerstreik 2023 erkämpft wurden. Die Gewerkschaft ist auch einer der prominentesten Unterstützer von SB 1047.
Die prominenten Unterzeichner des Briefes, von denen viele Mitglieder der SAG-AFTRA sind, schreiben, dass sie „aufrichtig dankbar“ für Newsoms Unterschrift unter den beiden Gesetzentwürfen zur digitalen Nachbildung seien. Aber bei dem Gesetzentwurf zur KI-Sicherheit, so schreiben sie, „geht es nicht darum, Künstler zu schützen – es geht darum, alle zu schützen.“
SB 1047 hat sowohl Unterstützung als auch heftige Kritik hervorgerufen. Es wird von den meisten Vertretern der KI-Industrie, der ehemaligen Sprecherin des Repräsentantenhauses Nancy Pelosi, der Bürgermeisterin von San Francisco, London Breed, und acht Kongressdemokraten aus Kalifornien abgelehnt. Zu den einflussreichen Unterstützern gehören die Service Employees International Union (SEIU), die Latino Community Foundation, Elon Musk und – in einem Brief, über den zuerst berichtet wurde von Der Rand — SAG-AFTRA.
Newsoms Entscheidung könnte auf pure Machtpolitik hinauslaufen – etwas, das beide Seiten erkennen, während sie in den letzten Tagen des Gesetzesentwurfs Unterstützung sammeln. Während er über seine politische Zukunft nachdenkt, steht der Gouverneur vor einer schwierigen Entscheidung zwischen den beiden Branchen, für die sein Staat am bekanntesten ist: Technologie und Unterhaltung.
Zunächst war nicht klar, wie sehr sich SAG-AFTRA für SB 1047 einsetzen würde. Der rasante Aufstieg der generativen KI hat die darstellenden Künstler direkt betroffen, von der unfreiwilligen Deepfake-Pornografie von Prominenten wie Taylor Swift bis hin zur Gefahr, dass digitale Repliken Schauspieljobs vernichten. In einem früheren Streit zwischen Hollywood und der KI-Branche wurde OpenAI beschuldigt, Scarlett Johanssons Stimme für die Verwendung in ChatGPT kopiert zu haben. Doch anders als die beiden von Newsom unterzeichneten Gesetzesentwürfe geht SB 1047 nicht direkt auf diese Probleme ein. Es zielt auf weitaus katastrophalere Bedrohungen ab.
Doch je näher die Frist rückt, desto mehr scheint die Unterstützung der Gewerkschaft zu werden als bloß eine Zweckgemeinschaft mit anderen Befürwortern der Regulierung der großen Technologieunternehmen. Der Brief vom Dienstag enthält Führungspersönlichkeiten der SAG-AFTRA wie Präsidentin Fran Drescher, den nationalen Geschäftsführer und Chefunterhändler Duncan Crabtree-Ireland, Sekretärin und Schatzmeisterin Joely Fisher sowie 12 nationale Vorstandsmitglieder, darunter Sean Astin und Rosie O'Donnell.
„Wir sind die Kanarienvögel im Kohlebergwerk“
Fisher sagte gegenüber The Rand dass neben den Schutzmaßnahmen, die Newsom in Kraft gesetzt hat, „unserer Gemeinschaft auch eine sichere und verantwortungsvolle KI-Entwicklung sehr am Herzen liegt, sodass sich viele von uns zusammengeschlossen haben, um den Gouverneur zu drängen, dieses Gesetz für die Menschheit und sein Vermächtnis zu unterzeichnen. Die Einführung von Leitplanken für Big Tech wird die Innovation nicht ersticken.“
Am Dienstagnachmittag veröffentlichte Astin einen ausführlichen persönlichen Brief, den er gerade an Newsom geschickt hatte. Darin schrieb er, dass SB 1047 immer noch erforderlich sei, „weil es das einzige Gesetz ist, das versucht, die größten der großen Sprachmodelle und Computercluster zu regulieren, die von riesigen Technologieunternehmen verwendet werden.“ Das Herr der Ringe Star erwähnt auch seinen kürzlich erworbenen Master-Abschluss in öffentlicher Verwaltung.
Vor dem Brief vom Dienstag veröffentlichten mindestens elf SAG-AFTRA-Mitglieder in den sozialen Medien ihre Unterstützung für SB 1047. Stars wie Joseph Gordon-Levitt, Mark Ruffalo, Alyssa Milano, Astin und Piper Perabo veröffentlichten Videos und Posts, in denen sie Newsom aufforderten, das Gesetz zu unterzeichnen.
Der Komiker Adam Conover sagte in seinem Video: „Ich bin ein großer Kritiker der künstlichen Intelligenz und vieles, was man über den Aufstand der Roboter hört, ist leeres Geschwätz, Blödsinn und Marketing, aber die Milliardäre, die diese Branche leiten, verursachen tatsächlich echte Risiken, zu deren Vermeidung sie nicht genug unternehmen.“
SAG-AFTRA-Vorstandsmitglied Jason Winston George, ein TV-Star auf Grey's Anatomyerzählt Der Rand dass er „ein großer Gavin Newsom-Fan“ sei und „unglaublich dankbar“, dass der Gouverneur zwei von der Gewerkschaft unterstützte Gesetzesentwürfe unterzeichnet habe. Aber er möchte nicht, dass Newsom dabei stehen bleibt. George ist auch voll und ganz für SB 1047.
George erwähnte Christopher Nolans Oppenheimerder für seine Darstellung des „Vaters der Atombombe“ als bester Film ausgezeichnet wurde. Der gequälte Physiker wird mit Geoffrey Hinton verglichen, dem Pionier des Deep Learning, der bekanntlich bei Google kündigte, um frei über die Risiken der von ihm entwickelten Technologie zu sprechen. Hinton, der am häufigsten zitierte lebende Wissenschaftler, hat sich ebenfalls für SB 1047 ausgesprochen.
Mit dem Schauspielerstreik 2023 hat die SAG-AFTRA die Bemühungen zur Regulierung der KI in den USA vorangetrieben. Der Einsatz von KI-Tools in Hollywood war vielleicht das größte Hindernis bei der Lösung des 118-tägigen Schauspielerstreiks. „Wir sind die Kanarienvögel in der Kohlemine, und uns wurde sehr bewusst, wie viel [AI] wird alles verändern, und ich glaube, deshalb sind unsere Mitglieder so lautstark“, sagte George, der Teil des Verhandlungsteams der Gewerkschaft war. „Ich habe keine Angst vor KI, ich möchte nur sicherstellen, dass es Leitplanken dafür gibt“, fügte er hinzu.
Die prominente Unterstützung für SB 1047 ist ein weiteres Zeichen für die wachsende Kluft zwischen den Eliten in Hollywood und dem Silicon Valley. Eine Reihe hochkarätiger Tech-Milliardäre sind kürzlich nach rechts gerückt, während die größten Stars fest bei den Demokraten geblieben sind und Kamala Harris unterstützen.
Die Gewerkschaft ist es gewohnt, Gesetze zu nutzen, um ihre Interessen durchzusetzen. Derzeit listet sie neben SB 1047 18 Bundes- und Landesgesetze zur KI auf ihrem Gesetzestracker für 2024 auf, die sich hauptsächlich mit unterhaltungsbezogenen Themen wie KI-Repliken, Deepfakes und Urheberrechtsschutz befassen. Ihre Unterstützung für SB 1047 ist jedoch das erste Mal, dass die Gruppe sich für ein KI-Gesetz stark macht, das nicht direkt mit ihrer Branche zusammenhängt.
Wird es einen Unterschied machen? Niemand scheint sich sicher zu sein. Aber in dem Brief vom Dienstag finden sich einige der bekanntesten Verbündeten des Gouverneurs.
Hollywood unterstützte Newsom in seiner Abwahlkampagne 2021 in großer Zahl. Und jetzt haben einige dieser prominenten Unterstützer den Brief SB 1047 unterzeichnet, darunter Mark Hamill, Alyssa Milano, Shonda Rhimes und JJ Abrams, die 32.400 Dollar für Newsoms Kampagne 2022 spendeten. Darüber hinaus kämpfte Jane Fonda mit Newsom gegen Ölbohrungen, und Ava DuVernay wurde 2022 vom Gouverneur in die California Hall of Fame aufgenommen.
Im Jahr 2024 verabschiedete Kalifornien mehr als 40 KI-Gesetze, die sich mit Themen wie selbstfahrenden Lastwagen, Wahlfälschungen und KI-generierter Kinderpornografie befassen. Keiner der anderen KI-Gesetze auf Newsoms Schreibtisch hat jedoch so viel Widerstand in der Industrie hervorgerufen wie SB 1047.
„Dies ist ein Bereich, in dem wir dominieren, und ich möchte diese Dominanz beibehalten.“
Der Gouverneur war schon früher bereit, mächtigen Industrien wie fossilen Brennstoffen und Fast Food Paroli zu bieten, aber gegenüber den großen Technologieunternehmen hat er nicht dasselbe Rückgrat gezeigt. Im August arrangierte Newsom einen Hinterzimmerdeal, um Vorschläge zur Finanzierung des Lokaljournalismus durch Steuern auf Technologieplattformen wie Google und Meta zu Fall zu bringen. Stattdessen werden Google und Kalifornien jeweils Geld zur Finanzierung des Lokaljournalismus und eines KI-Beschleunigers beitragen. Führer mehrerer Journalistengewerkschaften nannten die Vereinbarung „katastrophal“. (Einer der Vorschläge, der auch von SAG-AFTRA unterstützt wurde, wurde in gutem Glauben kritisiert, weil er die Mittel beschaffen und verteilen wollte.)
Bei Dreamforce sprach Newsom ausführlich über SB 1047. Er sagte zwar, er fühle sich „zutiefst verantwortlich, einige der extremeren Bedenken anzusprechen, die viele von uns haben“, aber er schien zu einem Veto zu tendieren. Newsom machte sich Sorgen über die „übergroßen Auswirkungen“ und die „abschreckende Wirkung, insbesondere in der Open-Source-Community“, die der Gesetzentwurf seiner Meinung nach haben könnte.
„Dies ist ein Bereich, in dem wir dominieren, und ich möchte unsere Dominanz beibehalten“, sagte er. „Welche Risiken gibt es bei KI, die nachweisbar sind, und welche sind hypothetische Risiken? Ich kann nicht alles lösen – was können wir lösen?“
Die Person, die mit prominenten Unterstützern in Kontakt steht, die aufgrund der Kontroverse um das Gesetz anonym bleiben wollten, sagte: Der Rand dass einige das Gefühl haben, „Newsom hat sie hereingelegt“, indem er die KI-Replika-Gesetze mit großem Tamtam unterzeichnet hat. Einige von ihnen „denken, es war eine absichtliche Irreführung, um die Leute glauben zu lassen, er hätte alle KI-Gesetze unterzeichnet, die ihnen wichtig sind, und dann tatsächlich ein Veto gegen das einzulegen, was ich mehrmals als das ‚große Ding‘ bezeichnet gehört habe“, sagte die Person. „Ich denke, das sind sehr, sehr kluge Leute. Viele von ihnen haben das Gesetz vollständig gelesen und sich eine Meinung zu bestimmten Abschnitten und Bestimmungen darin gebildet.“
Sie betonten jedoch, dass nicht alle so denken und dass viele „glauben, dass [Newsom will] tun Sie das Richtige.“
Der Hollywood-Brief warnt, dass die Risiken der KI nicht lange hypothetisch bleiben werden. „Früher waren schwere Bedrohungen durch KI nur Science-Fiction, heute nicht mehr“, heißt es darin. Er zitiert aus einem offenen Brief zur Unterstützung von SB 1047, der von über 110 aktuellen und ehemaligen Mitarbeitern führender KI-Unternehmen unterzeichnet wurde. Darin heißt es: „Wir glauben, dass die leistungsstärksten KI-Modelle bald ernsthafte Risiken bergen könnten, wie etwa einen erweiterten Zugang zu biologischen Waffen und Cyberangriffe auf kritische Infrastrukturen.“
Die Unterzeichner stellen SB 1047 als Kampf gegen eine mächtige, rücksichtslose und kaum regulierte Branche dar. „Riesige gewinnorientierte Technologieunternehmen setzen fortschrittliche künstliche Intelligenz mit sehr geringer staatlicher Aufsicht ein“, sagt Unterzeichner Adam McKay. „Ich fordere Gouverneur Newsom auf, zu zeigen, dass er das öffentliche Interesse vertritt und den großen Technologieunternehmen nicht nachgeben wird.“
Der Brief aus Hollywood ist ein persönlicher Appell. „Wir sind Ihre Unterstützer. Wir haben für Sie gestimmt“, heißt es darin. „Wir wollen weiterhin glauben, dass Sie ein Führer sind, der sich für das Wohl aller einsetzt, nicht nur für das einiger Giganten aus dem Silicon Valley.“
In diesem Drama zwischen Hollywood und Silicon Valley, bei dem viel auf dem Spiel steht, gehört der letzte Akt Gouverneur Newsom.