KI-Rechtsexpertin Silja Vöneky: Für Hochrisiko-KI braucht es Haftungsregeln

Die Warnungen von CEOs führender KI-Unternehmen wie Anthropic vor sich verselbständigender Künstlicher Intelligenz zeigen die Notwendigkeit zur Regulierung. Die Freiburger Rechtswissenschaftlerin und KI-Rechtsexpertin Silja Vöneky hält es für gefährlich, die Warnungen als bloße PR-Masche der Tech-Firmen abzutun. Vielmehr sei nun der Zeitpunkt gekommen, endlich internationale Verträge zur KI-Regulierung zu verhandeln. Das Völkerrecht biete da gute Möglichkeiten, sagt sie.

Wie blicken Sie auf die derzeitige Diskussion?

Silja Vöneky: Die Diskussion ist nicht neu. Die ersten Diskussionen darüber gab es bereits vor zehn Jahren. Aus menschenrechtlicher Sicht gibt es eine Pflicht, massive Risiken zu betrachten und zu senken, das heißt, zu regulieren, auch wenn die Eintrittswahrscheinlichkeit gering oder unklar ist.

Denn Staaten sind nicht nur verpflichtet, nicht durch eigenes Tun das Recht auf Leben und andere Menschenrechte zu verletzen, sondern auch, diese Rechte zu schützen.

Hochrisiko-KI-Modelle übersteigen menschliche Intelligenz

Was genau muss überhaupt reguliert werden? Über welche KI-Modelle oder KI-Anwendungen sprechen wir?

Vöneky: Die Begriffe unterscheiden sich je nach Definition. In dem Anthropic-Statement, das jetzt zur Regulierung aufruft, wird von sogenannten Frontier-Modellen gesprochen. Manche sprechen von Superintelligenz, andere von AGI, also Artificial General Intelligence. Was ich Hochrisiko-KI-Modelle nenne, übersteigt die menschliche Intelligenz in jedem Fall, ist zu eigenen Entscheidungen fähig, kann sich verbünden, sich eigene Ziele setzen und sich selbst verbessern. Anders als in sonstigen Hochrisikotechnologiebereichen haben wir in diesem Bereich keinen internationalen Vertrag. Das ist wirklich eine Besonderheit.

In der Diskussion wurde mehrfach die Internationale Atomenergie-Organisation als Vorbild genannt. Könnte man bei der Hochrisiko-KI in ähnlicher Weise vorgehen?

Vöneky: Das ist sicher ein wichtiger Ansatz, auch wenn es wichtige Unterschiede zwischen Nuklearenergie und KI gibt. Ein weniger offensichtliches Beispiel ist der Antarktisvertrag. Das klingt vielleicht ein wenig seltsam. Aber bei diesem Vertrag sind die wichtigen Staaten Vertragsparteien und haben sich ein gemeinsames Ziel gegeben: die Antarktis zu demilitarisieren und der friedlichen Forschung vorzubehalten. Im Rahmen dieses Ziels erlauben und ermöglichen sie beispielsweise auch unangekündigte Inspektionen ihrer Forschungsstationen.

In jedem Fall können wir Völkerrechtlerinnen und Völkerrechtler das, was von der Politik oder der Gesellschaft als Ziel oder als rote Linie vereinbart wird, relativ wasserdicht in rechtliche Regeln umsetzen. Was wir wirklich benötigen, ist der politische und gesellschaftliche Wille zur Regulierung. Diese Ziele dann in einen Vertrag zu gießen, ist handwerklich gut möglich. Wir haben eine Vielzahl völkerrechtlicher Verträge, auch im Bereich der Technologieregulierung. Wir haben beispielsweise völkerrechtliche Verträge im Weltraumrecht und im Bereich der Biosicherheit, auch wenn diese nicht perfekt sind.

Haftung ist noch nicht ausreichend geregelt

Was ist mit Sanktionen?

Vöneky: Dafür gibt es verschiedene Mechanismen. Rechtlich unterscheiden wir - wie wir es auch als Bürgerinnen und Bürger kennen - insbesondere, das ist stark vereinfacht, zwischen Strafzahlungen einerseits und Haftung andererseits. Wenn gegen bestimmte Regeln verstoßen wird, kann man Strafzahlungen verhängen, wie es die EU-Kommission tut. So schafft man einen Anreiz, sich an die Regeln zu halten.

Geregelt werden könnte auch die Haftung. Das ist aus meiner Sicht noch nicht hinreichend geschehen, wäre aber wichtig. Wer haftet, wenn etwas wirklich schiefgeht, verursacht durch KI-Modelle, die ungeregelt auf den Markt gelassen werden, und grenzüberschreitend massive Schäden entstehen und vielleicht Menschen sterben? Haftet das Unternehmen? Haftet der Staat? Haften beide gemeinsam? Das wird im Moment - neben Menschenrechten - auch durch völkerrechtliches Gewohnheitsrecht bestimmt. Aber in diesem Bereich ist sehr vieles unklar. Einen solchen Fall hatten wir zum Glück noch nicht.

Kann man die Haftung auch völkerrechtlich verankern?

Vöneky: Ja, auch diese Haftung könnte völkervertraglich verankert und spezifiziert werden. Es gibt bereits Haftungsregeln im Völkerrecht. Bei der friedlichen Nutzung der Nuklearenergie haben wir selbst während des Kalten Krieges Verträge geschlossen, auch zu Haftungsfragen. Dasselbe gilt für das Weltraumrecht. So könnte geklärt werden, ob und wann beispielsweise ein Staat haftet, wenn durch diese neue Hochrisikotechnologie Schäden entstehen. Wir wollen diese Technologie wohl alle - vielleicht nicht in jedem Ausmaß, aber doch grundsätzlich.

Man kann verschiedene Überlegungen anstellen: Soll die Haftung irgendeine Art von Fahrlässigkeit oder Verschulden voraussetzen? Oder soll es sogar eine verschuldensunabhängige Haftung sein, wie wir sie im nationalen Recht beispielsweise bei Hundehaltern kennen? Hundehalter haften, wenn der Hund beißt, egal wie gut er erzogen ist. So etwas könnten wir auch für die Nutzung von KI völkerrechtlich verankern. Wenn es für alle Staaten gleichermaßen gelten würde, wäre es auch kein ungerechtfertigter Wettbewerbsnachteil, sondern eine klare Form der Verantwortlichkeit. Das finde ich durchaus eine mögliche und gerechte Lösung.

Wie könnte eine Regulierung Ihrer Meinung nach aussehen?

Vöneky: Der Finanzmathematiker Thorsten Schmidt und ich haben 2022 ein anderes Regulierungsmodell vorgeschlagen: Relevante KI-Unternehmen müssten vor dem Markteintritt von Frontier-Modellen bestimmte Summen an regulativem Kapital vorab in einen Fonds einzahlen, also Geld hinterlegen. Die Summe würde von einer Expertenkommission bestimmt werden. Damit hätten sie einen Anreiz, ihre Risiken wirklich zu senken, damit sich Schäden nicht verwirklichen. Denn wenn dies nicht passiert, soll die hinterlegte Summe nach fünf oder zehn Jahren an das Unternehmen zurückgezahlt werden.

Würde es etwas bringen, wenn bei diesem Thema einige willige Staaten vorangingen? Oder braucht man zwangsläufig die USA und China, damit eine Regelung überhaupt etwas bewirkt?

Vöneky: Das ist bei völkerrechtlichen Verträgen immer die große Frage: Will man einen möglichst universellen Vertrag, der dann vielleicht durch zu viele Kompromisse abgeschwächt wird? Deswegen stellt sich die Frage, wen man in die Verhandlungen einbezieht und wer einen völkerrechtlichen Vertrag realistischerweise ratifizieren würde. Zum Teil erleben wir im Völkerrecht, dass zwar viele Staaten an den Verhandlungen teilnehmen, am Ende aber wichtige Akteure wie die USA den Vertrag nicht ratifizieren. Das sahen wir beim Statut des Internationalen Strafgerichtshofs.

Deswegen stellt sich schon die Frage, ob nicht einige gleichgesinnte Staaten vorangehen sollten - möglicherweise auch europäische Staaten, mit der Schweiz und Großbritannien, aber auch Kanada. Natürlich am besten mit den USA und wohl auch China. Das sind wichtige Fragen, über die die jeweiligen Staaten entscheiden müssen.

Ist die aktuelle Diskussion dazu geeignet, die Staaten dazu zu bewegen, das Thema Regulierung anzupacken?

Vöneky: Ja, ich denke schon. Im Laufe der wissenschaftlichen Entwicklung haben wir immer wieder erlebt, dass zunächst Wissenschaftlerinnen und Wissenschaftler sagen: Wir müssen darüber diskutieren, welche Regeln wir uns als Gesellschaft und als Weltgesellschaft in Bezug auf neue Technologien geben wollen. Ich finde das richtig. Das nur als Marketingtrick der Unternehmen abzutun, halte ich für vollkommen fehlgeleitet.

Es ist eine gesellschaftliche Aufgabe, zu entscheiden, welche Risiken wir als Land, als Gesellschaft oder als Weltgesellschaft auf uns nehmen wollen - und für welchen Nutzen. Das ist keine Aufgabe der Unternehmen oder der Wissenschaftler selbst. Sinnvolle Regeln wären ein Gewinn für uns alle: für die Unternehmen, für uns als Gesellschaft, weil wir die Regeln schaffen können, und für die Menschheit insgesamt.

Was passiert, wenn die Regulierung und Haftungsregeln nicht geklärt werden?

Vöneky: Wenn nicht geklärt ist, wie wir diese Risiken senken, müssen irgendwann Gerichte entscheiden, nachdem es Schadensfälle gegeben hat, wer haftet. Wenn niemand haftet, haften letztlich wir Bürger insgesamt oder die Betroffenen, weil niemand die entstandenen Schäden übernimmt. Ich finde es keine sinnvolle Lösung, es zu Schadensfällen kommen zu lassen und nur zu hoffen, dass alles schon gut gehen wird, auch wenn wir nichts weiter tun, gerade wenn eine Katastrophe potenziell möglich ist.

Wir machen uns jetzt bewusst, dass es sich in jeder Hinsicht um unglaublich potente Technologien handelt, wenn wir KI nutzen: im Hinblick auf die friedliche Nutzung zur Bekämpfung von Krankheiten und zur Entwicklung neuer Medikamente, aber auch mit Blick auf Akteure, die sie für schreckliche Zwecke wie Biowaffen nutzen wollen. Hinzu kommt - und das ist die Besonderheit bei KI, die wir bisher nicht hatten - das Risiko, dass sich die Systeme selbstständig machen und möglicherweise eigene Ziele verfolgen, die den Zielen der Menschheit widersprechen. Auch wenn das dystopisch klingt.