OpenAI-Rivale Anthropic schlägt Pause im KI-Wettlauf vor
Wenn Künstliche Intelligenz sich selbst weiterentwickeln kann, steige das Risiko für die Menschheit, warnt die KI-Firma Anthropic. Sie regt eine Pause an, die jedoch kaum zu erreichen sein dürfte.
San Francisco (dpa) - Der OpenAI-Rivale Anthropic bringt eine Pause bei der Entwicklung leistungsstarker Künstlicher Intelligenz ins Gespräch. «Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren», hieß es in einem Blogeintrag des KI-Entwicklers. Ziel wäre, in dieser Zeit gesellschaftliche Strukturen anzupassen sowie die Forschung voranzutreiben, die sicherstellen soll, dass Künstliche Intelligenz im Interesse der Menschen agiert.
Anthropic räumte ein, dass für einen solchen Schritt ein Einvernehmen der großen Entwickler Künstlicher Intelligenz notwendig wäre. Bisher ist in der Branche keine Bereitschaft dazu zu erkennen. Die Unternehmen überbieten sich eher mit Plänen, hunderte Milliarden Dollar in KI-Infrastruktur wie gewaltige Rechenzentren zu investieren.
Keine einseitige Pause
Auch Anthropic-Chef Dario Amodei hatte etwa auf dem Weltwirtschaftsforum in Davos im Januar betont, dass der KI-Wettlauf mit China eine Verlangsamung der Entwicklung sehr stark erschwere, da es kaum eine durchsetzbare Vereinbarung geben könne. Einseitige Pausen lehnt Anthropic ab: Dies würde nur ändern, wer vorn liege.
Als konkrete Maßnahme will das Forschungsinstitut der KI-Firma nun gemeinsam mit anderen ein System zur Kontrolle ausarbeiten, das Entwicklern die Sicherheit geben soll, dass sich alle Teilnehmer an ein solches Moratorium halten und sich nicht jemand heimlich einen Vorteil verschafft.
Auch Tech-Milliardär Elon Musk hatte sich vor Jahren für eine sechsmonatige Pause bei der KI-Entwicklung ausgesprochen, um Risiken vorzubeugen. Später wurde bekannt, dass er parallel die Gründung einer eigenen KI-Firma vorantrieb.
KI, die sich selbst weiterentwickelt
Auslöser für den aktuellen Vorstoß ist laut Anthropic der schnelle Fortschritt der KI-Modelle, vor allem bei der Fähigkeit, sich selbst zu verbessern und weiterzuentwickeln. Wenn sie dazu in der Lage sein würden, werde das Risiko steigen, dass die Menschen die Kontrolle über die Künstliche Intelligenz verlieren. Der Meilenstein könne schneller erreicht werden als viele Institutionen dazu bereit sein würden, warnte Anthropic.
Die Firma, die die KI-Software Claude entwickelt, tritt oft als Mahner auf und forderte unter anderem auch eine striktere Regulierung der Branche, um Risiken vorzubeugen. Aus dem Weißen Haus von Präsident Donald Trump wurde Anthropic deswegen vorgehalten, dies würde die US-Industrie im globalen Wettbewerb bremsen. Zuletzt sorgte Anthropic für Aufsehen mit der Software Claude Mythos Preview, die in verschiedenen Programmen zum Teil über Jahrzehnte unentdeckt gebliebene Sicherheitslücken fand.
