Anthropic, ein Unternehmen, das für seine bahnbrechende Arbeit im Bereich der künstlichen Intelligenz bekannt ist, entwickelt nicht nur führende Technologien, sondern warnt die Öffentlichkeit auch kontinuierlich vor den damit verbundenen Risiken. Dario Amodei, CEO von Anthropic, der zuvor mit Aussagen aufhorchen ließ, dass wir die Funktionsweise der KI noch nicht vollständig verstehen, hat nun einen bemerkenswerten Artikel veröffentlicht, der sich auf die herannahenden Bedrohungen konzentriert.
In dem Text mit dem Titel „The Adolescence of Technology“ (Die Adoleszenz der Technologie) erklärt Amodei, dass die nächsten Jahre eine Art „Reifeprüfung“ für die Menschheit sein werden. Laut dem erfahrenen Manager ist das Problem nicht, wie mächtig die KI sein wird, sondern ob die menschlichen Systeme bereit sind, diese Macht zu verwalten.
Anthropic-CEO: „Wir stehen vor einer fast unvorstellbaren Macht“
Dario Amodei betont in seinem Schreiben, dass die Menschheit in sehr naher Zukunft die Kontrolle über eine „fast unvorstellbare“ Macht übernehmen könnte. Es ist jedoch höchst ungewiss, ob die aktuellen sozialen, politischen und technologischen Strukturen reif genug sind, um diese Macht verantwortungsvoll zu nutzen. Laut Amodei resultiert diese Unsicherheit nicht aus den technischen Grenzen der KI, sondern aus der institutionellen und moralischen Unvorbereitetheit der Menschheit.
Der Anthropic-Chef ist der Meinung, dass die Risiken der KI heute noch immer nicht ernst genug genommen werden. Der etwa 19.000 Wörter umfassende Artikel fungiert als eine Art „Warnsignal“. Amodei argumentiert, dass „starke KI“-Systeme, die die menschliche Intelligenz in vielen Bereichen übertreffen können, viel näher sein könnten als gedacht. Solche Systeme könnten in Bereichen wie Biologie, Mathematik und Ingenieurwesen kompetenter sein als ein Nobelpreisträger und in der Lage sein, Roboter zu steuern und über die digitale Welt hinaus zu agieren.
Amodei gibt an, dass es nur ein bis zwei Jahre dauern könnte, bis solche Systeme entstehen. Sollte sich dieses Tempo fortsetzen, sei es nur eine Frage der Zeit, bis die KI den Menschen in fast jeder Hinsicht überlegen ist.
Bioterrorismus und das Risiko missbräuchlicher Verwendung wachsen
Ein weiteres kritisches Risiko, das Amodei hervorhebt, ist die Wahrscheinlichkeit, dass KI in den Händen böswilliger Akteure zu einer zerstörerischen Kraft wird. Barrieren in Bereichen wie Biotechnologie und Gentechnik könnten durch starke KI dramatisch gesenkt werden. Laut Amodei bedeutet dies theoretisch eine Ausweitung des Ausmaßes von Bioterrorismus: Die Entwicklung biologischer Waffen, die normalerweise komplexe Fachkenntnisse erfordert, könnte durch KI-gestützte Systeme viel zugänglicher werden. Dieses Potenzial stellt nicht nur für Staaten, sondern auch für kleine Gruppen eine Bedrohung dar.
Amodei weist zudem auf die Risiken gesellschaftlicher Kontrolle und Autoritarismus hin. Diese Systeme könnten in der Lage sein, detaillierte soziale Profile zu erstellen, indem sie digitales und physisches Verhalten analysieren. Dies könnte es Überwachungsstaaten ermöglichen, Dissidenten zu identifizieren und zu unterdrücken, wobei KI-gestützte Propaganda die Gedanken und Verhaltensweisen der Menschen tiefgreifend formen könnte.
Amodei fasst die größten Risiken in fünf Hauptpunkten zusammen
- Autonomierisiken: KI-Systeme könnten Ziele uminterpretieren und von der menschlichen Absicht abweichen, was die menschliche Kontrolle schwächt.
- Missbrauch zur Zerstörung: Erleichterung des Zugangs zu Fachwissen für Bioterrorismus und chemische Waffen.
- Missbrauch zur Machtausübung: Fortschrittliche Überwachung und automatisierte Machtmechanismen.
- Wirtschaftliche Verwerfungen: Ungerechte Verteilung von Gewinnen und massive Arbeitsplatzverluste, insbesondere im White-Collar-Sektor.
- Indirekte soziale Auswirkungen: Abhängigkeit von KI, emotionale Bindungen und die Neudefinition grundlegender menschlicher Werte wie Erfolg und Lebenssinn.
Dario Amodei warnt davor, dass KI der Gnade von Unternehmen ausgeliefert ist
Die Sorgen des Anthropic-CEOs sind nicht nur theoretisch. Amodei weist darauf hin, dass wirtschaftliche Anreize oft dazu führen, dass Sicherheit und Ethik vernachlässigt werden. Er beschreibt dies als eine „Falle“: Je größer die Belohnung, desto schwieriger ist es, zu bremsen. Trotz dieses düsteren Bildes ist Amodei nicht völlig hoffnungslos. Er glaubt, dass diese Risiken bewältigt werden können, wenn wir anerkennen, dass KI eine ernsthafte „Zivilisationsprüfung“ darstellt.
