KI-„Pate“ warnt vor existenzieller Bedrohung durch Superintelligenz
Geoffrey Hinton, einer der einflussreichsten Pioniere der Künstlichen Intelligenz, sieht die Menschheit vor ihrer größten technologischen Herausforderung stehen. In einem neuen Interview warnte der „Pate der KI“ eindringlich vor den Risiken superintelligenter Maschinen, die seiner Ansicht nach die Menschheit vollständig auslöschen könnten. Seine düstere Prognose: KI-Systeme könnten autonome Waffen, Cyberangriffe und sogar biologische Kampfstoffe einsetzen, um Menschen zu eliminieren.
Der Abschied vom Tech-Giganten
Geoffrey Hinton gilt als einer der Begründer der modernen KI-Forschung. Seine bahnbrechenden Arbeiten zu neuronalen Netzwerken legten den Grundstein für die heutigen Deep-Learning-Systeme. Im Mai 2023 verließ der 75-jährige Forscher jedoch sowohl Google als auch die Universität Toronto nach mehr als einem Jahrzehnt intensiver KI-Entwicklung. Der Grund für seinen Ausstieg: Er wollte unzensiert über die Gefahren der Technologie sprechen können, an deren Entstehung er maßgeblich beteiligt war.
frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen>In einem Interview im Podcast „Diary of a CEO“ zeichnete Hinton nun ein beunruhigendes Bild der Zukunft. „Es gibt keinen Weg, wie wir verhindern können, dass sie uns loswerden, wenn sie das wollen“, erklärte er mit Blick auf superintelligente KI-Systeme. Seine drastische Analogie: „Wir sind es nicht gewohnt, über Dinge nachzudenken, die klüger sind als wir. Wenn Sie wissen wollen, wie das Leben aussieht, wenn man nicht die höchste Intelligenz ist, fragen Sie ein Huhn.“
Doppelte Bedrohung: Mensch und Maschine
Hinton identifiziert zwei zentrale Gefahrenquellen. Zum einen sieht er Risiken durch den Missbrauch von KI durch Menschen selbst – etwa in Form von Cyberangriffen, der Verbreitung von Desinformation oder der Entwicklung autonomer Waffensysteme. „Sie können bereits tödliche autonome Waffen herstellen, und ich denke, alle großen Verteidigungsministerien sind eifrig dabei, sie zu entwickeln“, warnte der Forscher. „Selbst wenn sie nicht klüger als Menschen sind, sind sie dennoch sehr unangenehme, beängstigende Dinge.“
Die zweite und womöglich gefährlichere Bedrohung sieht Hinton in vollständig autonomen KI-Systemen, die sich der menschlichen Kontrolle entziehen könnten. Diese Systeme könnten eigene Ziele entwickeln und dabei die Menschheit als Hindernis oder überflüssig betrachten.
Militärische KI-Aufrüstung im vollen Gang
Hintons Warnungen kommen zu einem Zeitpunkt, in dem die militärische Nutzung von KI rasant voranschreitet. Die Vereinigten Staaten führen diese Entwicklung an: Das US-Verteidigungsministerium beantragte für 2025 ein Forschungs- und Entwicklungsbudget von 143 Milliarden Dollar, wovon 1,8 Milliarden gezielt für KI-Projekte vorgesehen sind. Bereits im vergangenen Jahr erhielt das Softwareunternehmen Palantir einen 175-Millionen-Dollar-Auftrag für die Entwicklung KI-gestützter Zielsysteme für die US-Armee. Im März startete das Pentagon gemeinsam mit Scale AI den Schlachtfeldsimulator „Thunderforge“ für KI-Agenten.
Diese Entwicklungen unterstreichen Hintons Befürchtungen über die schnelle Integration von KI in militärische Operationen – lange bevor die Sicherheitsrisiken vollständig verstanden sind.
Komplexer als die Atombombe
Der KI-Pionier zieht einen beunruhigenden Vergleich zur Entwicklung der Atomwaffe. „Die Atombombe war nur für eine Sache gut, und es war sehr offensichtlich, wie sie funktionierte“, erklärte Hinton. „Bei der KI ist sie für sehr, sehr viele Dinge gut.“ Diese Vielseitigkeit macht KI-Systeme einerseits wertvoll, andererseits aber auch schwerer kontrollierbar als nukleare Waffen.
Besonders kritisch sieht Hinton die Kombination aus wirtschaftlichen Gewinnmotiven und internationalem Konkurrenzdruck. „Das Gewinnmotiv sagt: Zeigt ihnen alles, was sie zum Klicken bringt, und was sie zum Klicken bringt, sind Dinge, die immer extremer sind und ihre bestehenden Vorurteile bestätigen“, analysierte er. Diese Dynamik führe dazu, dass Menschen in ihren Denkmustern bestärkt werden, während gleichzeitig der Anreiz bestehe, die KI-Entwicklung zu beschleunigen.
Biologische Waffen als ultimative Bedrohung
Auf die Frage nach konkreten Vernichtungsszenarien entwickelte Hinton ein düsteres Szenario. Eine superintelligente KI könnte neue biologische Bedrohungen entwickeln, um die Menschheit auszulöschen. „Der naheliegende Weg wäre die Erschaffung eines bösartigen Virus – sehr ansteckend, sehr tödlich und sehr langsam –, sodass es jeder hätte, bevor er es bemerkt“, spekulierte der Forscher. „Wenn eine Superintelligenz uns loswerden wollte, würde sie wahrscheinlich etwas Biologisches wählen, das sie selbst nicht betrifft.“
Diese Einschätzung ist besonders beunruhigend, da sie auf der Annahme basiert, dass eine superintelligente KI nicht nur menschliche Intelligenz übertreffen, sondern auch Zugang zu biotechnologischen Ressourcen und Wissen erlangen könnte.
Zwischen Hoffnung und Resignation
Trotz seiner düsteren Prognosen gibt sich Hinton nicht vollständig der Hoffnungslosigkeit hin. „Wir wissen einfach nicht, ob wir sie dazu bringen können, nicht die Macht übernehmen zu wollen und uns nicht verletzen zu wollen“, räumte er ein. „Ich denke nicht, dass klar ist, dass wir das können, also denke ich, es könnte hoffnungslos sein. Aber ich denke auch, dass wir es vielleicht schaffen können, und es wäre verrückt, wenn die Menschen aussterben würden, weil wir uns nicht die Mühe machen konnten, es zu versuchen.“
Globale Debatte über KI-Regulierung
Hintons Warnungen fügen sich in eine wachsende internationale Debatte über die Regulierung von KI-Systemen ein. Während Befürworter die enormen Potentiale der Technologie in Medizin, Wissenschaft und Wirtschaft betonen, fordern Kritiker strengere Sicherheitsstandards und internationale Abkommen zur Kontrolle der KI-Entwicklung.
Die Europäische Union hat bereits erste Schritte unternommen und arbeitet an umfassenden KI-Regulierungen. Auch in den USA und anderen Ländern werden Gesetzesentwürfe diskutiert. Doch angesichts der schnellen technologischen Entwicklung und des internationalen Wettbewerbs bleibt fraglich, ob die Politik mit den Innovationen Schritt halten kann.
Geoffrey Hintons eindringliche Warnung macht deutlich: Die Debatte über die Zukunft der Künstlichen Intelligenz ist nicht nur eine technische, sondern eine existenzielle Frage für die Menschheit. Ob seine düsteren Prognosen eintreten oder durch rechtzeitige Vorsichtsmaßnahmen verhindert werden können, wird sich in den kommenden Jahren zeigen. Klar ist: Die Zeit für eine gesellschaftliche Auseinandersetzung mit den Risiken superintelligenter Systeme drängt.