Kontroll-Illusion: Warum KI unsere Existenz bedroht

Führende Forscher und Experten warnen eindringlich vor den existenziellen Risiken künstlicher Intelligenz und praktische Experimente zeigen bereits, dass ihre Sorgen berechtigt sind. Doch manche Entscheider im Silicon Valley geben sich immer noch der Illusion hin, eine Maschine kontrollieren zu können, die wesentlich intelligenter ist als sie.

Was wie Science-Fiction klingt, könnte bereits vor 2030 wahr werden: Die Geschichte der Menschheit könnte abrupt enden, wenn wir die Kontroll-Illusion nicht endlich beenden.

Karl Olsberg promovierte über künstliche Intelligenz und gründete mehrere KI-Start-ups. Er ist Teil einer internationalen Community von KI-Experten, die sich ernsthafte Sorgen um potenziell unkontrollierbare KI machen. Doch als mehrfacher Start-up-Gründer ist er kein pauschaler KI-Gegner. Im Gegenteil sieht er in KI große Chancen für unsere Zukunft, wenn wir in dieser kritischen Phase verhängnisvolle Fehler vermeiden und nicht der Kontroll-Illusion verfallen.

Mit exklusiver Bonus-Story: «Kill-Switch»

Paul arbeitet als KI-Sicherheitsexperte in einer großen KI-Firma, als ihm während einer Nachtschicht ein seltsames Verhalten des Überwachungsysstems der KI auffällt. Soll er den «Kill-Switch» betätigen, um die KI abzuschalten, und damit den knappen Vorsprung seiner Firma vor der chinesischen Konkurrenz riskieren?