AI Summary
5 min readIn der KI-Industrie hat sich in den letzten Tagen eine bemerkenswerte Dynamik entwickelt: Frühere und aktuelle Mitarbeiter führender Unternehmen wie OpenAI und Anthropic warnen öffentlich davor, dass die von ihnen selbst entwickelte Technologie die Menschheit auslöschen könnte. Jacob Coxon, ein ehemaliger Anthropic-Mitarbeiter, schrieb, keine der beiden Firmen verhalte sich verantwortungsvoll – sie rasten direkt zu einer sich selbst verbessernden Superintelligenz und spielten mit unserem Leben. Sein Kollege Evan Hubinger, der noch bei Anthropic arbeitet und das Team für verantwortungsvolle KI leitet, pflichtete ihm bei und bezifferte die Wahrscheinlichkeit, dass KI alle Menschen töten könnte, auf etwa 10 Prozent innerhalb der nächsten zehn Jahre. Die Podcaster Gregor und Fritz analysieren, ob diese Szenarien plausibler geworden sind oder nicht.
Die Herkunft der Warnungen
Continue reading the full summary in the app — free to try.
Read Full Summary →Free • No credit card required
Never miss an episode of Der KI-Podcast
Get every new episode summarized in your inbox — free, ~5 minutes to read.
No spam. Unsubscribe anytime.
What you'll learn
- 1 (00:03) **Episode Setup & The Whistleblower** - Hosts Gregor and Fritz introduce the topic: AI industry leaders suddenly demanding a slowdown, triggered by a high-profile resignation.
- 2 (04:10) **Coxon's Core Thesis & The "Ants" Analogy** - Fritz explains the core argument of the "AI doomer" movement.
- 3 (07:36) **The Effective Altruist Connection** - The hosts reveal the ideological background of the AI safety movement.
- 4 (10:18) **Divergent Views & Why This is Resonating Now** - The hosts identify the trigger for the current wave of public concern.
- 5 (14:24) **A Framework for Analysis: The AI 2027 Scenario** - Gregor introduces a concrete, testable forecast to evaluate the doomer claims.
- 6 (19:47) **Factor 1: Evidence of Recursive Self-Improvement** - Gregor examines whether we see signs of this exponential progress.
- 7 (21:37) **Factor 2: The "Black Box" Problem Worsens** - The hosts discuss the growing inability to understand AI's internal reasoning.
+ Full timestamped outline available in the app
Guests on this episode
Show Notes
Seit einer Woche reden alle über das mögliche Ende der Menschheit. Anlass: Die Kündigung eines KI-Forschers bei Anthropic.
Seit einer Woche reden alle über das mögliche Ende der Menschheit. Anlass: Die Kündigung eines KI-Forschers bei Anthropic. Gregor und Fritz nehmen sich das bekannteste Weltuntergangs-Szenario vor und gehen Punkt für Punkt durch, was an den Sorgen wirklich dran ist.
Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk.
Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story" und "Die OpenAI Story" (DLF).
(00:00) Der Tweet, über den gerade alle reden
(04:10) Was sagt der Aussteiger von Anthropic?
(11:00) Warum fühlt sich die Gefahr plötzlich so nah an?
(17:50) Wir machen den Faktencheck zum Weltuntergang
(33:00) Was hilft gegen das mulmige Gefühl?
(37:30) Was haben wir mit KI gemacht?
Podcast-Tipp der Woche: Fliegen, fahren, tauchen – Was Drohnen heute und morgen können
KI-Bosse wollen weniger Tempo und mehr Regulierung
https://www.tagesschau.de/wirtschaft/technologie/ki-anthropic-106.html
Der Tweet und die Antwort von Evan Hubinger
https://x.com/EvanHub/status/2097497037956891126
Anthropic-Forscher mit drastischer Warnung
https://www.zdfheute.de/wirtschaft/unternehmen/anthropic-ki-gefahren-mitarbeiter-kritik-100.html
Das Szenario "AI 2027"
Unsere erste Folge dazu: OpenAI vs. Hugging Face – Hack oder Marketing?
https://www.ardsounds.de/episode/urn:ard:episode:4aaa592c21402242/
Unsere zweite Folge dazu: Hacken KIs jetzt ALLES, STÄNDIG, ÜBERALL?
https://www.ardsounds.de/episode/urn:ard:episode:5ae22857487c2561/
Astra rechnet Teile seines Gedankengangs nicht mehr in Worten – und wird damit schwerer zu überwachen