KI und Massenvernichtungswaffen: Wie real ist die Gefahr?

Wenn Sean Ekins heute an ein Experiment vor drei Jahren zurückdenkt, dann sagt er: „Hätte ich besser niemals jemandem davon erzählt.“ Der britsche Pharmakologe entwickelt mit seinem Start-up in den Vereinigten Staaten Wirkstoffe für seltene Erkrankungen. Dafür nutzt er Künstliche Intelligenz. Seine Software hat die biologische Wirkung von Molekülen, also chemischer Verbindungen, gelernt. Jetzt kann sie selbst neue Moleküle entwerfen, Kandidaten für Medikamente. Bei diesen Entwürfen hat die KI eine eiserne Regel: Sie optimiert die gewünschte Wirkung und verringert gleichzeitig giftige Effekte. Doch für sein Experiment legte Ekins diesen Schalter um. Er ließt seine KI giftige Moleküle entwerfen. Was dann passierte, weiß er noch genau. Es war Anfang September 2021, die Software spuckte Formeln für Moleküle aus. Einer seiner Mitarbeiter analysierte sie. „Ich stand hinter ihm, wir starrten auf den Bildschirm, und ich dachte: ‚Oh mein Gott, was haben wir getan?‘“