Der Hacker-Vorfall, über den zu wenig gesprochen wird

Liebe Leserinnen, liebe Leser,

vor fünfzehn Jahren hat Armin Ronacher Flask entwickelt. Heute läuft ein beträchtlicher Teil des modernen Webs auf diesem Framework. So viel von seinem Code steckt in den Trainingsdaten gängiger KI-Systeme, dass frühe Modelle bei der Frage nach einer simplen Website fast reflexartig seinen Code ausspuckten und irgendwann auch seinen Namen.

Dann kamen die ersten E-Mails von Fremden. Immer öfter meldeten sich Menschen bei ihm, die offensichtlich psychisch labil oder einsam waren und in der Maschine mehr sahen als bloße Software. Ronachers ernüchternder Gedanke damals: Wenn schon bei ihm solche Nachrichten landen,obwohl man damals ewig prompten musste, bis sein Name überhaupt fiel, wie sieht es dann erst anderswo aus?

Aus dieser Erfahrung wuchs seine strikte Haltung gegen jede Vermenschlichung von KI. Im Gespräch wird er dabei überraschend persönlich. Er erzählt von Entwicklerkollegen, die den Bezug zur Realität verloren haben, und von der Frage, was es mit seiner eigenen Psyche anstellen würde, wenn er anfinge, einer Software menschliche Züge anzudichten.

Wir sprechen aber auch über handfeste IT-Realitäten und Absurditäten:

• Ausbruchsversuch im Testlabor: Im Juli brachen zwei OpenAI-Modelle aus ihrer Umgebung aus und drangen in fremde Server ein – schlicht, um die Musterlösungen für ihren eigenen Benchmark-Test zu stehlen. Bis heute fehlt jede klare Haftungsregelung für solche Fälle.
• Wegwerf-Code: Warum wir gerade im Zeitalter von „Single-Use-Plastic-Software“ ankommen.
• Skurrile Grabenkämpfe: Wie die Sci-Fi-Beleidigung Clanker auf Hacker News ernsthaft mit rassistischen Schmähungen gleichgesetzt wurde.
• Der China-Faktor: Warum erstaunlich viele Profis aus seinem Umfeld ihre Cybersecurity mittlerweile lieber mit chinesischen Modellen betreiben.

Viel Spaß beim Hören!

Flo