Nie wieder ChatGPT-Abo: So läuft deine KI 100% offline!
Hallo allerseits,
hast du dich schon mal gefragt, was eigentlich mit den sensiblen Daten, Code-Schnipseln oder Protokollen passiert, die du täglich in ChatGPT oder Claude hineinfütterst? Im besten Fall werden sie kurz geloggt, im schlechtesten Fall landen sie direkt im nächsten globalen Trainingsdatensatz. Das permanente Auslagern unseres Denkens an zentrale US-Cloud-Giganten ist nicht nur riskant, sondern langfristig ein massiver Verlust unserer digitalen Souveränität.
In der neuen Folge von Was KI kann habe ich Andreas Petersson zu Gast. Andreas kommt aus der Bitcoin-Mining-Welt, ist tief in der Open-Source-Szene verwurzelt und betreibt seine KI-Infrastruktur konsequent lokal. Gemeinsam besprechen wir, warum der Trend weg von Server-Client-Strukturen hin zu persönlichen, offline-fähigen Sprachmodellen geht und wie man sich ein solches System zu Hause oder im Unternehmen aufbaut – inklusive eines Realitätschecks zu den heftigen Hardware-Kosten.
Hier sind drei der spannendsten Themen aus unserem Gespräch:
- Der Fallstrick der KI-Agenten: Warum die Meta-Sicherheitschefin durch einen fehlerhaften Prompt unabsichtlich hunderte E-Mails verlor und wie man das "Vibe-Coding"-Problem umgeht.
- Vom Mining-Hype zu Spezialchips: Warum die Evolution von lokalen Modellen exakt der Geschichte des Bitcoin-Minings folgt und wie dedizierte KI-Chips bald in Haushaltszentralen landen.
- Praxis-Utopie im Alltag: Wie Andreas’ Familie bereits lokale medizinische Modelle und agentische Ernährungsberater nutzt, ohne jemals Daten ins Netz zu stellen.
Die ganze Folge mit allen technischen Details und den wichtigsten ersten Schritten für deinen eigenen KI-Einstieg findest du ab sofort auf YouTube und allen Podcast-Plattformen.
Beste Grüße,
Florian
