GPT endlich verstehen - indem wir es auf eine einzige Python-Datei schrumpfen (microGPT)
GPT wirkt oft wie Magie. microGPT zeigt das Gegenteil: Der Kern passt in eine einzige Python-Datei. Ich gehe den Code Block für Block durch und erkläre, wie Tokenisierung, Einbettungen, Aufmerksamkeit, Loss, Gradienten und Adam zusammen ein GPT ergeben – inklusive Reality-Check mit einem Training auf deutschen Brauereien.