Forschung & Texte

Eigene Experimente, echte Daten

Die technische Grundlage hinter den Leistungen: praktische Studien mit echten Daten, festen Seeds und reproduzierbaren Setups — inklusive dessen, was nicht funktioniert hat. Jeder Artikel liest sich an der Oberfläche in 2–3 Minuten; die volle Tiefe entfaltet sich pro Befund.

RSS-Feed — neue Artikel, kein Tracking.

02

Weniger Bias, besserer Transfer?

Foundation Models · Self-supervised · Kopf-CT

Ein eingefrorenes, selbstüberwachtes Foundation-Modell — nur auf Alltagsfotos trainiert, nie auf medizinischen Bildern — erkennt Hirnblutungen im Kopf-CT mit rund 0,94 AUC. Was den Transfer treibt, war nicht die naheliegende Wette.

Fallstudie · Sept. 2026
01

Kann man Sprachmodelle wie Video-KI trainieren?

LeJEPA · Self-supervised Learning · Effizientes Pretraining

LeCuns neuestes selbstüberwachtes Rezept trainiert Video-Modelle mit bis zu einem Zwanzigstel des Rechenaufwands. Ich habe es auf Text portiert und die Kontrollen dazu gerechnet. Ergebnis: Ein Modell, das nie mehr als 30 % eines Texts liest, lernt bessere Text-Repräsentationen als Modelle, die alles lesen — und der neue Invarianz-Loss ist nicht der Grund dafür.

Forschung · Sept. 2026