Home | Lehre | Videos | Texte | Vorträge | Software | Person | Impressum, Datenschutzerklärung | Blog RSS

Die Blog-Postings sind Kommentare im Sinne von § 6 Abs. 1 MStV. Der Verfasser ist Jörn Loviscach, falls jeweils nicht anders angegeben.

vorheriger | Gesamtliste | jüngste | nächster

Der Fluch der Hochdimensionialität

2021-12-25 21:07

Der Titel dieses hochwichtigen Papers sagt es knapp und gut: Learning in High Dimension Always Amounts to Extrapolation. Wenn die Daten auf einer niedrigdimensionalen Untermannigfaltigkeit liegen, hilft das wenig. Dimensionsreduktion hilft wenig.

Kommentar vom 2021-12-26, 17:38

Erinnert mich ein wenig an: "Escape the local minima by error reflection". Der Autor hat einige interessante weiterführende Paper. Das Problem, was die Prediction Map stört, scheinen aber die Gewichte, die keine Lösungen, dafür aber Störungen übertragen. Mögliche Lösung/Minderung: Sparsity mit ReLU-Aktivierung. Zudem sagt man der Bauweise nach, auch mit verrauschten Daten noch gute Vorhersagen zu treffen.

Was mich heute noch immer entsetzt, das Buch "Perceptrons". Durch dieses Buch haben wir Dekaden an Zeit für BS verschwendet. Ich kann Ihnen mit Sicherheit einige Quellen raussuchen die dieses Buch empfehlen. Aber nicht wirklich eine, die auf den BS hinweist, der in diesem Buch steht.

Perceptrons können das XOR Problem nicht lösen? Zurück zum Tensorflow Playground bitte. Da kann man das auch alles nachprüfen.

Mir gefällt der Gedanke jedenfalls mehr, etwas möglich zu machen, als Leuten zu erzählen, was sie nicht können, weil ich es nicht kann. Shame on Minsky!

T.K.

Neuer Kommentar

0 Zeichen von maximal 1000

Ich bin die*der alleinige Autor*in dieses Kommentars und räume dem Betreiber dieser Website das unentgeltliche, nichtausschließliche, räumlich und zeitlich unbegrenzte Recht ein, diesen Kommentar auf dieser Webseite samt Angabe von Datum und Uhrzeit zu veröffentlichen. Dieser Kommentar entspricht geltendem Recht, insbesondere in Bezug auf Urheberrecht, Datenschutzrecht, Markenrecht und Persönlichkeitsrecht. Wenn der Kommentar mit einer Urheberbezeichnung (zum Beispiel meinem Namen) versehen werden soll, habe ich auch diese in das Kommentar-Textfeld eingegeben. Ich bin damit einverstanden, dass der Betreiber der Webseite Kommentare zur Veröffentlichung auswählt und sinngemäß oder zur Wahrung von Rechten Dritter kürzt.