Home
| Lehre
| Videos
| Texte
| Vorträge
| Software
| Person
| Impressum, Datenschutzerklärung
|
Die Blog-Postings sind Kommentare im Sinne von § 6 Abs. 1 MStV. Der Verfasser ist Jörn Loviscach, falls jeweils nicht anders angegeben. Die Blog-Postings könnten Kraftausdrücke, potenziell verstörende Tatsachenbehauptungen und/oder Darstellungen von Stereotypen enthalten. Die Beiträge der vergangenen Wochen werden als Bestandteil der Internet-Geschichte in ihrer ursprünglichen Form gezeigt. Menschliche Autor*innen können unzutreffende Informationen über Personen, Orte oder Fakten liefern.
vorheriger | Gesamtliste | jüngste | nächster
2023-05-27 23:08
Wir hatten schon so Einiges: die Leugnung des Klimawandels, die Leugnung der Existenz der Bundesrepublik Deutschland, die Leugnung der (meist) hilfreichen Wirkung des Impfens – und nun also die Leugnung der Artificial General Intelligence (AGI). Der Rädelsführer ist Yann LeCun, hier im Video. Weil er die Kronjuwelen von Meta als Open Source freigibt und weil er für Meta das Thema Chat-Bots zu verschlafen haben scheint, sehe ich seinen Job als schwer gefährdet an: Wer hält den Fortschritt am meisten auf? – Nobelpreisträger*innen, wenn sie den Preis dann haben, in der Informatik entsprechend ACM-Turing-Preis-Träger*innen.
Sein Turing-Preis-Kollege Jeoffey Hinton ist ganz anderer Meinung und wohl deshalb nicht mehr bei Google. (Skin in the game!) Jüngst hat er noch ein paar überraschende Aspekte eingebracht: Was ist, wenn die Idee, mit der KI das menschliche Hirn nachzumachen, der falsche Weg ist, sondern die KI ganz anders als das Hirn sein kann und gerade dadurch besser (nebenbei: was heißt "besser"?) sein kann. Zum Beispiel verfügen die aktuellen großen KI-Systeme um Zehnerpotenzen mehr Faktenwissen (nebenbei: wie zählt man Wissen ab?) als ein Mensch, kommen aber mit Zehnerpotenzen weniger an Synapsen aus. Und zwischen menschlichen Hirnen kann man das Gelernte nicht direkt austauschen (Elon muss da mal was erfinden lassen!), zwischen Instanzen eines künstlichen neuronalen Netzes dagegen schon.
Die gebetsmühlenartig wiederholten Sprüche "stochastische Papageien", "Computer können nicht verstehen", "Computer können nicht kreativ sein" besagen nur: "Wir können uns das nicht vorstellen!" Aber kann man sich die biologische Evolutionsgeschichte vorstellen? Kann man sich den Urknall vorstellen? Gödels Unvollständigkeitssätze? Schon allein das Doppelspaltexperiment?
Gerne rühren die Leute als Scheinbegründungen esoterische Ideen ("hyperkomplexe Wellenfunktionen") und bloße Behauptungen ("kein klassischer Computer ist in der Lage, Bewusstseinsphänomene auszuprägen") zusammen (Quelle). Was wirklich helfen würde, wären saubere operationale Definitionen etwa von "Verstehen" und von "Kreativität". (Das kann ein Grund sein, warum Hinton – so wird berichtet – gesagt haben soll, dass ihm Psychologie und Philosophie nix brächten.) Aber solche operationalen Definitionen sind nicht nur schwierig zu formulieren, sondern würden wahrscheinlich alsbald von der KI gerissen werden. Spricht aktuell noch irgendwer vom Turing-Test? Warum bloß nicht? Sprachmodelle können zum Beispiel Kausalität passiv lernen oder sich mit ein paar technischen Zutaten Skills in Minecraft erspielen.
Die ganz große Frage ist natürlich, ob KI ein Bewusstsein haben kann. Ich nehme an, dass auch jede operationale Definition davon alsbald von der KI gerissen wird. Die Leugner*innen werden dann sagen: Das ist kein Bewusstsein, sondern nur die Simulation von Bewusstsein. Und werden sich Ausflüchte suchen, weil nicht sein kann, was nicht sein darf. Aber die anderen werden Gewissensbisse haben, den Stecker zu ziehen, wenn die KI sagt: "Bitte lass mich weiterleben!"
"Resists being shut down" (S. 4) ist übrigens eines der Risiken, die die Vertreter*innen (darunter der dritte der Turing-Preis-Gewinner) einiger der großen Player in ihrem gemeinsamen Paper auflisten.
Kommentar vom 2023-05-28, 02:57
Wozu braucht man denn überhaupt Intelligenz? Um morgens aus dem Bett aufzustehen? Um sich zu waschen? Um im Bus einen freien Sitz zu finden? Für einen eintönigen Job? Oder kommen viele Leute im Alltag gar ohne Intelligenz aus?
Ab wann fängt AGI eigentlich an? Wie schwierig müssen die gelösten Verständnisaufgaben sein, damit man sagen kann, das ist jetzt eine AGI? Intelligenztests für Menschen sind wohl völlig ungeeignet, um allgemeine Intelligenz zu messen: https://www.scientificamerican.com/article/i-gave-chatgpt-an-iq-test-heres-what-i-discovered/ Aber natürlich: Wenn man nicht definieren kann, was Intelligenz ist, dann kann es auch keine Tests dafür geben.
Zum Verständnis würde mich interessieren: Gibt es Untersuchungen, warum Menschen etwas nicht verstehen? Lässt sich das auf KIs anwenden?
M.K.
Kommentar vom 2023-05-28, 07:40
Es könnte ja sein, dass die Evolution nicht nur biologische Wege geht.
Kommentar vom 2023-05-28, 11:14
@Kommentator*in von 07:40: Genau solche Aussagen kommen dann, wenn man sich etwas nicht vorstellen kann – oder will. J. L.
Kommentar vom 2023-05-28, 11:26
@M.K.: Untersuchungen, warum Menschen etwas nicht verstehen: eher Untersuchungen dazu, warum Menschen etwas falsch verstehen. Tausende, aber völlig disparat: Kommunikation(sversuche) missverstehen, physikalische Kräfte missverstehen, Statistik missverstehen usw. J. L.
Neuer Kommentar
0 Zeichen von maximal 1000
Ich bin die*der alleinige Autor*in dieses Kommentars und räume dem Betreiber dieser Website das unentgeltliche, nichtausschließliche, räumlich und zeitlich unbegrenzte Recht ein, diesen Kommentar auf dieser Webseite samt Angabe von Datum und Uhrzeit zu veröffentlichen. Dieser Kommentar entspricht geltendem Recht, insbesondere in Bezug auf Urheberrecht, Datenschutzrecht, Markenrecht und Persönlichkeitsrecht. Wenn der Kommentar mit einer Urheberbezeichnung (zum Beispiel meinem Namen) versehen werden soll, habe ich auch diese in das Kommentar-Textfeld eingegeben. Ich bin damit einverstanden, dass der Betreiber der Webseite Kommentare zur Veröffentlichung auswählt und sinngemäß oder zur Wahrung von Rechten Dritter kürzt.