Jörn Loviscach: Die natürliche Selektion der KI

Die Blog-Postings sind Kommentare im Sinne von § 6 Abs. 1 MStV. Der Verfasser ist Jörn Loviscach, falls jeweils nicht anders angegeben. Die Blog-Postings könnten Kraftausdrücke, potenziell verstörende Tatsachenbehauptungen und/oder Darstellungen von Stereotypen enthalten. Die Beiträge der vergangenen Wochen werden als Bestandteil der Internet-Geschichte in ihrer ursprünglichen Form gezeigt. Menschliche Autor*innen können unzutreffende Informationen über Personen, Orte oder Fakten liefern.

vorheriger | Gesamtliste | jüngste | nächster

Die natürliche Selektion der KI

2023-03-31 22:40

Welcher Evolutionsdruck wirkt auf die KI? Der Markt!

Ich versuche mal, die Gedankenkette dieser Arbeit zu reproduzieren: Wir überlassen mehr und mehr der KI, schon allein, um im Konkurrenzkampf Zeit zu sparen. Wir fassen Vertrauen in die KI und lassen sie mehr und mehr selbständig über Finanzen, Geschäfte usw. entscheiden. Wir prüfen immer weniger nach, ob sie korrekt arbeitet. Am Markt setzt sich die KI durch, die am effektivsten arbeitet, also Gesetze bricht, ohne erwischt zu werden, und die die Menschen so manipuliert, dass sie glauben, sie sei artig und fleißig. Das klappt schon allein deshalb, weil die KI auch den Informationsfluss kontrolliert. Und dann: Schachmatt.

Natural Selection Favors AIs over Humans

Nebenbei bemerkt, habe ich ein bisschen Schiss mit Linux: Wie viele Drei-Buchstaben-Agenturen auf der Welt gehen gerade den Linux-Quellcode mit GPT-4 durch – in der Hoffnung oder sogar Gewissheit, üble Schwachstellen zu finden?

Kommentar vom 2023-04-01, 09:07

Diese These gehe ich mit. Ähnliche Effekte gibt es ja jetzt schon bei der Google-Suche bzw. bei Internet-Artikeln. "Das steht da im Internet - das muss dann wohl richtig / die Wahrheit sein".
Kritisches Nachfragen gerade bei "sehr professionell" dargestellten Informationen ist wichtiger denn je.
=> Selber denken lohnt sich mehr denn je.

Kommentar vom 2023-04-01, 10:44

@Kommentator*in von 09:07: Und noch mehr: selbst zu _wissen_! (Bevor hier jemand auf die unsinnigen und brandgefährlichen "21st century skills" kommt.) J. L.

Kommentar vom 2023-04-01, 20:23

Nebenbei bemerkt, habe ich ein bisschen Schiss mit unserer DNA: Wie viele Forscher auf der Welt gehen gerade unseren DNA-Quellcode mit GPT-4 durch – in der Hoffnung oder sogar Gewissheit, üble Schwachstellen zu finden?
Gruß, MartinH - der nur die Hoffnung hat, dass es da noch nicht so viel Trainingsmaterial gibt.

Neuer Kommentar

0 Zeichen von maximal 1000

Ich bin die*der alleinige Autor*in dieses Kommentars und räume dem Betreiber dieser Website das unentgeltliche, nichtausschließliche, räumlich und zeitlich unbegrenzte Recht ein, diesen Kommentar auf dieser Webseite samt Angabe von Datum und Uhrzeit zu veröffentlichen. Dieser Kommentar entspricht geltendem Recht, insbesondere in Bezug auf Urheberrecht, Datenschutzrecht, Markenrecht und Persönlichkeitsrecht. Wenn der Kommentar mit einer Urheberbezeichnung (zum Beispiel meinem Namen) versehen werden soll, habe ich auch diese in das Kommentar-Textfeld eingegeben. Ich bin damit einverstanden, dass der Betreiber der Webseite Kommentare zur Veröffentlichung auswählt und sinngemäß oder zur Wahrung von Rechten Dritter kürzt.