Home
| Lehre
| Videos
| Texte
| Vorträge
| Software
| Person
| Impressum, Datenschutzerklärung
|
Die Blog-Postings sind Kommentare im Sinne von § 6 Abs. 1 MStV. Der Verfasser ist Jörn Loviscach, falls jeweils nicht anders angegeben. Die Blog-Postings könnten Kraftausdrücke, potenziell verstörende Tatsachenbehauptungen und/oder Darstellungen von Stereotypen enthalten. Die Beiträge der vergangenen Wochen werden als Bestandteil der Internet-Geschichte in ihrer ursprünglichen Form gezeigt. Menschliche Autor*innen können unzutreffende Informationen über Personen, Orte oder Fakten liefern.
vorheriger | Gesamtliste | jüngste | nächster
2023-05-22 22:29
Man kann schon seinen vermeintlichen Enkel*innen am Telefon nicht trauen. Wenn man – zum Beispiel als Member of Parliament – mit einer Biographie auf Wikipedia steht, sollte man sogar bei Mails seeeeehr vorsichtig sein: Large Language Models Can Be Used To Effectively Scale Spear Phishing Campaigns. Das Paper zeigt exemplarisch auch den Fortschritt von GPT-3 über GPT-3.5 zu GPT-4.
Was im Paper nicht steht, ist der Unterschied zum altbekannten Nigerian Letter Scam: Dort hilft es, einfach mal das Hirn anzuschalten, bevor man jemandem Geld überweist. Aber im Paper gehts um politische Bittsteller*innen. Man kann Abgeordnete automatisch mit realistischen Gesuchen überfluten, um sie glauben zu lassen, dass wirklich Momentum und damit eine Wiederwahl dahinter stünde, siehe das klassische Astroturfing.
Die Stoßrichtung des alarmistischen und nicht emprisch unterfütterten Papers ist klar: auf der einen Seite die gehosteten Modelle vernageln und auf der anderen Seite Open Source verstümmeln. Mein Vorschlag wäre dagegen, nur noch Gesuche ernst zu nehmen, die von Twitter-Accounts mit blauem Häkchen stammen. ;-)
Die KI könnte neben solchen hochpersonalisierten Botschaften auch ein Paralleluniversum von Websites erzeugen, um Menschen zu verwirren, Suchmaschinen zu vergiften oder sogar die Web-abgrasende KI anderer Leute zu füttern. Hier hat ein Kollege so einen Verdacht. Allerdings konnte ich paar der dort verwendeten Bilder auf Stockfoto-Seiten finden. (Nebenbei 1000 Dank an die EU, dass man wegen "Datenschutz" nicht mehr per Whois herausbekommen kann, wer eine Website betreibt.)
Jene Site wäre also, falls sich der Verdacht bewahrheiten sollte, noch nicht so weit gediehen wie die Angebote des Burda-Verlags. Und eine Variante kommt mir in den Sinn: eine Website, die je nach Besucher*in Texte und Bilder in der jeweils psychologisch wirksamsten Fassung liefert. Aber ok, das könnte man einfach bemerken. Wenn man wollte.
Die einzige Quelle, der man heute noch absolut bedingungslos glauben darf, ist eine gesellschaftskritische Satiresendung.
Kommentar vom 2023-05-23, 11:32
"Mein Vorschlag wäre dagegen, nur noch Gesuche ernst zu nehmen, die von Twitter-Accounts mit blauem Häkchen stammen. ;-)" Guter Punkt!
Irgendwie witzig, wenn wir in eine Welt eintreten, in der die KI versucht, sich in der IT so breit zu machen, dass dem Menschen nur noch die Flucht in die reale Welt bleibt.
Zukunftsrauschen war ein von ChatGPT vorgeschlagenes Wort. Scheinbar nicht ganz neu laut Google, aber für ein Wort, das unsere Zukunft beschreiben soll, finde ich es passend. Übrigens, ich bin Shadowbanned auf Twitter. (Was man nicht alles wissen muss!)
Neuer Kommentar
0 Zeichen von maximal 1000
Ich bin die*der alleinige Autor*in dieses Kommentars und räume dem Betreiber dieser Website das unentgeltliche, nichtausschließliche, räumlich und zeitlich unbegrenzte Recht ein, diesen Kommentar auf dieser Webseite samt Angabe von Datum und Uhrzeit zu veröffentlichen. Dieser Kommentar entspricht geltendem Recht, insbesondere in Bezug auf Urheberrecht, Datenschutzrecht, Markenrecht und Persönlichkeitsrecht. Wenn der Kommentar mit einer Urheberbezeichnung (zum Beispiel meinem Namen) versehen werden soll, habe ich auch diese in das Kommentar-Textfeld eingegeben. Ich bin damit einverstanden, dass der Betreiber der Webseite Kommentare zur Veröffentlichung auswählt und sinngemäß oder zur Wahrung von Rechten Dritter kürzt.