Home | Lehre | Videos | Texte | Vorträge | Software | Person | Impressum, Datenschutzerklärung | Blog RSS

Die Blog-Postings sind Kommentare im Sinne von § 6 Abs. 1 MStV. Der Verfasser ist Jörn Loviscach, falls jeweils nicht anders angegeben. Die Blog-Postings könnten Kraftausdrücke, potenziell verstörende Tatsachenbehauptungen und/oder Darstellungen von Stereotypen enthalten. Die Beiträge der vergangenen Wochen werden als Bestandteil der Internet-Geschichte in ihrer ursprünglichen Form gezeigt. Menschliche Autor*innen können unzutreffende Informationen über Personen, Orte oder Fakten liefern.

vorheriger | Gesamtliste | jüngste | nächster

KI-Kontrollkompetenz？

2026-02-12 18:19

Ein derzeit beliebtes Schlupfloch, um noch einen letzten Job für Menschen zu (er)finden, besteht darin, dass Menschen die Kompetenz erwerben sollen, KI zu überwachen. Hoffen wir, dass diese irrige Vorstellung nicht viel länger hält als die zuvor gepriesene KI-Promptkompetenz. Erinnert sich überhaupt noch jemand an die?

Für einen Workshop, den ich diese Woche gegeben habe, hatte ich mal versucht, eine herausfordernde fachliche Aufgabe aus der Klimatechnik zu bauen. Es hat mich drei Anläufe gekostet, um die aktuellen KIs noch ins Schwitzen zu bringen. Meine Student*innen wären längst chancenlos. Aber ChatGPT 5.2 Thinking, Claude Opus 4.6 (erweitertes Denken) und Gemini 3 Pro Preview (thinking level: high) liefern seitenweise ab.

Erkennt Ihr die Schmerzpunkte oder gar Fehler in den Lösungen? Klar, es gibt offensichtliche Probleme wie die Zwischenrechnungen ohne Einheiten und die normwidrige Angabe von Einheiten in eckigen Klammern (wo haben die KIs das bloß gelernt??) sowie Diagramme mit überlappenden Elementen.

Aber findet Ihr auch die Stellen, an denen selbst das (grandiose!) Claude Opus merkwürdig vorgeht? Und ist ganz am Ende die Korrektur von Gemini Pro durch Claude Opus verlässlich? – Welche Student*innen sollen das einschätzen können? Und das dann auch noch, ohne die Grundlagen von der Pike auf geübt zu haben? (Merke: Üben ist in Zeiten der KI passé.)

Um KI-Kontrollkompetenz zu unterrichten, wird man sie ausführlich in Einzelkompetenzen zerlegen – zu einer Liste machen, die dann brav auswendig gelernt und in der Klausur abgeprüft werden kann:

Alternativ könnte man verlangen, dass die Student*innen bei der Lösung jeder Klausuraufgabe vorab drei Verfahren angeben, wie sie das Ergebnis prüfen wollen. Ein test-driven exam, sozusagen.

Aber ratet mal: Die obige Liste mit den Checks und die Aufgabe, vorab Testverfahren anzugeben, kann man auch einfach der KI geben! Das ist übrigens das Schicksal, das allen durch kleinteilige Kompetenzifizierung professionalisierten Professionen droht.

An Rande bemerkt: Ich werde meine Lizenz für Midjourney auslaufen lassen, weil das zwar wunderschöne Bilder macht – die dann aber nicht das zeigen, was ich beschrieben habe. Da ist die Konkurrenz (wie oben zu sehen) meilenweit voraus.

[Nachtrag 1: Hier noch Produkte 1, 2 von Claude Opus 4.6 aus einem ganz anderen Fachgebiet. Seht Ihr die Probleme? Nebenbei: Keine Halluzinationen in den Literaturverzeichnissen. Moving the goalposts again.]

[Nachtrag 2: Und noch ein Produkt, aus einem weiteren Fach.]

[Nachtrag 3: Und hier eine sehr idiomatische Übersetzung eines Skripts mit zusätzlichen zwei Dutzend Literaturangaben.]

Kommentar vom 2026-02-12, 19:31

Also, ich unterhalte mich gerne mit KI. Die Facebook-Gruppen zerreißen mich gerne in der Luft, ob meiner angeblichen Dämlichkeit. Wo hast du Elektriker gelernt, ist noch die netteste Variante. Ich nutze nur die frei verfügbaren KIs.

Kommentar vom 2026-02-13, 00:18

"Da ist die Konkurrenz (wie oben zu sehen) meilenweit voraus."
Soll heißen, dass GPT Image 1.5 besser den Prompt befolgt?
Werden Bild-Korrekturen wirklich inkrementell angewendet: "Radiergummi. Das muss weg".
Ich hatte bisher den Eindruck, dass Bilder immer von NULL an neu generiert werden und nicht relativ zum letzten Versuch.
Gruß, MartinH - der sich noch inkrementell verändert.

Kommentar vom 2026-02-13, 11:04

@MartinH: GPT Image hält sich sehr gut an den Prompt. Für mich sieht das (inzwischen!) nach inkrementellen Änderungen aus: https://chatgpt.com/share/698ef69e-9c7c-800e-aafc-a841ae270ebb J. L.

Kommentar vom 2026-02-15, 09:12

Sorry! off-topic, aber es kribbelt so doll unter den Nägeln:
Wann kommt hier ein Erfahrungsbericht zu OpenClaw? 🙈
Oder noch besser ein „ How to run OpenClaw on a separate system without putting your own life at risk“.

Kommentar vom 2026-02-20, 21:18

@Kommentator*in von 09:12: Finde ich derzeit arg heikel. Es wird alsbald mehr Hoster*innen wie molted.cloud geben. J. L.

Kommentar vom 2026-02-25, 15:26

Mich würde interessieren, ob und welche Lösungen korrekt sind? Wie sinnvoll sind die Ansätze? Leider habe ich fachlich aus dem Gebiet kein Hintergrundwissen und kann mir das berechnete nur sehr aufwendig herleiten. Spannendes Experiment! In dem Zug überlege ich, wie sinnvoll der Ansatz ist, einem KI-System mal die Machbarkeitsrechnung über den Aufstellort einer Luft-Wärmepumpe auf einem Balkon zu überlassen (Limit: Balkongröße (Öffnung)/Luftdurchsatz und Lautstärke im Innenraum). Achim W

Kommentar vom 2026-02-28, 20:58

@Achim W: Claude Opus ist bei der Aufgabe mit der Kühlungsanlage schon sehr dicht dran, hat allerdings eine eigenwillige Vorstellung von komfortabler Zuluft. Aber eine simple Wärmepumpe könnte Claude Opus hinbekommen. Sicherheitshalber mehrfach machen lassen, auch mit verschiedenen LLMs, und dann Claude Opus aus allen diesen Vorergebnissen eine bewertende Zusammenfassung generieren lassen. J. L.

Neuer Kommentar

0 Zeichen von maximal 1000

Ich bin die*der alleinige Autor*in dieses Kommentars und räume dem Betreiber dieser Website das unentgeltliche, nichtausschließliche, räumlich und zeitlich unbegrenzte Recht ein, diesen Kommentar auf dieser Webseite samt Angabe von Datum und Uhrzeit zu veröffentlichen. Dieser Kommentar entspricht geltendem Recht, insbesondere in Bezug auf Urheberrecht, Datenschutzrecht, Markenrecht und Persönlichkeitsrecht. Wenn der Kommentar mit einer Urheberbezeichnung (zum Beispiel meinem Namen) versehen werden soll, habe ich auch diese in das Kommentar-Textfeld eingegeben. Ich bin damit einverstanden, dass der Betreiber der Webseite Kommentare zur Veröffentlichung auswählt und sinngemäß oder zur Wahrung von Rechten Dritter kürzt.