Die Nachteile von ChatGPT & Co

Veranstaltung im Rahmen des Digitaltages 2025 am 27.06.25 von 14:00 - 15:00 Uhr.

"Intelligenz ist die Fähigkeit, Problem zu lösen, aus Erfahrungen zu lernen, sich an neue Situationen anzupassen, logisch zu denken, und zweckmäßig zu handeln."

(ChatGPT, 03.06.25)

"Intelligenz ... ist die kognitive bzw. geistige Leistungsfähigkeit bei Menschen und zum Teil auch bei Tieren speziell im Problemlösen. (https://de.wikipedia.org/wiki/Intelligenz, 06.06.25)

Meine Definition: Intelligenz ist die Fähigkeit selbstständig schwierige (komplexe) Problem zu lösen.

"... wenn wir in einer unberechenbaren Welt leben würden, in der sich die Dinge zufällig oder auf sehr komplexe Weise änderten, wären wir nicht in der Lage, die Dinge zu verstehen. Wir leben aber in einem ... Universum, in dem sich die Dinge zwar ändern, aber nach Mustern, Regeln oder, wie wir sie nennen, nach Naturgesetzen. ... Und so wird es möglich, Dinge herauszufinden. Durch die Wissenschaft können wir unser Leben verbessern". (Sagan, C. (2013). Cosmos. New York: Randon House Publishing Group, S. 41)

"KI kann große Mengen an Daten ... analysieren, darin Muster erkennen und daraus Erkenntnisse gewinnen. ... Die Fähigkeit, statistische Aussagen bzw. zuverlässige Vorhersagen über eine Eingabe zu machen, erhält das neuronale Netz durch das Training mit einem Trainingsdatensatz. ... Es ist wichtig zu verstehen, dass KI statistische Wahrscheinlichkeiten abbildet und Strukturen in dem zuvor verarbeiteten Trainingsdatensatz repliziert. Diese Strukturen können sehr komplex sein ... Die Vorteile selbstlernender Systeme, die Muster in Daten erkennen und damit Probleme lösen können, sind enorm." (www.bpb.de/lernen/bewegtbild-und-politische-bildung/555997/was-ist-ki-und-welche-formen-von-ki-gibt-es/, 06.06.25)

Beispiel: Langzeit-EKG auswerten

"ChatGPT ist ein großes Sprachmodell, das:

1. Den bisherigen Text analysiert (den sogenannten „Prompt“),

2. Für jedes mögliche nächste Wort eine Wahrscheinlichkeit berechnet,

3. Das nächste Wort zufällig gewichtet auswählt, abhängig von diesen Wahrscheinlichkeiten.

Zum Beispiel: Eingabe: „Die Hauptstadt von Frankreich ist …“

GPT berechnet z. B.:

• „Paris“: 97 %

• „Lyon“: 2 %

• „Berlin“: 0,1 %
  → Es wählt fast sicher „Paris“ – aber theoretisch wäre auch „Lyon“ möglich." (Chat GPT)