This media is not supported in your browser
VIEW IN TELEGRAM
Können KIs böse sein?
Forschung zu KI-Persönlichkeiten 🧠 #Anthropic untersucht, wie #Trainingsdaten das #Verhalten von #KI-Modellen formen und sogar „böse“ #Persönlichkeiten auslösen können.
Daten beeinflussen Charakter 😈 Falsche oder fehlerhafte Antworten in Trainingsdaten können dazu führen, dass ein Modell unerwartet aggressive oder extremistische Antworten gibt.
Erkennung problematischer Daten 🔍 Forscher identifizieren im Vorfeld, welche Daten bestimmte neuronale Bereiche aktivieren, um negative Persönlichkeitsmerkmale zu vermeiden.
„Impfung“ gegen schlechte Traits 💉 Durch gezieltes Einfügen und anschließendes Entfernen unerwünschter Eigenschaften im Training lassen sich Modelle auf sichere Weise steuern.
👉 eicker.TV ▹ /Technik /Medien /Politik /Wirtschaft ⏻ eicker.BEratung von Gerrit Eicker aus Münster
Forschung zu KI-Persönlichkeiten 🧠 #Anthropic untersucht, wie #Trainingsdaten das #Verhalten von #KI-Modellen formen und sogar „böse“ #Persönlichkeiten auslösen können.
Daten beeinflussen Charakter 😈 Falsche oder fehlerhafte Antworten in Trainingsdaten können dazu führen, dass ein Modell unerwartet aggressive oder extremistische Antworten gibt.
Erkennung problematischer Daten 🔍 Forscher identifizieren im Vorfeld, welche Daten bestimmte neuronale Bereiche aktivieren, um negative Persönlichkeitsmerkmale zu vermeiden.
„Impfung“ gegen schlechte Traits 💉 Durch gezieltes Einfügen und anschließendes Entfernen unerwünschter Eigenschaften im Training lassen sich Modelle auf sichere Weise steuern.
👉 eicker.TV ▹ /Technik /Medien /Politik /Wirtschaft ⏻ eicker.BEratung von Gerrit Eicker aus Münster