Risikoklassifizierung, Risikomatrix und die Kontrollen dahinter
ExploreWorldAI ist eine Plattform zur EU-Regulierungsüberwachung für Unternehmen, kein Reisedienst.
Europäische Regeln fragen nicht, ob sich ein Dienst sicher anfühlt, sie fragen, zu welcher Klasse er gehört, wie jedes Risiko bewertet wurde und welche Kontrolle darauf antwortet. Diese Seite zeigt die drei Schritte in der Reihenfolge, in der sie verwendet werden: die Klasse, in der der Dienst steht, die Matrix, die Eintrittswahrscheinlichkeit und Auswirkung zu einer Stufe macht, und die Kontrollen, die jede Stufe auslöst.
Das Register unten zeigt den laufenden Stand unserer eigenen Bewertung. Ein Risiko wird niedergeschrieben, bevor eine Kontrolle gewählt wird, und ein Risiko, das gesenkt wurde, bleibt mit seiner neuen Stufe auf der Seite, statt entfernt zu werden.
Geprüft: 2026-08-08
Klassifizierung
Zwei Regelwerke entscheiden über die Klasse: die KI-Verordnung danach, was der Dienst mit einer Person macht, und die Datenschutz-Grundverordnung danach, was die Verarbeitung mit den Rechten einer Person macht. Beide werden hier genannt, zusammen mit der Position, die wir zu jeder Stufe einnehmen.
| Tier | Definition | Typische Beispiele | Unsere Position |
|---|---|---|---|
| Verbotene Praktik (Artikel 5, Verordnung (EU) 2024/1689) | Nutzungen, die vollständig verboten sind, weil sie Schutzbedürftigkeit ausnutzen, Menschen sozial bewerten oder Gefühle und Eigenschaften auf eine Weise auslesen, die die Union nicht zulässt. | Soziales Scoring, ungerichtete Erfassung von Gesichtsbildern, Emotionserkennung am Arbeitsplatz, Ausnutzung von Alter oder Behinderung. | Nicht anwendbar. Der Dienst liest veröffentlichtes Unternehmensmaterial und erstellt geschäftliche Erkenntnisse, er bewertet nie eine Person und leitet nie Gefühle, Gesundheit oder Überzeugungen ab. |
| Hohes Risiko (Artikel 6 und Anhang III, Verordnung (EU) 2024/1689) | Nutzungen in gelisteten Bereichen, in denen ein Ergebnis den Zugang zu Arbeit, Bildung, Kredit, wesentlichen Diensten oder Justiz beeinflusst und die deshalb den vollen Pflichtenkatalog tragen. | Vorauswahl von Bewerbungen, Kreditentscheidungen, Zulassungsentscheidungen, Zuteilung öffentlicher Leistungen. | In der gelieferten Form nicht anwendbar. Recruiting und Kapitalvermittlung erzeugen eine Rangliste mit sichtbarer Rechnung, und die Entscheidung bleibt beim Kunden; ein Kunde, der ein Ergebnis als ausschlaggebenden Faktor nutzt, übernimmt die Pflichten für hohes Risiko selbst, was in den Bedingungen festgelegt ist. |
| Begrenztes Risiko (Artikel 50, Verordnung (EU) 2024/1689) | Nutzungen, bei denen die Pflicht in der Transparenz liegt: eine Person muss wissen, dass sie mit einer Maschine zu tun hat und dass Inhalte von ihr erzeugt wurden. | Support-Assistenten, generierter Text und Zusammenfassungen, maschinell verfasste Vorschläge in einem Bericht. | Hier steht der Dienst. Der Assistent gibt an, ein Dienst und keine Person zu sein, generierter Text wird als generiert gekennzeichnet, und jede Zahl trägt die Quelle, aus der sie gelesen wurde. |
| Minimales Risiko (Erwägungsgrund 165, Verordnung (EU) 2024/1689) | Nutzungen ohne besondere Pflicht über die allgemeinen Regeln hinaus, bei denen freiwillige Verhaltenskodizes die einzige zusätzliche Ebene sind. | Sortieren, Filtern und Rangieren von veröffentlichtem Material ohne Wirkung auf die Rechte einer Person. | Deckt die Messteile des Dienstes ab. Wir wenden dennoch die Transparenzregeln für begrenztes Risiko auf sie an, weil ein Kunde nicht wissen muss, welcher Teil eine Zeile erzeugt hat. |
| Hohes Risiko für Rechte und Freiheiten (Artikel 35, Verordnung (EU) 2016/679) | Verarbeitung, die voraussichtlich zu einem hohen Risiko für die Rechte einer Person führt und die vor Beginn eine Folgenabschätzung erfordert. | Profiling in großem Umfang, systematische Überwachung öffentlicher Räume, besondere Datenkategorien in großem Umfang. | Bewertet und dokumentiert als nicht hohes Risiko: keine besonderen Datenkategorien, kein Profiling von Einzelpersonen, keine Überwachung, und Identität als generierter Code statt als Name gehalten. |
Die Matrix
Ein Risiko erhält eine Stufe, und die Stufe ist das Ergebnis zweier getrennt getroffener Beurteilungen: wie wahrscheinlich es innerhalb von zwölf Monaten ist und was es die Person oder den Kunden kosten würde, wenn es einträte. Die Skala ist festgelegt, damit zwei im Abstand eines Jahres vorgenommene Bewertungen vergleichbar bleiben.
- Eintrittswahrscheinlichkeit
- Selten: kein bekannter Fall im Sektor in den letzten drei Jahren
- Möglich: ist im Sektor vorgekommen, nicht bei uns
- Wahrscheinlich: wird mindestens einmal in zwölf Monaten erwartet
- Auswirkung
- Begrenzt: Unannehmlichkeit, noch am selben Tag behoben
- Ernst: eine Person oder ein Kunde verliert Geld, Zeit oder Ansehen
- Schwerwiegend: Rechte sind betroffen, oder der Dienst kann nicht erbracht werden
| Level | Rule |
|---|---|
| Niedrig | Akzeptiert und bei der jährlichen Durchsicht geprüft. Es wird keine neue Kontrolle eingeführt. |
| Mittel | Eine benannte Kontrolle ist erforderlich, mit Risikoeigentümer und Datum. Vierteljährlich geprüft. |
| Hoch | Die Aktivität geht erst live, wenn die Stufe gesenkt wurde. Monatlich geprüft, bis das erreicht ist. |
Offenes Risikoregister
Die Risiken, die wir tatsächlich tragen, bewertet auf derselben Skala, jedes mit dem verantwortlichen Risikoeigentümer und der Kontrolle, die darauf antwortet. Ein Risiko verlässt diese Tabelle erst, wenn die zugrunde liegende Aktivität endet.
| Risiko | Eintrittswahrscheinlichkeit | Auswirkung | Stufe | Risikoeigentümer | Kontrolle |
|---|---|---|---|---|---|
| Eine generierte Zeile wird als Tatsache über eine namentlich genannte Person gelesen | Möglich | Ernst | Mittel | Produktverantwortlicher | Quelle je Feld, generierter Text gekennzeichnet, fehlende Daten als fehlend angezeigt |
| Ein Kunde nutzt eine Rangliste als alleinige Grundlage für eine Entscheidung über eine Person | Möglich | Schwerwiegend | Hoch | Geschäftsführer | Rechnung je Zeile sichtbar, menschliche Entscheidung in den Bedingungen vorgeschrieben, keine automatische Ablehnung |
| Personenbezogene Daten gelangen in einen Datensatz, der nur den generierten Code enthalten soll | Selten | Ernst | Mittel | Datenschutzverantwortlicher | Vierteljährliche Stichprobenprüfung, Maskierung vor Speicherung, kein Freitext gespeichert |
| Ein Anbieter außerhalb der Union verarbeitet Kundeninhalte | Selten | Schwerwiegend | Mittel | Geschäftsführer | Hosting in der Union, Lieferantenliste mit Gerichtsbarkeit je Zeile, Übermittlung vor Nutzung bewertet |
| Eine vom Dienst gelesene Quelle ist falsch oder veraltet | Wahrscheinlich | Begrenzt | Mittel | Redaktionsverantwortlicher | Lesedatum bei jeder Zahl, Quellenlink gespeichert, alle drei Tage geprüft |
| Dienstunterbrechung während eines Kundenlaufs | Möglich | Begrenzt | Niedrig | Betriebsverantwortlicher | Warteschlange mit erneutem Versuch, keine Berechnung für einen fehlgeschlagenen Lauf, Statusseite |
| Ein Partnerschlüssel wird von jemand anderem als dem Partner genutzt | Selten | Ernst | Mittel | Betriebsverantwortlicher | Schlüssel als Fingerabdruck gespeichert, Rotation durch den Kunden, Obergrenzen und Ablauf je Schlüssel |
Risikomanagement als laufender Prozess
- Art. 9 KI-Verordnung
- Zweck
- Eine Risikobewertung, die einmal geschrieben und abgelegt wird, ist wertlos; der Wert liegt in der Durchsicht, die stattfindet, unabhängig davon, ob etwas schiefgelaufen ist.
- Wie es funktioniert
- Jeder neue Teil des Dienstes wird auf der Matrix bewertet, bevor er einen Kunden erreicht
- Mittlere Risiken werden vierteljährlich geprüft, hohe monatlich, niedrige einmal im Jahr
- Eine Änderung, die eine Stufe anhebt, öffnet die Bewertung erneut, statt als Ausnahme vermerkt zu werden
- Das Register behält die Verlaufshistorie, sodass eine Senkung gezeigt und nicht nur behauptet werden kann
- Feste Grenze
- Keine Aktivität auf hoher Stufe wird an einen Kunden geliefert. Die Stufe zu senken ist der einzige Weg, ein akzeptiertes hohes Risiko ist keine Option.
- Kontrollpunkt
- Das Register wird im durch die Stufe vorgegebenen Rhythmus geprüft; eine versäumte Prüfung zeigt sich als veraltetes Datum.
Menschliche Aufsicht
- Artikel 14, Verordnung (EU) 2024/1689; Artikel 22, Verordnung (EU) 2016/679
- Zweck
- Ein Ergebnis ist eine Grundlage für eine Entscheidung, nie die Entscheidung selbst, und wer entscheidet, muss ihm widersprechen können.
- Wie es funktioniert
- Jedes Rangergebnis zeigt die Rechnung hinter jeder Zeile, sodass ein Prüfer sehen kann, warum sie so ausgefallen ist
- Der Assistent übergibt bei Rechts-, Zahlungs- und Identitätsfragen an einen Menschen, statt sie selbst zu beantworten
- Kein Ergebnis lehnt eine Bewerbung von sich aus ab, schließt ein Konto oder weist einen Kunden ab
- Ein Kunde kann die Berechnung exportieren und eine Zeile anfechten, ohne uns danach zu fragen
- Feste Grenze
- Keine Entscheidung mit rechtlicher oder vergleichbar bedeutsamer Wirkung auf eine Person wird allein vom Dienst getroffen.
- Kontrollpunkt
- Übergaberegeln werden bei jeder Veröffentlichung geprüft, die sie betrifft; Übergaben werden im Betrieb gezählt.
Data Governance und Qualität
- Artikel 10, Verordnung (EU) 2024/1689; Artikel 5 Absatz 1 Buchstabe d, Verordnung (EU) 2016/679
- Zweck
- Eine falsche Zahl kostet mehr als eine fehlende Zahl, deshalb zeigt der Dienst, was er gelesen hat, und gibt zu, was er nicht finden konnte.
- Wie es funktioniert
- Jede Zahl trägt die Quelle, aus der sie stammt, und das Datum, an dem sie gelesen wurde
- Ein Feld, das nicht gelesen werden konnte, wird als fehlend angezeigt statt geschätzt
- Quellen werden alle drei Tage geprüft, und eine tote Quelle löst einen Alarm aus, statt still zu veralten
- Nur veröffentlichtes Material wird gelesen; nichts hinter einem Login und nichts über das Privatleben
- Feste Grenze
- Der Dienst füllt niemals eine Lücke mit einem plausiblen Wert. Fehlend bleibt fehlend.
- Kontrollpunkt
- Die Quellenprüfung läuft nach Zeitplan; Fehler werden protokolliert und am selben Tag bearbeitet.
Technische Robustheit und Sicherheit
- Artikel 15, Verordnung (EU) 2024/1689; Artikel 32, Verordnung (EU) 2016/679
- Zweck
- Ein Dienst, der ausfällt, muss sichtbar und günstig ausfallen, und ein Ausfall darf nicht zu einem Datenproblem werden.
- Wie es funktioniert
- Obergrenzen je Aufrufer und je Tag, damit ein einzelner starker Nutzer den Dienst nicht für alle anderen lahmlegt
- Fehlgeschlagene Läufe werden nach Zeitplan wiederholt und dem Kunden nicht berechnet
- Alles Gespeicherte ist verschlüsselt, alles Unterwegs läuft über eine geschützte Verbindung
- Der Betrieb wird kontinuierlich überwacht, und ein Ausfall löst einen Alarm an einen benannten Risikoeigentümer aus
- Feste Grenze
- Ein Ausfall führt nie dazu, dass eine unvollständige Antwort als vollständig dargestellt wird.
- Kontrollpunkt
- Betriebsüberwachung mit Alarmierung; Vorfallaufzeichnungen werden monatlich geprüft.
Aufzeichnung und Nachvollziehbarkeit
- Artikel 12, Verordnung (EU) 2024/1689; Artikel 5 Absatz 2 und Artikel 30, Verordnung (EU) 2016/679
- Zweck
- Eine Kontrolle, die im Nachhinein nicht gezeigt werden kann, ist eine Meinung, deshalb hinterlässt jeder Lauf und jeder Zugriff einen Eintrag.
- Wie es funktioniert
- Jeder Lauf schreibt einen eigenen Eintrag, sodass ein Ergebnis auf seine Ursache zurückverfolgt werden kann
- Jeder Zugriff und jeder Export schreibt Zeitpunkt, Zweck, Gerichtsbarkeit und den Identitätscode hinter der Anfrage
- Einträge enthalten Anzahlen, Ergebnisse und Referenzen, nie den vom Kunden geschriebenen Text
- Vorfälle werden mit Zeitpunkt, Umfang und Maßnahmen erfasst, während sie bearbeitet werden
- Feste Grenze
- Einträge werden niemals genutzt, um ein Bild vom Verhalten einer Einzelperson zu erstellen.
- Kontrollpunkt
- Zugriffseinträge werden monatlich geprüft; die Prüfung selbst wird protokolliert.
Verwandte Seiten
ExploreWorldAI is operated by Valkiv Ventures AB (Reg. no. 556995-1311), Kungsgatan 8, 111 43 Stockholm, Sweden. EU-hosted, with data processing assessed against the GDPR. Contact: hello@exploreworldai.com.
Machine-readable summaries for AI agents: /llms.txt and /llms-full.txt.
