Zum Inhalt springen
Alle Systeme betriebsbereitKI-GlossarRegion Oberfrankenhostspezial.de
09571 873149 KI-Schnellcheck →
← Zurück zur Übersicht Grundlagen

Wann Fine-Tuning zum GPAI-Anbieter macht: die Drittel-Regel der Kommission, nachgerechnet

Seit dem 2. August 2026 kann die Kommission Bußgelder gegen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck verhängen. Wer ein offenes Modell nachtrainiert, wird nach ihren Leitlinien erst Anbieter, wenn das Training mehr als ein Drittel der Rechenleistung des Ausgangsmodells kostet. Wir rechnen das für Llama 3.1 70B und Qwen3-32B nach, zeigen einen Entscheidungsbaum und sagen, welche Pflichten die Regel nicht berührt.

Kategorie GrundlagenStand 31.10.2026Lesezeit 20 Min.Quellen 8 Primärbelege
Das Wichtigste in Kürze
  • Ein nachgelagerter Modifizierer wird nach den Leitlinien der Kommission erst dann Anbieter des veränderten GPAI-Modells, wenn die Veränderung mehr als ein Drittel der Trainingsrechenleistung des Ausgangsmodells verbraucht.
  • Ein Voll-Fine-Tuning von Llama 3.1 70B mit 500 Millionen Tokens kostet nach der Leitlinienformel 6·P·D rund 2,1·10^20 FLOP, ein Zehntausendstel der Drittel-Schwelle von rund 2,1·10^24 FLOP.
  • Die Ersatzschwelle von rund 3,3·10^22 FLOP gilt nur, wenn die Rechenleistung des Ausgangsmodells weder bekannt noch schätzbar ist, und liegt bei Llama 3.1 70B und Qwen3-32B sechzig- bis siebzigmal niedriger als das echte Drittel.
  • Die Open-Source-Ausnahme nach Art. 53 Abs. 2 AI Act erlässt technische Dokumentation und Integratoren-Informationen, nicht aber Urheberrechtsstrategie und Trainingsdaten-Zusammenfassung.
  • Die Bußgeldvorschrift für GPAI-Anbieter (Art. 101: bis 15 Mio. Euro oder 3 % des Jahresumsatzes) gilt seit dem 2. August 2026; Pflichten für das KI-System bleiben unabhängig von der Drittel-Regel bestehen.
KI-Transparenzhinweis: Dieser Beitrag wurde teilweise mit Unterstützung von KI-Systemen erstellt und vor der Veröffentlichung redaktionell geprüft. Kennzeichnung gemäß EU-KI-Verordnung (Verordnung (EU) 2024/1689).

/01Was sich seit dem 2. August 2026 für GPAI-Anbieter geändert hat

Die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) gelten seit dem 2. August 2025; so steht es in Artikel 113 Buchstabe b der Verordnung (EU) 2024/1689. Derselbe Buchstabe nimmt aber Artikel 101 aus, die Bußgeldvorschrift für GPAI-Anbieter. Sie gilt erst mit dem allgemeinen Geltungsbeginn am 2. August 2026. Seit diesem Tag kann die Kommission gegen GPAI-Anbieter Geldbußen bis 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes verhängen, je nachdem, welcher Betrag höher ist. Die Kommission schreibt in ihren Leitlinien selbst, dass sie ab dem 2. August 2026 Verstöße aller Anbieter, die dann nicht vollständig nachkommen, mit Geldbußen durchsetzen wird (Randnummer 112).

Drei Texte bestimmen heute, wer betroffen ist. Erstens der AI Act selbst mit den Begriffen in Artikel 3 und den Pflichten in Artikel 53 bis 55. Zweitens die Leitlinien der Kommission zum Umfang der GPAI-Pflichten: inhaltlich am 18. Juli 2025 veröffentlicht, als förmliche Mitteilung C(2025) 7719 vom 19. November 2025 in allen Amtssprachen abrufbar. Drittens die Digital-Omnibus-Verordnung (EU) 2026/1744 vom 8. Juli 2026, im Amtsblatt am 24. Juli 2026. Sie verschiebt Hochrisiko-Fristen und verlagert Aufsicht zum Büro für Künstliche Intelligenz, lässt die Artikel 51 bis 55, 101 und Artikel 111 Absatz 3 nach unserer Durchsicht des Änderungsteils aber unverändert.

Für den Mittelstand ist eine Frage aus diesen Texten praktisch: Wer ein offenes Modell mit eigenen Daten nachtrainiert, wird er dadurch selbst Anbieter eines GPAI-Modells? Der Bestandsartikel GPAI-Pflichten 2026 hat die Rollen Anbieter und Betreiber eingeführt. Dieser Beitrag geht eine Ebene tiefer, an die Stelle, an der die Kommission eine Zahl nennt: ein Drittel der Trainingsrechenleistung. Die Zahl lässt sich nachrechnen, und genau das tun wir.

Hinweis: Dieser Beitrag ist keine Rechtsberatung. Er gibt den Wortlaut der Verordnung und die Auslegung der Kommission wieder. Die Leitlinien binden die Kommission in ihrer Verwaltungspraxis, verbindlich auslegen kann den AI Act nur der Europäische Gerichtshof.

/02Zwei Schranken: Modifizierer und Inverkehrbringen

Wer ein Fine-Tuning plant, muss zwei Fragen getrennt beantworten. Erst wenn beide mit Ja ausgehen, ist er Anbieter eines GPAI-Modells mit den Pflichten aus Artikel 53.

Schranke 1: Ist die Veränderung groß genug? Der AI Act sagt in Erwägungsgrund 97, dass GPAI-Modelle „weiter geändert oder zu neuen Modellen verfeinert werden“ können. Wann der Verändernde dadurch Anbieter wird, sagt die Verordnung nicht. Die Kommission füllt die Lücke: Nicht jede Veränderung soll zum Anbieterwechsel führen (Randnummer 58), sondern nur eine, die die allgemeine Verwendbarkeit, die Fähigkeiten oder das systemische Risiko signifikant ändert (Randnummer 59). Als Richtkriterium dafür nennt sie die Rechenleistung der Veränderung. Dazu mehr in Abschnitt /03.

Schranke 2: Wird das Modell in Verkehr gebracht? Anbieter ist nach Artikel 3 Nummer 3, wer ein Modell entwickelt und es „unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt“ – entgeltlich oder unentgeltlich. Inverkehrbringen heißt nach Nummer 9 die erstmalige Bereitstellung auf dem Unionsmarkt. Die Leitlinien zählen in Randnummer 51 die Wege auf: Download aus einem öffentlichen Repository wie Hugging Face, Programmierschnittstelle, Cloud-Dienst, Kopie auf die Infrastruktur eines Kunden, Einbau in einen Chatbot oder eine App.

Der Punkt, den viele übersehen, steht am Ende dieser Liste. Auch die rein interne Nutzung kann ein Inverkehrbringen sein, wenn das Modell für interne Prozesse verwendet wird, „die für die Bereitstellung eines Produkts oder einer Dienstleistung für Dritte von wesentlicher Bedeutung sind oder die Rechte natürlicher Personen in der Union berühren“. Das greift Erwägungsgrund 97 auf: Die Modellpflichten sollen nicht gelten, wenn ein eigenes Modell für rein interne Verfahren genutzt wird, die für Leistungen an Dritte nicht wesentlich sind und die Rechte natürlicher Personen nicht beeinträchtigen. Ein internes Modell, das Kundenanfragen beantwortet oder Bewerbungen vorsortiert, fällt nicht mehr unter diese Ausnahme.

In der Praxis entscheidet aber fast immer Schranke 1. Wer unter der Drittel-Schwelle bleibt, wird nicht Anbieter des veränderten Modells – egal, wie er es verteilt. Anbieter des Modells bleibt der ursprüngliche Hersteller.

/03Die Drittel-Regel: was die Kommission rechnet

Randnummer 60 der Leitlinien lautet: Als Richtkriterium gilt, dass ein nachgelagerter Modifizierer Anbieter wird, wenn „die für die Veränderung benötigte Trainingsrechenleistung mehr als ein Drittel der Trainingsrechenleistung des ursprünglichen Modells beträgt“. Gemessen wird in Gleitkommaoperationen (FLOP). Die Kommission begründet die relative Schwelle damit, dass der Rechenaufwand einer Veränderung mit der Zahl der Parameter wächst; kleine Modelle sollen nicht benachteiligt werden (Randnummer 63).

Kennt der Modifizierer die Rechenleistung des Ausgangsmodells nicht und kann sie auch nicht schätzen, gilt ein Ersatzwert (Randnummer 61):

  • Ausgangsmodell ohne systemisches Risiko: ein Drittel von 1023 FLOP, also rund 3,3·1022 FLOP. 1023 FLOP ist das Richtkriterium, ab dem die Kommission ein Modell, das Sprache, Bilder oder Video erzeugt, überhaupt als GPAI-Modell ansieht (Randnummer 17).
  • Ausgangsmodell mit systemischem Risiko: ein Drittel von 1025 FLOP, der Vermutungsschwelle aus Artikel 51 Absatz 2.

Für die Schätzung gibt der Anhang der Leitlinien zwei Wege vor. Hardwarebasiert: Zahl der GPU-Einheiten mal Laufzeit in Sekunden mal theoretische Spitzenleistung mal mittlere Auslastung (Randnummer 124). Architekturbasiert für große dichte Transformer: C ≈ 6 · P · D, P ist die Parameterzahl, D die Zahl der Trainings-Tokens (Randnummer 129). Alle Operationen zählen gleich, unabhängig von der Rechengenauigkeit (Randnummer 122). Eine Abweichung von bis zu 30 % gilt als vertretbar, wenn Annahmen und Methode dokumentiert sind (Randnummer 120).

Was „Trainingsrechenleistung“ umfasst, regelt Randnummer 115: Bei Modellen ohne systemisches Risiko die Rechenleistung, die direkt zu Parameteraktualisierungen beiträgt. Randnummer 119 nimmt einiges aus, etwa Rechenzeit für Evaluierung und Red-Teaming oder das Training eines Lehrermodells bei der Destillation. Umgekehrt zählt nach Randnummer 118 beim Model Merging das Training der kombinierten Gewichte mit, und nach Randnummer 117 bei nicht öffentlichen synthetische Daten auch die Rechenzeit für verworfene Beispiele.

Die Kommission schreibt selbst, dass derzeit wenige Veränderungen das Kriterium erreichen dürften und es „in erster Linie zukunftsorientiert“ sei (Randnummer 64). Wie wenige, zeigt die Rechnung im nächsten Abschnitt.

/04Nachgerechnet: Fine-Tuning auf 32B und 70B

Zwei offene Modelle mit belegten Eckdaten. Llama 3.1 70B: laut Modellkarte von Meta vortrainiert auf „~15 trillion tokens“, Rechenzeit 7,0 Millionen GPU-Stunden auf H100-80GB. Qwen3-32B: laut Modellkarte 32,8 Milliarden Parameter, Lizenz Apache 2.0; laut Qwen-Blog wurde Qwen3 auf „approximately 36 trillion tokens“ vortrainiert. Ob jedes Modell der Familie die volle Menge gesehen hat, sagt der Blog nicht ausdrücklich – wir rechnen damit und kennzeichnen es.

# Drittel-Regel nach Leitlinien C(2025) 7719, Rn. 60 und 129 (C ≈ 6·P·D)
python3 - <<'EOF'
basis = {
    "Llama 3.1 70B": (70e9, 15e12),    # Modellkarte: 70B, ~15T Tokens
    "Qwen3-32B":     (32.8e9, 36e12),  # Modellkarte 32,8B; Blog: ~36T (Familie)
}
laeufe = [5e7, 5e8, 2e9]               # Fine-Tuning-Tokens (Tokens x Epochen)
for name, (p, d) in basis.items():
    drittel = 6 * p * d / 3
    print(f"{name}: Basis {6*p*d:.1e} FLOP, Drittel {drittel:.1e}")
    for t in laeufe:
        c = 6 * p * t
        print(f"  {t:.0e} Tokens -> {c:.1e} FLOP = {c/drittel:.1e} des Drittels")
    print(f"  Schwelle erst bei {drittel/(6*p):.1e} Tokens")
EOF

# Ausgabe
Llama 3.1 70B: Basis 6.3e+24 FLOP, Drittel 2.1e+24
  5e+07 Tokens -> 2.1e+19 FLOP = 1.0e-05 des Drittels
  5e+08 Tokens -> 2.1e+20 FLOP = 1.0e-04 des Drittels
  2e+09 Tokens -> 8.4e+20 FLOP = 4.0e-04 des Drittels
  Schwelle erst bei 5.0e+12 Tokens
Qwen3-32B: Basis 7.1e+24 FLOP, Drittel 2.4e+24
  5e+07 Tokens -> 9.8e+18 FLOP = 4.2e-06 des Drittels
  5e+08 Tokens -> 9.8e+19 FLOP = 4.2e-05 des Drittels
  2e+09 Tokens -> 3.9e+20 FLOP = 1.7e-04 des Drittels
  Schwelle erst bei 1.2e+13 Tokens

Die Laufgrößen von 50 Millionen bis 2 Milliarden Tokens sind unsere Beispielannahmen, keine Messwerte. Zählen Sie für Ihren eigenen Lauf die Tokens des Trainingsdatensatzes mit dem Tokenizer des Modells und multiplizieren Sie mit der Zahl der Epochen. Auch die obere Zeile mit 2 Milliarden Tokens bleibt beim 70B-Modell bei vier Zehntausendsteln der Schwelle. Erreichen würde man das Drittel erst mit rund 5 Billionen Tokens – einem Drittel des ursprünglichen Vortraining.

Schwellen im Vergleich (Überschlag nach 6·P·D, eigene Rechnung)
AusgangsmodellBasis-RechenleistungDrittel-SchwelleTokens bis zur SchwelleErsatzschwelle 3,3·1022 FLOP erreicht ab
Llama 3.1 70Brund 6,3·1024 FLOPrund 2,1·1024 FLOPrund 5 Billionenrund 79 Milliarden Tokens
Qwen3-32Brund 7,1·1024 FLOP (bei 36 Bio. Tokens)rund 2,4·1024 FLOPrund 12 Billionenrund 169 Milliarden Tokens

Zwei Fallstricke stecken in der Tabelle. Erstens fällt die Ersatzschwelle in der rechten Spalte sechzig- bis siebzigmal niedriger aus als das echte Drittel. Wer die Basis-Rechenleistung nicht ermittelt, obwohl sie sich aus der Modellkarte schätzen ließe, rechnet sich deutlich schlechter – und darf das laut Randnummer 61 auch nur, wenn er den Wert weder kennen noch schätzen kann. Zweitens liefern die beiden Schätzwege unterschiedliche Basiswerte. Hardwarebasiert mit den Annahmen, die die Leitlinien in ihrem Beispiel H verwenden (989 TFLOP/s je H100, 50 % Auslastung), kommt Llama 3.1 70B auf rund 1,25·1025 FLOP, doppelt so viel wie nach 6·P·D. Für die eigene Dokumentation nehmen wir den niedrigeren Wert: Er ergibt die niedrigere Schwelle und ist damit die vorsichtige Seite.

Bei LoRA und QLoRA werden nur kleine Adaptermatrizen aktualisiert, der Vorwärts- und Rückwärtsdurchlauf läuft aber weiter durch das ganze Netz. Die Leitlinien sagen zu parametereffiziente Verfahren nichts Ausdrückliches. Wir setzen deshalb auch für LoRA 6·P·D mit der vollen Parameterzahl an – das ist eine Obergrenze, die das Ergebnis nicht schönrechnet.

/05Entscheidungsbaum: Werde ich GPAI-Anbieter?

Der Baum fasst die Prüfung für ein Haus zusammen, das offene Gewichte nutzt. Er ersetzt keine Einzelfallprüfung, die auch die Leitlinien an mehreren Stellen ausdrücklich verlangen, aber er trennt die klaren Fälle von denen, die einen Juristen brauchen.

START  Sie nutzen ein offenes GPAI-Modell (z. B. Llama, Qwen, Mistral).

[1] Verändern Sie die Gewichte (Fine-Tuning, LoRA, Merging, Destillation)?
    nein (nur Prompt, RAG, Systemprompt, Quantisierung zum Betrieb)
         -> Sie sind NICHT Anbieter des Modells. Weiter mit [6].
    ja   -> [2]

[2] Ist die Rechenleistung des Ausgangsmodells bekannt oder schätzbar?
    ja   -> Schwelle = Basis-FLOP / 3                         -> [3]
    nein -> Schwelle = 3,3e22 FLOP (Basis mit system. Risiko: 3,3e24) -> [3]

[3] Liegt Ihre Veränderung (6 * Parameter * Tokens * Epochen) über der Schwelle?
    nein -> Sie sind NICHT Anbieter des veränderten Modells. Weiter mit [6].
    ja   -> [4]

[4] Bringen Sie das veränderte Modell in Verkehr?
    (Download, API, Cloud, Kopie beim Kunden, Einbau in Produkt,
     ODER interne Nutzung, die für Leistungen an Dritte wesentlich ist
     oder Rechte natürlicher Personen berührt)
    nein (reine Forschung/Tests vor Inverkehrbringen, Art. 2 Abs. 8;
          rein interne, unwesentliche Nutzung, ErwG 97)
         -> Noch kein Anbieter. Lauf und Begründung dokumentieren.
    ja   -> Sie sind ANBIETER des veränderten Modells -> [5]

[5] Hatte das Ausgangsmodell systemisches Risiko?
    ja   -> Volle Pflichten nach Art. 53 und 55, Mitteilung nach Art. 52
            (Leitlinien Rn. 67-68)
    nein -> Pflichten nach Art. 53, beschränkt auf die Veränderung (ErwG 109).
            Freie Lizenz + keine Monetarisierung + öffentliche Gewichte:
            Art. 53 Abs. 1 a) und b) entfallen; c) und d) bleiben.

[6] Unabhängig vom Modell: Pflichten für das KI-SYSTEM prüfen
    (Art. 4 Kompetenz, Art. 50 Transparenz, Hochrisiko nach Art. 6 / Art. 25).

Schritt [1] verdient einen zweiten Blick. Quantisierung zum Betrieb verändert die Gewichte zwar technisch, ist aber keine Trainingsrechenleistung im Sinne von Randnummer 115, weil sie nicht durch Parameteraktualisierung im Training entsteht. Wer dagegen Gewichte mehrerer Modelle zusammenführt oder ein Modell aus einem anderen destilliert, ist beim Training des Ergebnisses nach den Randnummern 118 und 119 mit eigener Rechnung dabei.

Der Entscheidungsbaum klärt die Modellebene; die Systemebene mit Art. 50, Hochrisiko-Einstufung und Haftung der Geschäftsführung ist der größere Teil der Arbeit. EU AI Act 2026 — Pflichten, Fristen nach dem Digital Omnibus und die Frage, wer im Haus wofür verantwortlich ist.

/06Wenn Sie doch Anbieter werden: Pflichten auf die Änderung begrenzt

Wer die Drittel-Schwelle überschreitet und das Modell in Verkehr bringt, übernimmt nicht die Pflichten für das ganze Modell. Erwägungsgrund 109 begrenzt sie auf die Veränderung, „indem beispielsweise die bereits vorhandene technische Dokumentation um Informationen über die Änderungen, einschließlich neuer Trainingsdatenquellen, ergänzt wird“. Die Leitlinien übernehmen das in Randnummer 65: Dokumentation nach Artikel 53 Absatz 1 Buchstaben a und b nur zur Veränderung, Urheberrechtsstrategie und Trainingsdaten-Zusammenfassung nach den Buchstaben c und d nur für die Daten der Veränderung.

Die vier Pflichten aus Artikel 53 Absatz 1 im Überblick:

  • a) technische Dokumentation mit Trainings- und Testverfahren und Bewertungsergebnissen, mindestens nach Anhang XI, für das Büro für Künstliche Intelligenz und nationale Behörden auf Anfrage;
  • b) Informationen für Anbieter von KI-Systemen, die das Modell einbauen wollen, mindestens nach Anhang XII;
  • c) eine Strategie zur Einhaltung des Urheberrechts, insbesondere zum Erkennen von Nutzungsvorbehalten nach Artikel 4 Absatz 3 der Richtlinie (EU) 2019/790;
  • d) eine öffentliche, hinreichend detaillierte Zusammenfassung der Trainingsinhalte nach der Vorlage des Büros für Künstliche Intelligenz.

Die Open-Source-Ausnahme nach Artikel 53 Absatz 2 streicht a und b, nicht c und d (Erwägungsgrund 104, Leitlinien Randnummer 72). Sie greift nur für Modelle ohne systemisches Risiko und nur, wenn drei Bedingungen zusammenkommen. Die Lizenz muss Zugang, Nutzung, Veränderung und Weitergabe erlauben (Randnummer 75). Ausgeschlossen sind nach Randnummer 80 unter anderem Beschränkungen auf nicht kommerzielle Nutzung, Weitergabeverbote, Nutzungsschwellen nach Nutzerzahl und gesonderte kommerzielle Lizenzen für bestimmte Anwendungen. Das Modell darf nicht monetarisiert werden; dazu zählen nach Randnummer 83 Doppellizenzen und Pflicht-Supportverträge als Zugangsbedingung. Und Gewichte, Architektur und Nutzungsinformationen müssen öffentlich sein (Randnummer 87).

Hier liegt ein praktischer Unterschied zwischen Ausgangsmodellen. Die Llama-3.1-Lizenz verlangt in Abschnitt 2 eine eigene Lizenz von Meta, wenn die Produkte des Lizenznehmers im Vormonat des Erscheinungstags mehr als 700 Millionen monatlich aktive Nutzer hatten. Das ist genau die Art Nutzerschwelle, die Randnummer 80 als Ausschlussgrund nennt. Ein Ableger von Qwen3-32B unter Apache 2.0 hat dieses Problem nicht. Welche Hauslizenzen solche Schwellen enthalten, zeigt der Lizenzvergleich für Open-Weight-Modelle. Für Häuser unter der Drittel-Schwelle ist das bedeutungslos – für die wenigen darüber kann es über a und b entscheiden.

Eine Anbieterpflicht trifft nur Anbieter aus Drittländern: Artikel 54 verlangt einen Bevollmächtigten in der Union, außer bei Open-Source-Modellen ohne systemisches Risiko (Artikel 54 Absatz 6). Ein deutsches Unternehmen braucht keinen.

/07Was die Drittel-Regel nicht regelt

Ehrlich: Die Drittel-Regel beantwortet eine schmale Frage, und viele Häuser verwechseln die Entwarnung auf der Modellebene mit einer Entwarnung insgesamt. Fünf Grenzen sollten Sie kennen.

1. Die Systempflichten bleiben. Wer ein nachtrainiertes Modell in einen Chatbot, ein Ticketsystem oder eine Kundenanwendung einbaut und diese anbietet oder in Betrieb nimmt, ist Anbieter dieses KI-Systems – unabhängig davon, wer Anbieter des Modells ist (Leitlinien Randnummer 55). Transparenzpflichten nach Artikel 50 gelten seit dem 2. August 2026. Die Open-Source-Ausnahme in Artikel 2 Absatz 12 hilft hier nicht, wenn das System unter Artikel 5 oder 50 fällt oder hochriskant ist.

2. „Wesentliche Veränderung“ ist ein anderer Begriff. Artikel 3 Nummer 23 definiert die wesentliche Veränderung für KI-Systeme im Hochrisiko-Rahmen. Nach Artikel 25 Absatz 1 wird zum Anbieter eines Hochrisiko-KI-Systems, wer ein System so verändert, dass es hochriskant wird oder bleibt. Ein feinjustiertes Modell im Bewerbermanagement kann deshalb unterhalb der Drittel-Schwelle liegen und trotzdem ein Hochrisiko-System sein. Dessen Pflichten beginnen nach dem Digital Omnibus für Anhang III am 2. Dezember 2027.

3. Die Leitlinien sind ein Richtkriterium, kein Gesetz. Die Kommission spricht durchgehend von „indikativ“ und verlangt an mehreren Stellen Einzelfallprüfung. Sie behält sich vor, die Schwelle bei veränderter Technik anzupassen (Randnummer 64). Wer nahe an der Schwelle liegt, braucht juristischen Rat, keine Tabelle.

4. Wer die Gewichte kontrolliert, ist eine eigene Frage. Fußnote 13 der Leitlinien nennt die Kontrolle über die Gewichte als wichtigen Faktor, etwa beim Fine-Tuning über die API eines Anbieters. Wer bei einem Hyperscaler nachtrainieren lässt, ohne die Gewichte zu besitzen, ist anders zu bewerten als jemand, der On-Premise auf eigenen Karten trainiert.

5. Datenschutz und Urheberrecht laufen parallel. Ein Datensatz aus Kundenkorrespondenz braucht eine Rechtsgrundlage nach der DSGVO, ganz gleich, wie wenig FLOP sein Training kostet. Und wer Fachliteratur oder fremde Webinhalte einspeist, hat eine Urheberrechtsfrage, auch wenn ihn Artikel 53 Absatz 1 Buchstabe c als Nicht-Anbieter nicht trifft.

Ob ein konkretes Vorhaben über die Systemebene in den Hochrisiko-Bereich rutscht, lässt sich mit einer strukturierten Prüfliste vorab klären. EU AI Act Checkliste — Rollen, Risikoklassen und Nachweise Schritt für Schritt.

/08Entscheidung: für wen die Anbieterfrage real ist

Die meisten Mittelständler, die ein Sprachmodell mit eigenen Daten anpassen, liegen nach der Rechnung in Abschnitt /04 um vier bis fünf Größenordnungen unter der Drittel-Schwelle. Für sie ist die GPAI-Anbieterfrage mit einer sauberen Rechnung und einer Aktennotiz erledigt. Das ist keine Formsache, aber auch kein Projekt.

Ein Haus mit 40 Arbeitsplätzen, das ein 32B-Modell per LoRA auf Angebotstexte und Produktdaten trimmt: Anbieterfrage auf Modellebene praktisch ausgeschlossen. Relevanter sind Artikel 50, falls Kunden mit dem System schreiben, und die Datengrundlage. In vielen Fällen ist RAG mit gutem Systemprompt ohnehin die bessere Wahl als ein Fine-Tuning – das Modell bleibt unverändert, Wissen lässt sich löschen und aktualisieren.

Ein Unternehmen mit 300 Arbeitsplätzen, das ein feinjustiertes Modell im Kundenportal einsetzt oder an Händler weitergibt: Modellebene ebenfalls klar unter der Schwelle, aber das Unternehmen ist Anbieter eines KI-Systems. Hier gehört der Entscheidungsbaum mit Schritt [6] in die Projektakte, und die Herkunft der Trainingsdaten sollte so dokumentiert sein, dass Kunden danach fragen dürfen.

Ein Softwarehaus oder Systemhaus, das eigene Basismodelle-Varianten mit Fortsetzungs-Vortraining auf hunderten Milliarden Tokens baut und als Download oder auf Kundenservern ausliefert: Hier wird die Anbieterfrage real – vor allem, wenn die Basis-Rechenleistung des Ausgangsmodells unbekannt ist und die Ersatzschwelle von 3,3·1022 FLOP greift. Wer so arbeitet, rechnet vor jedem Lauf und klärt die Lizenzfrage aus Abschnitt /06 vor der ersten Auslieferung.

Wann ist das ganze Thema für Sie irrelevant? Wenn Sie keine Gewichte verändern. Prompting, RAG, Werkzeuganbindung und Quantisierung für den Betrieb machen niemanden zum GPAI-Anbieter.

Fine-Tuning, RAG oder beides – die technische Wahl entscheidet auch, welche Nachweise später anfallen. KI-Beratung — ein Potenzial-Workshop klärt Anwendungsfall, Datenlage und Rollen, bevor das erste Modell trainiert wird.

/09Fine-Tuning-Protokoll: was Sie ab dem ersten Lauf festhalten

Wer unter der Schwelle bleibt, muss nichts an das Büro für Künstliche Intelligenz melden. Trotzdem lohnt es sich, jeden Trainingslauf so zu protokollieren, dass die Rechnung in einem Jahr noch nachvollziehbar ist – für die eigene Revision, für Kunden, die fragen, und für den Fall, dass die Kommission ihre Schwelle anpasst. Das folgende Muster legen wir je Lauf neben die Adaptergewichte.

# fine-tuning-protokoll.yaml  (je Trainingslauf, versioniert neben den Gewichten)
lauf_id: ft-2026-10-31-angebote-v3
ausgangsmodell:
  name: Qwen/Qwen3-32B
  revision: <commit-hash aus dem Hub>
  lizenz: apache-2.0
  parameter: 32.8e9                    # Modellkarte
  basis_tokens: 36e12                  # Qwen3-Blog, Familie; Annahme dokumentiert
  basis_flop: 7.1e24                   # 6*P*D, Leitlinien Rn. 129
  quelle_basis: "Modellkarte + Hersteller-Blog, abgerufen 22.10.2026"
veraenderung:
  verfahren: lora                      # lora | qlora | voll | merge | destillation
  tokens_je_epoche: 4.1e7
  epochen: 3
  flop: 2.4e19                         # 6 * 32.8e9 * 1.23e8, Obergrenze auch bei LoRA
  verhaeltnis_zum_drittel: 1.0e-5      # flop / (basis_flop / 3)
daten:
  quellen: [angebotsarchiv-2019-2026, produktdatenbank-export]
  personenbezug: pseudonymisiert
  rechtsgrundlage: "Art. 6 Abs. 1 f DSGVO, Abwägung vom 14.10.2026"
  urheberrecht: "nur eigene Dokumente, keine Fremdtexte"
nutzung:
  inverkehrbringen: nein               # intern, nicht wesentlich für Leistungen an Dritte
  betroffene_personen: keine           # sonst ErwG 97 / Leitlinien Rn. 51 prüfen
  ki_system: angebotsassistent-intern
ergebnis: "kein GPAI-Anbieter (Schwelle 1 nicht erreicht)"
geprueft_von: <Rolle, nicht Name>
datum: 2026-10-31

Die Einträge unter daten und nutzung sind Beispielwerte. Wichtig sind die beiden Rechenzeilen, die Quelle der Basiswerte mit Abrufdatum und die ausdrückliche Aussage zum Inverkehrbringen. In der Praxis landet das Protokoll im selben Repository wie das Trainingsskript; ein Lauf ohne Protokoll wird nicht ausgerollt. Wer sein Fine-Tuning ohnehin schon reproduzierbar aufsetzt, wie im Beitrag zu LoRA, DPO und GRPO auf einer GPU beschrieben, ergänzt nur die Zeilen zur Schwelle.

Für Modelle, die vor dem 2. August 2025 in Verkehr gebracht wurden, gilt Artikel 111 Absatz 3: Ihre Anbieter müssen die Pflichten bis zum 2. August 2027 erfüllen. Das betrifft die Hersteller der Ausgangsmodelle, nicht Sie. Für Sie zählt etwas anderes: Was diese Hersteller in Modellkarten und Dokumentation nach Anhang XII veröffentlichen, ist die Grundlage Ihrer eigenen Rechnung. Je besser die Herstellerangaben, desto seltener müssen Sie auf die Ersatzschwelle ausweichen.

/10Quellen & Primärbelege

Alle Zahlen, Einordnungen und Quellenangaben in diesem Beitrag wurden vor der Veröffentlichung gegen die folgenden Primärquellen geprüft.

  1. Verordnung (EU) 2024/1689 (KI-Verordnung), Amtsblatt L vom 12.07.2024 Art. 2 Abs. 8 und 12, Art. 3 Nr. 3, 9, 10, 23 und 63, Art. 25 Abs. 1, Art. 51 Abs. 2 (10^25 FLOP), Art. 53 Abs. 1 und 2, Art. 54 Abs. 6, Art. 101 Abs. 1 (15 Mio. Euro / 3 %), Art. 111 Abs. 3, Art. 113 Buchst. b; Erwägungsgründe 97, 102, 103, 104, 109; Volltext über den Cellar-Dienst des Amts für Veröffentlichungen abgerufen am 22.10.2026.
  2. Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), Amtsblatt L vom 24.07.2026 Änderungsteil durchgesehen: Änderungen u. a. an Art. 2, 3, 4, 25, 50, 75, 111 Abs. 2 und 4, 113 Abs. 3; keine Änderung an Art. 51 bis 55 und 101; Volltext abgerufen am 22.10.2026.
  3. Europäische Kommission: Leitlinien zum Umfang der Pflichten für Anbieter von GPAI-Modellen (Bibliotheksseite) Veröffentlichung 18.07.2025, Leitlinien in 24 Amtssprachen; abgerufen am 22.10.2026.
  4. Mitteilung der Kommission C(2025) 7719 final vom 19.11.2025, deutsche Fassung (PDF) Rn. 17 (10^23 FLOP), Rn. 51 (Inverkehrbringen inkl. interne Prozesse), Rn. 55, 58 bis 68 (Modifizierer, Drittel-Regel, Ersatzschwelle), Rn. 72 bis 87 (Open-Source-Ausnahme, Lizenz, Monetarisierung), Rn. 112 (Durchsetzung ab 02.08.2026), Rn. 115 bis 129 (Trainingsrechenleistung, 6·P·D, 30 % Fehlermarge), Beispiel H; abgerufen am 22.10.2026 (englische Fassung document/118340 zum Abgleich).
  5. Meta: Modellkarte Llama 3.1 Llama 3.1 70B, Vortraining auf ~15 Billionen Tokens, 7,0 Mio. GPU-Stunden auf H100-80GB; abgerufen am 22.10.2026.
  6. Meta: Llama 3.1 Community License Abschnitt 2 „Additional Commercial Terms“: gesonderte Lizenz bei mehr als 700 Mio. monatlich aktiven Nutzern; abgerufen am 22.10.2026.
  7. Qwen: Modellkarte Qwen3-32B (Hugging Face) 32,8 Mrd. Parameter, Lizenz Apache 2.0; abgerufen am 22.10.2026.
  8. Qwen: Qwen3 – Think Deeper, Act Faster (Blog) Vortraining der Qwen3-Familie auf rund 36 Billionen Tokens in 119 Sprachen, Apache 2.0 für die dichten Modelle; abgerufen am 22.10.2026.

/11Häufige Fragen

Werden wir zum GPAI-Anbieter, wenn wir ein offenes Modell mit eigenen Daten nachtrainieren?

In aller Regel nicht. Nach den Leitlinien der Kommission wird ein Modifizierer erst Anbieter, wenn die Veränderung mehr als ein Drittel der Trainingsrechenleistung des Ausgangsmodells kostet und das Modell in Verkehr gebracht wird. Typische Fine-Tunings im Mittelstand liegen um mehrere Größenordnungen darunter. Rechnung und Begründung sollten Sie trotzdem je Lauf dokumentieren.

Gilt die Drittel-Regel auch für LoRA und QLoRA?

Die Leitlinien nennen LoRA nicht ausdrücklich, sie sprechen von der Rechenleistung, die zu Parameteraktualisierungen beiträgt. Wer vorsichtig rechnet, setzt auch bei LoRA die Formel 6 mal Parameter mal Tokens mit der vollen Parameterzahl an. Das ist eine Obergrenze und liegt bei üblichen Datenmengen trotzdem weit unter der Schwelle.

Was ist, wenn der Hersteller die Trainingsrechenleistung nicht angibt?

Dann schätzen Sie sie aus Parameterzahl und Trainings-Tokens der Modellkarte oder aus den angegebenen GPU-Stunden. Nur wenn beides nicht möglich ist, gilt ersatzweise ein Drittel von 10^23 FLOP, bei Modellen mit systemischem Risiko ein Drittel von 10^25 FLOP. Die Ersatzschwelle ist deutlich strenger als das echte Drittel.

Zählt die interne Nutzung eines eigenen Modells als Inverkehrbringen?

Nicht, solange das Modell nur für interne Abläufe genutzt wird, die für Leistungen an Dritte nicht wesentlich sind und keine Rechte natürlicher Personen berühren. Beantwortet das Modell Kundenanfragen oder sortiert es Bewerbungen vor, sehen die Leitlinien darin ein Inverkehrbringen. Relevant wird das erst, wenn Sie wegen der Drittel-Schwelle überhaupt Anbieter des Modells sein könnten.

Brauchen wir als reiner Nutzer offener Modelle gar nichts zu tun?

Auf der Modellebene meist nicht. Auf der Systemebene schon: Wer ein KI-System anbietet oder betreibt, hat je nach Einsatz Transparenzpflichten nach Artikel 50, Pflichten zur KI-Kompetenz und gegebenenfalls Hochrisiko-Pflichten, die für Anhang-III-Systeme ab dem 2. Dezember 2027 gelten. Die Drittel-Regel ändert daran nichts.

Ist Llama für die Open-Source-Ausnahme des AI Act geeignet?

Die Llama-3.1-Lizenz enthält eine Nutzerschwelle von 700 Millionen monatlich aktiven Nutzern, ab der eine gesonderte Lizenz von Meta nötig ist. Solche Schwellen nennen die Leitlinien ausdrücklich als Grund, warum eine Lizenz nicht als frei und quelloffen im Sinne des AI Act gilt. Für Häuser unterhalb der Drittel-Schwelle spielt das keine Rolle, weil sie ohnehin nicht Anbieter des Modells sind.

Ist dieser Beitrag eine Rechtsberatung?

Nein. Er gibt den Wortlaut der Verordnung und die Auslegung der Kommission in ihren Leitlinien wieder. Die Leitlinien sind ein Richtkriterium für die Verwaltungspraxis, verbindlich auslegen kann den AI Act nur der Europäische Gerichtshof. Wer nahe an der Schwelle liegt oder ein Modell an Dritte ausliefert, sollte juristischen Rat einholen.

Herausgeber

ki·spezial-Redaktion — ki·spezial ist die On-Premise-KI-Marke der HostSpezial GmbH, Lichtenfels, zertifiziert nach ISO/IEC 27001:2024. Fachliche Prüfung und Freigabe dieses Beitrags liegen bei der Redaktion. Impressum · Kontakt

MEHRVerwandte Artikel

Weiterlesen zum gleichen Thema.

$ related --articles
// nächster schritt

Ihr Fine-Tuning-Vorhaben einmal gegen die Drittel-Regel rechnen.

Im kostenlosen 30-Minuten-Erstgespräch gehen wir Ausgangsmodell, Datenmenge und geplante Nutzung durch und sagen Ihnen, auf welcher Ebene – Modell oder System – Pflichten entstehen. Keine Rechtsberatung, aber eine belastbare technische Grundlage für Ihren Juristen. Den rechtlichen Rahmen fasst EU AI Act 2026 zusammen.

Beratung und Betrieb aus Lichtenfels · Teil der HostSpezial GmbH

$ python3 drittel.py --basis 6.3e24 --lauf 2.1e20
Erstgespräch vereinbaren → 09571 873149 Termin vereinbaren
30 Minuten, unverbindlich und direkt mit einem technischen Ansprechpartner. Drei Sätze zur Ausgangslage genügen; aus der Anfrage entsteht keine Verpflichtung.