[Irmi]

Die Frage treibt mich gerade um.

Ab August gibt es ja diese Kennzeichnungspflicht für Fotos mit KI, kurz gesagt.

Es gibt aber keine genaue Aussage dazu, was maßgeblich heißt.

In Lightroom gibt es ja die Möglichkeit, bei Export Content Credentials einzustellen.
So wie ich es verstanden habe, wird kryptographisch in die Bilddatei geschrieben, was an dem Bild gemacht wurde.

Z.B. Nutzen des Entfernen Werkzeugs mit generativer KI, oder Personen entfernen etc.

Bei einem Export eines Fotos, in dem das Werkzeug genutzt wurde, wird dieses in die Bilddaten geschrieben, wenn mann die Content Credentials mit exportiert.

Auf der Internetseite https://verify.contentauthenticity.org/ kann eine Bilddatei dahingehend überprüft werden, ob KI zum Einsatz kam. Wenn ja, wird angezeigt, welche Maschine genutzt wurde.
Hier noch eine Prüfmöglichkeit https://contentauthenticity.adobe.com/inspect

Nutzt Ihr die Exporteinstellung Conten Dredentials? Meint Ihr, dass wir die nutzen müssen? Ab wann meint Ihr, dass wir sie nutzen müssen?

Hänge ich das Thema zu hoch?

[Kurt Weinmeister]

Zitat von Irmi

Hänge ich das Thema zu hoch?

Ich denke, ja. Als Privatperson fällt man meines Erachtens nichts darunter.
Nur wer gewerblich unterwegs ist und seine Produkte mit KI „aufpeppt“, den muss kennzeichnen.

Das Gesetz hat Bundestag und Bundesrat noch nicht passiert.
https://bmds.bund.de/fileadmin/BMDS/...final_barr.pdf

[Irmi]

Als reine Privatperson sehe ich mich in Zukunft nicht unbedingt, da ich vermehrt doch jetzt schon mal Fotos verkaufe und ein Kleinunternehmen habe. Von daher beschäftigt mich das Thema.

Die Frage ist, was ist maßgeblich?

[Kurt Weinmeister]

Maßgeblich wird das sein, was die Rechtssprechung dann im Einzelfall entscheiden darf. Der Gesetzgeber macht es sich da regelmäßig einfach und lässt die Judikative entscheiden.

[usch]

Zitat von Irmi

Ab August gibt es ja diese Kennzeichnungspflicht für Fotos mit KI, kurz gesagt.

Quelle, bzw. genaue Bezeichnung des entsprechenden Gesetzes?

Es gibt aber keine genaue Aussage dazu, was maßgeblich heißt.

Woher hast du das Wort "maßgeblich"? Falls wir über die Verordnung (EU) 2024/1689 reden, dort kommt das in diesem Zusammenhang überhaupt nicht vor.

In Artikel 50 Absatz 4 heißt es dagegen ausdrücklich:

Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

Machst du Deepfakes? Wenn nein, ist die Geschichte für dich wohl nicht relevant. Wenn aber doch, dann würde "Export Content Credentials" sicher nicht ausreichen, denn, so steht es in Absatz 5 …

Die … Informationen werden den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt. Die Informationen müssen den geltenden Barrierefreiheitsanforderungen entsprechen.

… und ein Bild erst zur Prüfung auf irgendeine Seite hochladen zu müssen, von deren Existenz ein normaler Betrachter vermutlich nicht einmal weiß, klingt für mich weder klar und eindeutig noch barrierefrei.

[Irmi]

Ja, um das Gesetz geht es.
Natürlich mache ich keine Deepfakes.

Ich habe gelesen, dass ein Foto dann kein Deepfake ist, wenn es eine echte Fotografie ist, die mit Hilfe der KI bis zu einem gewissen Punkt nachbearbeitet wurde. Die genaue Grenze ist jedoch fließend.

An anderer Stelle habe ich gelesen, dass ein Foto nicht maßgeblich bearbeitet sein darf, um nicht gekennzeichnet werden zu müssen.

Maßgeblich bedeutet wesentlich, entscheidend oder ausschlaggebend.

Ich würde z B. den Austausch des Himmels als maßgeblich ansehen und das Foto müsste gekennzeichnet werden. Wohingegen das Entfernen eines Mülleimers für mich nicht maßgeblich wäre. Himmel tausche ich nie, Mülleimer lasse ich aber dich schon mal verschwinden.

Es ist wahrscheinlich immer eine Einzelfallentscheidung, wie Kurt auch schon geschrieben hat.

[Kurt Weinmeister]

Den Himmels auszutauschen dürfte nicht maßgeblich sein.
Maßgeblich zielt auf die Qualität und Intention der Änderung ab.
Es geht m.E. darum, ob eine bewusste Irreführung verbunden mit persönlichen Zielen (Bereicherung, etc) stattgefunden hat.
Wenn Kriegsverbrechen mit 2. Weltkrieg Szenen „aufgewertet“ werden, Du Angela Merkel Arm in Arm mit Epstein abbildest, etc.
Wenn Du überdrehst und klar ist, das es ein Fake ist, ist es dann auch wieder OK.
Also D.T. mit Hermelinmantel, Krone und Reichsapfel zu präsentieren, dürfte zumindest in Europa jeder Depp als Fake erkennen.

[steve.hatton]

Zitat von Kurt Weinmeister

Den Himmels auszutauschen dürfte nicht maßgeblich sein. ...

In der Immobilienbrachne ist das sehr wohl maßgeblich, weil der Kunde bei düsterer Stimmung seltener klickt, als bei blauem Himmel.

Wie Irmi schreibt sind die Grenzen fliessend und bis Gerichte da Grenzen setzten, wird wohl ein Großteil Fake sein - - u.a. deshalb weil sich viele Informationsportale und Zeitungen offenbar keinerlei Gedanken mehr machen welche Bilder sie wo ranhängen.
Ich wäre zumindest für eine Datumspflicht für gewerbliche Aufnahmen - dann wäre schon mal viel Unsinn auszuschließen.

Zitat von Kurt Weinmeister

Also D.T. mit Hermelinmantel, Krone und Reichsapfel zu präsentieren, dürfte zumindest in Europa jeder Depp als Fake erkennen.

Bist Du Dir da sicher?

[Kurt Weinmeister]

Zitat von steve.hatton

Bist Du Dir da sicher?

Wenn Du so konkret nachfragst -> bei mir schwingt noch jede Menge Hoffnung mit, sicher bin ich mir da allerdings jetzt nicht mehr.

[DerGoettinger]

Zitat von Kurt Weinmeister

Der Gesetzgeber macht es sich da regelmäßig einfach und lässt die Judikative entscheiden.

Es ist ein Irrglaube zu meinen, bereits das Gesetz müsse haarklein alles erklären, regeln und definieren. Dies würde nicht nur zu vollkommen aufgeblähten Gesetzen führen, sondern durch die Regelwut würden diese auch noch unübersichtlicher - und letztendlich angreifbarer, weil dadurch auch immer mehr Lücken entstehen, weil letztendlich doch Umstände eben nicht im Gesetz stehen. Zudem verkennt man, dass sich gesellschaftlicher Wandel oder technischer Fortschritt durch Rechsprechung viel schneller beachten lässt als durch die Schaffung von neuen Gesetzen oder die Änderung bestehender Gesetze.