#59 KI-Kennzeichnungspflicht nach EU AI Act: Was du bei KI-Content jetzt angeben musst

00:00:00: Fünfzehn Millionen Euro Strafe für einen falschen Satz.

00:00:06: Seit dem zweiten August ist Instagram voll mit solchen Schlagzeilen und Hux, wir gucken uns heute in dieser Podcastfolge an was wirklich dran ist dem Podcast für Frauen, die sich ein Online-Business aufbauen wollen das ihnen Freiheit schenkt.

00:00:37: Wir zeigen dir wie du deine bage Idee in ein Badass Business verwandest dass dir zeitliche, örtliche und finanzielle Freiheit schenkst!

00:00:46: Wir sind Anne, Hannah & Katy.

00:00:50: wir sind losgegangen als alle gesagt haben mach lieber was vernünftig.

00:00:54: heute leben wir frei ortsunabhängig und verblieben unser Geld mit dem was wir lieben Und geben wir in diesem Podcast exklusiv Einblick in unsere Prozesse und Gedanken.

00:01:05: Wir beantworten alle Fragen, die wir am Anfang hatten damit du mutig losgehen kannst.

00:01:11: Denn echte Freiheit beginnt mit dem Mut deinen eigenen Weg zu gehen.

00:01:15: Lehne dich zurück ziehe deine Schuhe aus machst dir bequem denn hier kannst du bleiben!

00:01:20: Let's build your freedom.

00:01:22: Hallo und herzlich willkommen zu einer neuen Folge Schiebel's Freedom Podcast.

00:01:28: Heute wollen wir mal darüber sprechen, warum seid ihr im zweiten August?

00:01:33: Instagram brennt!

00:01:35: Überall liest man Schocknachrichten.

00:01:38: Du darfst nicht mehr schreiben was du möchtest, du darfst nichts mehr veröffentlichen was du möchte.

00:01:43: Du läufst Gefahr, fünfzehn Millionen Euro Strafe zu zahlen für einen falschen Satz.

00:01:48: Worum geht es?

00:01:49: Es geht um die gar nicht einmal so neue aber jetzt neu in Kraft getretene EUKI Regulierung den EU AI Act und noch genauer Artikel Fünfzig daraus, der besagt dass du besondere Transparenzpflichten hast wenn du KI für dein Content verwenden ist.

00:02:14: Es ist aber alles nicht so krass wie das Internet das wieder verpacken möchte oder die Angstmacherei ist gar nicht so berechtigt.

00:02:21: wir wollen in diese Folge einmal drauf eingehen was da überhaupt drin steht in diesem Act Was sich dadurch verändert und ob es tatsächlich so viel für dich verändert, wenn du als Copywriter wirklich deine Sorgfaltspflicht nachkommst, wage ich jetzt schon mal in Frage zu stellen.

00:02:38: Also was muss laut den Gleitlinien der EU-Kommission gekennzeichnet werden?

00:02:46: Also das kann ich euch schonmal sagen ist es sehr viel differenzierter als es oft auf Instagram gesagt wird umfasst nicht alles und nicht jeder ist sofort irgendwie kriegt eine Strafe in Millionenhöhe.

00:03:00: Also es ist sehr, sehr gut ja rübergebracht, differiziert rüber gebracht worum es der EU hier tatsächlich geht.

00:03:09: Wir gucken uns das mal an.

00:03:10: also grundsätzlich wenn du Jachibiti zum Beispiel verwendest oder Claude verwende für Brainstorming dann musst du das in der Regel nicht kennzeichnen.

00:03:20: Was heißt in der Regel?

00:03:21: Du wusstest nicht kennzeichnen.

00:03:24: Wenn du mit ChatGbt zum Beispiel deine Caption überarbeitest oder deine Captions erstellst, auch dann muss hier eine KI-Assistenz nicht offen gelegt werden.

00:03:33: Also nein, du musst es nicht kennzeichen.

00:03:36: Das ist wenn du eine Sales Page oder eine E-Mail mit KI erstellen lässt oder mit KI prüfen oder überarbeiten lässt.

00:03:45: In der Regel musst du das auch nicht kenn zeichnen.

00:03:50: Sobald du quasi persönlich nochmal prüfst, den Text nochmal prüft, bearbeitest überarbeitest dann fällt diese Kennzeichnungspflicht weg und das sollte sowieso gang und gäbe sein.

00:04:02: Also du solltest als Copywriter oder auch wenn du deine eigenen Texte mit KI generieren lässt nie an dem Punkt kommen wo du sagst okay das hat jetzt die KI ausgespuckt.

00:04:11: ich lese mir das nicht mal durch Ich übernimm das einfach so.

00:04:13: also es sollte sowiso grundsätzlich Teil deiner Arbeit sein die Zahlen zu prüfen, die Fakten zu prügen, ob das alles so Sinn macht wie die KI das ausgespuckt hat.

00:04:27: Also dann ist es nämlich auch von der Kennzeichnungspflicht ausgenommen.

00:04:32: Die einzige Sache, die du kennzeichnen musst was in den Text angeht, ist ein KI generierter Text über ein Thema von öffentlichen Interesse.

00:04:41: Was heißt das jetzt genau?

00:04:43: Das sind Sachen, die aus dem Journalismus kommen.

00:04:46: Politische Texte über aktuelle Ereignisse etc.

00:04:51: Wenn die KI generiert sind dann muss das gekennzeichnet sein.

00:04:56: aber sogar hier gibt es ein Schlupfloch denn wenn du sagst hey da hat eine menschliche Prüfung stattgefunden, da gab's eine Kontrolle vom Redakteur etc... Auch dann ist es nicht unbedingt kennzeichnungspflichtig.

00:05:09: Also das ist quasi der Schlupfloch, dass es noch gibt wenn's diese menschliche Kontrolle gibt, daß es dann nicht mehr kennzeichnungspflichtig ist.

00:05:17: aber sehr oft wird explizit genannt der Text mit einem Thema von öffentlichen Interesse was auch nicht gekennzeichnet werden muss.

00:05:28: und da gehts jetzt ein bisschen mehr in die Richtung wo es dann gekennzeichert werden muss also so Sachen wie Video Audio Bilder die generiert wurden, da kommen wir eher in den Bereich wo Sachen kennzeichnet werden müssen.

00:05:41: Eher jetzt wie an einem Text, das schon gesehen ist es gibt sogar bei den Texten die explizit genannt wurde immer ein Schlupfloch.

00:05:48: Bei Bildern Videos ist das bisschen anders.

00:05:50: was aber nicht gekennzeichnet wird muss ist ein KI-generiertes Bild Das offensichtlich aus einer Fantasiewelt stammt.

00:05:57: also wenn das ein Video ist mit nem singenden Hund oder nathanzenden Avocado dass muss nicht gekannzeichnet werde weil es offensichtlich sein sollte für den Nutzer für den Betrachter, dass das jetzt KI generiert ist.

00:06:11: Was aber auf jeden Fall kennzeichnet werden muss, ist ein realistisch wirkendes KI-Bild.

00:06:16: also zum Beispiel wenn du mit Plot und Bild erstellen lässt von dir am Strand von Bali mit deinem Laptop auf dem Schoß.

00:06:26: Das müsste gekennzeichnet wären Wenn du da nicht warst, wenn dieses Bild nicht realistische entstanden ist sondern es ist ein an einem Ort, an dem du vielleicht noch gar nie warst.

00:06:37: Das muss gekennzeichnet werden!

00:06:38: Ein KI-Klohn von deiner Stimme – also viele nutzen das zum Beispiel in den Podcasts dass das Intro mit einer KI-Stimme eingesprochen ist die aber genauso klingt wie deine eigene Stimme.

00:06:51: Das muß auch gekennzeichert sein.

00:06:53: ein KI-Avatar der den du vielleicht für deinen Social Media Auftritt nutzt der realistisch aussieht er so aussieht wie du.

00:07:02: Das muss auch alles gekennzeichnet werden und offengelegt werden, dass es mit KI generiert wurde.

00:07:06: Und was noch wichtig ist ... Ist wenn du ein KI Chatboard benutzt also zum Beispiel auf deiner Homepage, wenn Leute Fragen stellen können oder bei einer Automation, die quasi mit einem KI-Assistenten sprechen.

00:07:19: das muss grundsätzlich offengelegt werden und nicht irgendwann am Ende des Gesprächs, hey das war jetzt ein Gespräch mit meinem KI Assistenz sondern das muss im ersten Satz sofort fallen Hey hier ist Katis KI-Assistent, was kann ich heute natürlich tun?

00:07:34: Also es muss sofort offen gelegt werden.

00:07:35: Das ist vielleicht auch noch mal etwas, das für uns relevant sein könnte.

00:07:39: aber ansonsten bezieht sich diese den Anführungszeichen neue KI Regelung hauptsächlich auf Deepfakes also Deepfake.

00:07:48: ich habe die Definition extra aufgeschrieben, die Definitions von der Kommission dafür die definieren das auch relativ eng, was ein Deepfake ist.

00:07:59: Es muss sich um KI-generierte oder manipulierte Bild-, Audio- und Videoinhalte handeln, die eine existierenden bzw plausibel existierende Person einem Ort, Objekt oder Ereignis ähneln und fälschlicherweise authentisch oder wahr erscheinen könnten.

00:08:16: Das muss gekennzeichnet werden!

00:08:18: Was nicht gekennzeichnet werden muss sind Comics, Logos, offensichtliche Fantasiebilder.

00:08:25: Ich arbeite ja super gern mit, wer auf meinem Kanal schon mal war.

00:08:28: Auf Instagram weiß das ich diese Barbie-Memes total toll finde und da sind auch einige KI generiert.

00:08:34: Das ist aber offensichtlich dass diese Puppe jetzt kein echter Mensch ist.

00:08:38: Kein Deep Fake fällt nicht unter die Definition von Deep Fake also muss es nicht gekennzeichnet werden.

00:08:44: Also grundsätzlich würde ich schonmal sagen Es gibt absolute Entwarnung für alle Copywriter, für alle die Für ihr Copywriting in ihrem Business KI verwenden, wenn du eine Prüfung die du sowieso immer haben solltest.

00:08:57: Eine menschliche Prüfungen von deinem Text hast muss dieser Text nicht als KI generiert gekennzeichnet werden.

00:09:04: Wenn du aber ein KI-Avatar von dir benutzt in Bildern, Stimme und Videos der realistisch nach dir aussieht dann musst das getrennt zeichnet werden.

00:09:15: Und wichtig ist hier auch noch es darf nicht irgendwo in der Caption versteckt stehen KI generiert oder KI-Inhalt.

00:09:22: Es reicht nicht mal, es gibt in Instagram einen Button, den du drücken kannst das der KI Inhalte kennzeichnet.

00:09:30: auch das reicht nicht.

00:09:31: Das ist der EU Kommission mega wichtig dass auch Inhalten wenn sie quasi runtergeladen oder screenshotet werden das klar ist dass es KI generiert ist.

00:09:39: das heißt du brauchst den Nachweis wirklich im Bild selber oder im Video selber.

00:09:44: Oder in der Sprache, in der Audio die du benutzt eben selber, dass man das quasi nicht wegschneiden könnte.

00:09:50: Dass es wirklich ganz klar ist für egal welche Version dieses Bildes oder dieses Videos der Nutzer bekommt, dass ganz klar wird, dass mit KI erstellt wurde.

00:10:02: Also grundsätzlich brauchst du dir gar nicht so viele Sorgen machen.

00:10:06: wie gesagt Diese ganzen sehr reiserischen Headlines von fünfzehn Millionen Euro Drohnen, die sind um deine Aufmerksamkeit zu erhaschen.

00:10:16: ist wahrscheinlich auch eine sehr gute Strategie, um sie zu bekommen.

00:10:19: Aber die fünfzehn Millionen sind tatsächlich auch von der Kommission festgelegt als gesetzlicher Höchstrahmen für die Strafe.

00:10:27: bis zu fünfzehnt Millionen sagen, die beziehungsweise drei Prozent des weltweiten Vorjahres Umsatz.

00:10:33: also du wirst nicht grundsätzlich als kleines Unternehmen mit einer Strafe vom Fünfzehn Millionen aufgebrummt sondern drei Prozent des weltweiten Vorjahres um.

00:10:44: Also kannst du mal ausrechnen, dass das bei dir wäre?

00:10:46: Das werden wahrscheinlich keine fünfzehn Millionen sein.

00:10:48: aber es kann natürlich passieren da wenn du ein großer Konzern bist vielleicht nur Apple bist oder sonst.

00:10:53: wer können solche Strafen tatsächlich ins Gewicht fallen?

00:10:56: und deswegen ist es wichtig sich zumindest damit auszukennen zu wissen okay wann gelten diese Deepfake-Regeln?

00:11:03: was gilt als deepfake?

00:11:04: habe ich irgendwelche Sachen wo eben eine Kennzeichnungspflicht besteht für den Text in der Regel gar nicht, wie gesagt.

00:11:13: Eher für Bild, Audio etc.. Was auch noch interessant ist... Wie ist es jetzt?

00:11:18: Das ist jetzt ab dem zweiten August in Kraft getreten!

00:11:21: Was ist denn mit den Inhalten die ich vorher schon gepostet habe?

00:11:25: Muss ich die jetzt runternehmen?

00:11:27: Muss sich die archivieren?

00:11:28: Soll ich die nochmal nachträglich kennzeichnen?

00:11:31: Grundsätzlich musst du das nicht.

00:11:33: Also es ist nicht vorgesehen dass alte Inhalte jetzt nachträglich irgendwie gelöscht werden müssen oder gekennzeichnet werden müssen, das ist nicht vorgesehen.

00:11:42: Also alles was du ab jetzt, ab dem zweiten August gepostet hast... also alles vorher muss nicht nachtläglich gekennzeichend werden.

00:11:51: Alles was du seitdem geposted hast, die einfach nochmal angucken, was fällt unter diese Deepfake-Definition?

00:11:57: und diese Sachen eben kennzeichnen im Bildkennzeichnen oder im Video Kennzeichnen damit du da auf der sicheren Seite bist Das auch eine Frage ist, die öfters kam.

00:12:06: Es betrifft das denn jetzt auch meine Manicette-Automation?

00:12:10: Also muss ich kennzeichnen wenn ich zum Beispiel einen Link verschicken möchte über Instagram und mit einem Code Word arbeiten.

00:12:19: also zum Beispiel hey unsere neue Podcast Folge ist draußen kommentier podcast und ich schick dir den link.

00:12:26: Muss ich dann quasi wenn die Automation von Manicet greift und jemand Podcast kommentiert.

00:12:32: Und dann diese Nachricht rausgeht, muss mein erster Satz dann auch so was sein wie hey das ist hier KI generiert?

00:12:38: Nein!

00:12:39: Managed ist da von ausgeschlossen.

00:12:42: also alle Automationen die menschlich generiert wurden.

00:12:47: Also ich setze mich ja hin und sag wenn du Podcast generierst dann kommt folgende Nachricht automatisiert an dich versendet Das ist okay KI-Kennzeichnungspflicht, weil es eigentlich keine KI, die mit dir spricht.

00:13:00: Es geht wirklich nur um Chatbots, die quasi eigenständig Antworten generieren.

00:13:04: Das muss gekennzeichnet werden!

00:13:06: Ich glaube, es gibt sogar die Möglichkeit in ManiChat eine Automation einzustellen, wo ein KI-Assistent dann antwortet, den du natürlich vorher trainierst und mit Infos fütterst.

00:13:17: Wenn das der Fall ist, dann muss es wieder gekennzeichert werden oder eben auch nicht erst am Ende der Konversation sondern gleich im ersten Satz.

00:13:23: Hey ich bin Katis KI Assistent.

00:13:26: Wir sprechen jetzt, was kann ich für dich tun?

00:13:28: Ansonsten wenn es von dir eine erstellte Automation ist dann musst du das nicht kennzeichnen.

00:13:35: Dann handelt sich hier gar nicht um KI sondern du hast es ja tatsächlich erstellt.

00:13:39: Genau also du siehst dass es gar nicht so super kompliziert ist es gar nichts so schlimm.

00:13:44: es will einem keiner was böses oder fünfzehntausend Euro in den fünfzehn Millionen euro Strafe aufpromen.

00:13:51: Ein kleiner Satz, ein kleiner Textabschnitt wird dich nicht um Kopf und Kragen bringen.

00:13:58: Sondern wenn du weiterhin Gewissenhaft arbeitest, wenn du deine Texte kontrollierst auf einen Faktencheck machst... Wenn du schaust dass das alles Hand und Fuß hat und passt dann hast du gar nichts zu befürchten bei keinem einzigen Textformat.

00:14:13: Wenn du aber KI-generierte Bilder verwendest, dann schaut eben fällt das unter die Deepfake Definition dann kennzeichnet es, wenn du dir unsicher bist.

00:14:25: In diesem Sinn keine Angst vor der neuen EUKI!

00:14:30: Regulierung.

00:14:31: Es ist kein großes Ding, es verändert nicht viel.

00:14:34: für uns möchte ich mal sagen außer für die die eben Bilder generieren und Audiospuren verwenden.

00:14:40: das muss gekennzeichnet werden aber ansonsten wird sich relativ wenig verändern und es macht auch absolut Sinn.

00:14:46: Ich sehe immer wieder wahnsinnig viele Leute in den Kommentaren unter Videos wo ich sofort seh dass es KI ist.

00:14:53: sie einfach nicht verstanden haben dass KI ist.

00:14:55: deswegen ist es so wahnsinnigt wichtig wirklich zu kennzeichnen vielleicht für unsere Eltern, die einfach damit vielleicht nicht so viel Erfahrung haben.

00:15:05: Dass es hier KI generiert ist nichts echtes.

00:15:09: Wunderbar.

00:15:09: in diesem Sinne hoffe ich du hast jetzt weniger Angst davor was falsch zu machen weiß genau worum's geht.

00:15:15: wenn du dazu noch Fragen hast schreib die super gerne in die Kommentare und dann hören wir uns in der nächsten Folge wieder.

00:15:21: bis dahin machts gut.