{"id":26092,"date":"2024-01-15T09:16:38","date_gmt":"2024-01-15T08:16:38","guid":{"rendered":"https:\/\/www.safersurfing.org\/?p=26092"},"modified":"2024-01-15T10:24:36","modified_gmt":"2024-01-15T09:24:36","slug":"kinderpornografie-auf-instagram-ki-wird-zum-problem","status":"publish","type":"post","link":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/","title":{"rendered":"Kinderpornografie auf Instagram – KI wird zum Problem"},"content":{"rendered":"

K\u00fcnstliche Intelligenz (KI) wird zunehmend missbraucht, um Kinderpornografie zu erstellen. \u00dcber die Social-Media-Plattform Instagram werden laut des SWR-Investigativformats Vollbild<\/a> tausende Bilder von Kindern und Jugendlichen verbreitet.<\/p>\n

KI-generierte Bilder kaum von echten zu unterscheiden<\/h2>\n

Manche Abbildungen sind k\u00fcnstlich generiert, andere basieren auf echten Kinderbildern<\/a> oder gar echtem Kindesmissbrauch. Viele Kinder und Jugendliche werden in knapper Unterw\u00e4sche, Badebekleidung oder sexualisierten Posen dargestellt. Das zeigen Recherchen des SWR-Investigativformats Vollbild. Expertinnen und Experten warnen vor der Gefahr der KI-generierten Missbrauchsabbildungen: Sie erschwerten die Ermittlungsarbeiten und k\u00f6nnten bei p\u00e4dophilen Menschen die Bereitschaft erh\u00f6hen, reale \u00dcbergriffe zu begehen.<\/p>\n

Die meisten Abbildungen von KI-generiertem Kindesmissbrauch fand die Organisation “Internet Watch Foundation”, eine internationale Meldestelle f\u00fcr sexuellen Kindesmissbrauch mit Sitz in Gro\u00dfbritannien, bislang im Dark Web. Mit steigender Anzahl erh\u00f6ht sich laut Sexton aber das Risiko, dass immer mehr davon im Open Web landen.<\/p>\n

\n

“”Das ist nichts, was vielleicht in der Zukunft passieren k\u00f6nnte, sondern etwas, das bereits jetzt passiert.” (Dan Sexton, IWF)<\/p>\n<\/blockquote>\n

Hergestellt werden die k\u00fcnstlichen kinder- und jugendpornografischen Abbildungen\u00a0Vollbild-Recherchen zufolge vor allem mit einer Version des KI-Programms Stable Diffusion. Die Software-Version umfasst keine Sicherheitsmechanismen, die beispielsweise die Erstellung von Nacktbildern verhindern.<\/p>\n

Beh\u00f6rden kommen an ihre Grenzen<\/h2>\n

Das BKA erfasst F\u00e4lle von KI-generierter Pornografie nicht gesondert, stuft die Gefahr bei Kinder- und Jugendpornografie insgesamt aber als hoch ein. Im Jahr 2022 seien die Fallzahlen um 7,4 Prozent bei Kinderpornografie sowie um 32,1 Prozent bei Jugendpornografie gestiegen. Hinzu komme, dass allt\u00e4gliche, echte Fotos als Grundlage f\u00fcr KI-generierte Pornografie dienen k\u00f6nnten. Die k\u00fcnstlichen Abbildungen sind laut BKA schon jetzt kaum von echten zu unterscheiden.<\/p>\n

Die Entwicklung k\u00f6nnte laut Oberstaatsanwalt Markus Hartmann, der die Zentral- und Ansprechstelle Cybercrime (ZAC) in Nordrhein-Westfalen leitet, dazu f\u00fchren, dass auch Ermittlungsbeh\u00f6rden KI-generierte Bilder f\u00e4lschlicherweise als neuen tats\u00e4chlichen Missbrauch bewerten und dadurch ressourcentechnisch an ihre Grenzen kommen.<\/p>\n

Plattformen vermehrt in die Pflicht nehmen<\/h2>\n

Neben echten sind auch mittels KI generierte kinder- und jugendpornografische Darstellungen strafbar. W\u00fcrden rechtswidrige Inhalte \u00fcber Online-Plattformen wie Instagram verbreitet, greife der Digital Services Act<\/a>. Das EU-Gesetz verpflichtet Plattformen, Meldeverfahren einzurichten und gegen die missbr\u00e4uchliche Verwendung ihrer Dienste vorzugehen, so eine Sprecherin des Bundesjustizministeriums.<\/p>\n

Vollbild-Recherchen zeigen, dass etwa Instagram der Pflicht, rechtswidrige Inhalte zu entfernen, unzureichend nachkommen. Die Redaktion meldete im Zuge der Recherche mehrere Dutzend Instagram-Accounts, deren Besitzer damit werben, echte Kinder- und Jugendpornografie zu verkaufen. Nur ein Drittel der Accounts wurden von Instagram innerhalb von 48 Stunden gel\u00f6scht.<\/p>\n

Safersurfing<\/a> spricht sich immer wieder daf\u00fcr aus, sowohl Internetprovider als auch Plattformen vermehrt in die Verantwortung zu nehmen. Kinder und Jugendliche<\/a> – sowie deren Eltern – d\u00fcrfen hier nicht alleine gelassen werden. Mehr zum Thema<\/a> findest du auf unserer Website<\/a>!<\/p>\n

VOLLBILD RECHERCHE – VIDEO<\/span><\/a><\/div>\n

Bildquelle: \u00a9SWR<\/p>\n<\/div><\/div><\/div><\/div><\/div>\n","protected":false},"excerpt":{"rendered":"

K\u00fcnstliche Intelligenz (KI) wird zunehmend missbraucht, um Kinderpornografie zu erstellen. \u00dcber die Social-Media-Plattform Instagram werden tausende Bilder von Kindern und Jugendlichen verbreitet.<\/p>\n","protected":false},"author":5,"featured_media":26199,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[22,14],"tags":[],"yoast_head":"\nKI wird zum Problem - Kinderpornografie auf Instagram<\/title>\n<meta name=\"description\" content=\"KI und die Kinderpornografie: \u00dcber Social-Media-Plattformen werden tausende Bilder von Kindern und Jugendlichen verbreitet.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Kinderpornografie auf Instagram - KI wird zum Problem\" \/>\n<meta property=\"og:description\" content=\"KI und die Kinderpornografie: \u00dcber Social-Media-Plattformen werden tausende Bilder von Kindern und Jugendlichen verbreitet.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/\" \/>\n<meta property=\"og:site_name\" content=\"Safersurfing\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/safersurfing\/\" \/>\n<meta property=\"article:published_time\" content=\"2024-01-15T08:16:38+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-01-15T09:24:36+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.safersurfing.org\/wp-content\/uploads\/2024\/01\/1_Vollbild_Dein_Kind_im_Porno_800x500.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"800\" \/>\n\t<meta property=\"og:image:height\" content=\"500\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Katharina\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:title\" content=\"Kinderpornografie auf Instagram - KI wird zum Problem\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Katharina\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"3 Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/\"},\"author\":{\"name\":\"Katharina\",\"@id\":\"https:\/\/www.safersurfing.org\/#\/schema\/person\/1ace6cea3bcc305de095eeaf15673c38\"},\"headline\":\"Kinderpornografie auf Instagram – KI wird zum Problem\",\"datePublished\":\"2024-01-15T08:16:38+00:00\",\"dateModified\":\"2024-01-15T09:24:36+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/\"},\"wordCount\":817,\"publisher\":{\"@id\":\"https:\/\/www.safersurfing.org\/#organization\"},\"articleSection\":[\"Aufkl\u00e4rung & Information\",\"Kinder & Jugendschutz\"],\"inLanguage\":\"de-DE\"},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/\",\"url\":\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/\",\"name\":\"KI wird zum Problem - Kinderpornografie auf Instagram\",\"isPartOf\":{\"@id\":\"https:\/\/www.safersurfing.org\/#website\"},\"datePublished\":\"2024-01-15T08:16:38+00:00\",\"dateModified\":\"2024-01-15T09:24:36+00:00\",\"description\":\"KI und die Kinderpornografie: \u00dcber Social-Media-Plattformen werden tausende Bilder von Kindern und Jugendlichen verbreitet.\",\"breadcrumb\":{\"@id\":\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/#breadcrumb\"},\"inLanguage\":\"de-DE\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/www.safersurfing.org\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Kinderpornografie auf Instagram – KI wird zum Problem\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/www.safersurfing.org\/#website\",\"url\":\"https:\/\/www.safersurfing.org\/\",\"name\":\"Safersurfing\",\"description\":\"Ein Leben ohne Pornografie\",\"publisher\":{\"@id\":\"https:\/\/www.safersurfing.org\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/www.safersurfing.org\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"de-DE\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/www.safersurfing.org\/#organization\",\"name\":\"Safersurfing\",\"url\":\"https:\/\/www.safersurfing.org\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de-DE\",\"@id\":\"https:\/\/www.safersurfing.org\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/www.safersurfing.org\/wp-content\/uploads\/2018\/03\/Safersurfing-Logo.png\",\"contentUrl\":\"https:\/\/www.safersurfing.org\/wp-content\/uploads\/2018\/03\/Safersurfing-Logo.png\",\"width\":800,\"height\":111,\"caption\":\"Safersurfing\"},\"image\":{\"@id\":\"https:\/\/www.safersurfing.org\/#\/schema\/logo\/image\/\"},\"sameAs\":[\"https:\/\/www.facebook.com\/safersurfing\/\",\"https:\/\/www.youtube.com\/channel\/UCOeyrR5gmcUK360lgDkdVCQ\"]},{\"@type\":\"Person\",\"@id\":\"https:\/\/www.safersurfing.org\/#\/schema\/person\/1ace6cea3bcc305de095eeaf15673c38\",\"name\":\"Katharina\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"KI wird zum Problem - Kinderpornografie auf Instagram","description":"KI und die Kinderpornografie: \u00dcber Social-Media-Plattformen werden tausende Bilder von Kindern und Jugendlichen verbreitet.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/","og_locale":"de_DE","og_type":"article","og_title":"Kinderpornografie auf Instagram - KI wird zum Problem","og_description":"KI und die Kinderpornografie: \u00dcber Social-Media-Plattformen werden tausende Bilder von Kindern und Jugendlichen verbreitet.","og_url":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/","og_site_name":"Safersurfing","article_publisher":"https:\/\/www.facebook.com\/safersurfing\/","article_published_time":"2024-01-15T08:16:38+00:00","article_modified_time":"2024-01-15T09:24:36+00:00","og_image":[{"width":800,"height":500,"url":"https:\/\/www.safersurfing.org\/wp-content\/uploads\/2024\/01\/1_Vollbild_Dein_Kind_im_Porno_800x500.jpg","type":"image\/jpeg"}],"author":"Katharina","twitter_card":"summary_large_image","twitter_title":"Kinderpornografie auf Instagram - KI wird zum Problem","twitter_misc":{"Verfasst von":"Katharina","Gesch\u00e4tzte Lesezeit":"3 Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/#article","isPartOf":{"@id":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/"},"author":{"name":"Katharina","@id":"https:\/\/www.safersurfing.org\/#\/schema\/person\/1ace6cea3bcc305de095eeaf15673c38"},"headline":"Kinderpornografie auf Instagram – KI wird zum Problem","datePublished":"2024-01-15T08:16:38+00:00","dateModified":"2024-01-15T09:24:36+00:00","mainEntityOfPage":{"@id":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/"},"wordCount":817,"publisher":{"@id":"https:\/\/www.safersurfing.org\/#organization"},"articleSection":["Aufkl\u00e4rung & Information","Kinder & Jugendschutz"],"inLanguage":"de-DE"},{"@type":"WebPage","@id":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/","url":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/","name":"KI wird zum Problem - Kinderpornografie auf Instagram","isPartOf":{"@id":"https:\/\/www.safersurfing.org\/#website"},"datePublished":"2024-01-15T08:16:38+00:00","dateModified":"2024-01-15T09:24:36+00:00","description":"KI und die Kinderpornografie: \u00dcber Social-Media-Plattformen werden tausende Bilder von Kindern und Jugendlichen verbreitet.","breadcrumb":{"@id":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/#breadcrumb"},"inLanguage":"de-DE","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/www.safersurfing.org\/kinderpornografie-auf-instagram-ki-wird-zum-problem\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.safersurfing.org\/"},{"@type":"ListItem","position":2,"name":"Kinderpornografie auf Instagram – KI wird zum Problem"}]},{"@type":"WebSite","@id":"https:\/\/www.safersurfing.org\/#website","url":"https:\/\/www.safersurfing.org\/","name":"Safersurfing","description":"Ein Leben ohne Pornografie","publisher":{"@id":"https:\/\/www.safersurfing.org\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.safersurfing.org\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"de-DE"},{"@type":"Organization","@id":"https:\/\/www.safersurfing.org\/#organization","name":"Safersurfing","url":"https:\/\/www.safersurfing.org\/","logo":{"@type":"ImageObject","inLanguage":"de-DE","@id":"https:\/\/www.safersurfing.org\/#\/schema\/logo\/image\/","url":"https:\/\/www.safersurfing.org\/wp-content\/uploads\/2018\/03\/Safersurfing-Logo.png","contentUrl":"https:\/\/www.safersurfing.org\/wp-content\/uploads\/2018\/03\/Safersurfing-Logo.png","width":800,"height":111,"caption":"Safersurfing"},"image":{"@id":"https:\/\/www.safersurfing.org\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/safersurfing\/","https:\/\/www.youtube.com\/channel\/UCOeyrR5gmcUK360lgDkdVCQ"]},{"@type":"Person","@id":"https:\/\/www.safersurfing.org\/#\/schema\/person\/1ace6cea3bcc305de095eeaf15673c38","name":"Katharina"}]}},"_links":{"self":[{"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/posts\/26092"}],"collection":[{"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/comments?post=26092"}],"version-history":[{"count":0,"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/posts\/26092\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/media\/26199"}],"wp:attachment":[{"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/media?parent=26092"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/categories?post=26092"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.safersurfing.org\/wp-json\/wp\/v2\/tags?post=26092"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}