Podle průzkumu nezávislé organizace Save the children provedeném ve Španělsku se každé páté dítě stalo obětí násilí v podobě nahých fotografií vytvořených změlou inteligencí. Téměř všichni respondenti uvedli, že se setkali s nějakou online formou sexuálního násilí.
iRozhlas.cz upozorňuje ve svém článku "Aplikace s umělou inteligencí digitálně svléknou děti donaha" nejen na narůstající zneužívání "svlékacích aplikací" proti dětem, ale také na nárůst počtu případů sexuálního vydírání. Pachatelé už totiž nemusí získávat skutečné intimní fotografie od dětí, mohou si je digitálně vytvořit. Fotografie vyrobené umělou inteligencí mohou být velmi realistické a způsobit srovnatelnou újmu jako v případě autentických fotografií. FBI dokonce tyto výhružky spojuje s narůstajícím počtem sebevražd. ==>> Chci si přečíst článek iRozhlas.cz
Zpráva Policie ČR upozorňuje na to, že tito pachatelé mají převážně dva hlavní motivační faktory v souvislosti s dětmi, které si vyberou jako cíl pro páchání své trestné činnosti:
- Sexuální zájem o děti, kdy cílem vydírání je opatřování materiálu spojeného se sexem (fotografie a/nebo videa s dítětem) nebo přímý sex s dětmi;
- Ekonomický zájem, kdy cílem je získání finančního zisku z vydírání.
Osobní a psychologická daň na obětech této trestné činnosti by se neměla podceňovat. Děti (ale i dospělí), které se staly obětí takového trestného činu se mohou začít sebepoškozovat, vykazovat známky sebevražedného chování nebo sebevraždu opravdu spáchat.
Jak se bránit? Jak kyberšikanu řešit?
Mnoho případů internetového zneužívání a vydírání dětí není oznámeno kvůli tomu, že se děti stydí za materiál, který poskytly pachateli, nebo v důsledku toho, že si dětské oběti ani neuvědomují, že se staly oběťmi trestného činu. Je důležité s dětmi o těchto tématech mluvit.
Škola by měla v těchto případech zajistit podporu obětem, zamezit eskalaci situace, uchovat důkazy a kontaktovat odborné instituce i rodiče. Pokud situace přesahuje kompetence školy, je nutné zapojit Policii ČR či OSPOD. ==>> Chci si přečíst článek
- O krok napřed: prevence rizikového sexuálního chování
- Příčiny psychických problémů dnešních studujících
Jak jsme na tom u nás?
Vytvořit tzv. deepfake obsah je v dnešní době velmi jednoduché. Někteří jej tvoří pro pobavení, někteří mají potřebu programy vyzkoušet. Hranice mezi zábavou a šikanou či kyber násilím může být ale velmi křehká. Jednou vytvořený obrázek, video či text (a třeba i s dobrým úmyslem) se může velmi rychle dostat do nepatřičných rukou.
Dle výzkumné zprávy Centrum prevence rizikové virtuální komunikace Pedagogická fakulta Univerzity Palackého v Olomouci používají čeští studenti AI k domácím úkolům. Znepokojující může být fakt, že přes 3 % žáků si již vygenerovalo takzvanou deepnude fotografii, tj. takovou, při které AI „svleče“ vybranou osobu. ==>> Chci si přečíst celou zprávu Čeští žáci a umělá inteligence 2024
|
Stáhněte si příručku zdarma na webu CEDMO nebo na webu E-Bezpečí. Klíčovým tématem knihy je zneužívání generativní AI k tvorbě dezinformací a falešných zpráv. I přes existenci etických omezení mohou uživatelé umělé inteligence tato pravidla obejít a generovat texty dezinformační povahy. Problémem nejsou pouze hoaxy, ale i vyděračské dopisy či podvodné spamy. |
Jak to, že k těmto programům mají všichni přístup?
Tyhle programy nemusí být ani staženy do počítače. Vše si může kdokoliv vytvořit během pár minut online. Však to také reklamy na tyto aplikace hlásají ve svém popisku: "Our deepfake app is software that runs on the cloud. Just upload an image and a video and your deep swap will be created in minutes. (nebo-li v překladu Naše deepfake aplikace je software, který běží v cloudu. Stačí nahrát obrázek a video a vaše výměna obličeje bude vytvořen během několika minut.)."
Schopnost porozumět základním principům fungování AI a kriticky hodnotit její dopady na společnost je tedy důležitou součástí digitální kompetence každého žáka. ==>> Chci si přečíst článek Umělá inteligence ve výuce informatiky na druhém stupni ZŠ a na středních školách
Tvorba deepfake dokumentů se poustupně dostává i do legislativy. Ve Velké Británii vláda se na vytváření sexuálně falešných dokumentů pohlíží jako na trestní čin. Pachatelé mohou být odsouzeni až na dva roky ve vězení. Podobný zákon je již schválen i v USA.
Zdroj: https://www.savethechildren.net/about-us; https://www.savethechildren.net/news/one-5-young-people-spain-report-being-victims-ai-deepfakes-almost-all-reporting-sexual; https://deepfakesweb.com/; https://www.irozhlas.cz/zivotni-styl/spolecnost/aplikace-s-umelou-inteligenci-digitalne-svleknou-deti-donaha-pohaneji-smrtici_2507180650_ako; https://veda.upol.cz/vedecka-pracoviste/vyzkumna-pracoviste/centrum-prevence-rizikove-virtualni-komunikace/; https://www.ic3.gov/PSA/2023/psa230605; https://www.fbi.gov/how-we-can-help-you/scams-and-safety/common-frauds-and-scams/sextortion; https://www.rizeniskoly.cz/casopisy/ucitelsky-mesicnik/umela-inteligence-ve-vyuce-informatiky-na-druhem-stupni-zs-a-na-strednich-skolach.m-14129.html; https://policie.gov.cz/clanek/policie-vydala-celoevropske-varovani-ve-veci-internetoveho-zneuzivani-a-vydirani-deti.aspx