Експерти: Генеративният ИИ затруднява засичането на порнографско съдържание

Проблемът, че изкуственият интелект помага на педофилите, е регистриран от Станфордския университет преди години. Изследването на учените показало, че преработването на изображение с ИИ трудно може да се засече от филтрите за детска порнография втори път.

"В момента генеративният ИИ създава много големи проблеми за засичането на порнографско съдържание. Вече съществуваща детска порнография – изображения, засечени от правоохранителните органи, веднъж преработени през ИИ и пуснати отново в информационното пространство, дата базите не ги четат, не ги засичат. Неща хванати, белязани, отчетени, маркирани като порнографско съдържание, минат ли през AI, стават нови и трябва наново да се ловят", разказва д-р Татяна Новосьолова от Центъра за изследване на демокрацията.

15-годишният ученик от Сливен Димитър Митев обяснява, че това е и основният метод за кибертормоз сред съучениците му.

"Дийп фейк основно – генерирането на снимки и видеоматериали, използвайки изкуствен интелект."

Властите у нас посочват, че става тенденция ИИ да стои в основата на киберизнудването на педофилите.

"През последните няколко месеца започнахме да имаме подобни проблеми. Отделни граждани, най-вече на територията на чужбина, създават чрез ИИ подобни материали с детска сексуална експлоатация, на които няма истинско дете. Както знаете, е много лесно да се създадат хиляди подобни снимки и видеа. Търгуват в затворени форуми", коментира за БНР старши комисар Владимир Димитров, директор на Дирекция "Киберпрестъпност". По думите му, провеждат се активни мероприятия "за установяване на хора, които търгуват с подобни материали, които ги създават", а нашите служби работят активно с международните си партньори.

"Някои от нашите партньори имат възможност да работят под прикритие в киберпространството. Когато инфраструктурата, дигиталната, е в България, ние им съдействаме."

Има около 500 уникални български IP адреса, които в този момент свалят порнографски материали и ги разпространяват, изтъква старши комисар Димитров. Търгуването с такива материали е едно от престъпленията, които засичат службите, отбелязва специалистът.

"Таргетират свои връстници с кибертормоз на практика. От главата на дете например се създава снимка, която е предизвикателна, или с голо тяло, и това се използва да се осмива детето. Поради това, че има някакви специфики самото дете – в облеклото, прическата, държанието си."

Киберполицаите на ГДБОП са установили самоличността на 113 деца с рисково поведение в мрежата. От началото на годината са премахнати близо 74 000 материали с детска сексуална експлоатация. За 2024 г. файловете, изображения и видеоматериали с такова съдържание са били над 100 000, сочат данните на ГДБОП.

276 сигнала, свързани с онлайн сексуална експлоатация на деца, са получени от граждани, държавни институции и международни партньори в сектор "Престъпления срещу деца в интернет" към Дирекция "Киберпрестъпност" от началото на 2025 г.

Чрез международните канали са обменени над 8000 доклада с информация за интернет потребители на подобни материали. Сред тях са включително малолетни лица, които с външно влияние или без знанието на родителите са създавали и разпространявали в социалните мрежи собствени материали с провокативно съдържание.

Тази година е имало 33 специализирани полицейски операции срещу педофили. Задържани са 27 мъже, показват данните на ГДБОП. Държавната агенция за закрила на детето отчита, че за 11 месеца на националната телефонна линия за деца са постъпили 21 362 обаждания. Проведени са над 10 800 консултации, като 5 914 са с деца. Регистрирани са 1 724 сигнала за деца в риск. Затова и социалното министерство, в лицето на министър Борислав Гуцанов, е по-склонно да подкрепи идеята за забрана на мобилните телефони в час. Даже и да приложи модела на Австралия, която забрани на социалните медии за деца под 16 години.

"Не може да продължава по този начин! Трябва да има определени ограничения", смята Гуцанов. Според него е необходим диалог с доставчиците на услуги. Социалният министър дава пример с клип, който не може да бъде свален с дни.

Този диалог и с представителите на големите интернет гиганти се провали, поне в Европа. В началото на октомври ЕС не постигна споразумение по спорното предложение за т.нар. "контрол на чата". Доставчиците на онлайн услуги, включително приложения за чат, социални мрежи и хранилища на данни, трябваше законово да търсят сексуално съдържание в съобщения и съхранените файлове, използвайки алгоритми. Доставчиците на услуги трябваше задължително да уведомяват съответните органи за материали, свързани с детска порнография или малтретиране на непълнолетни и да премахват това съдържание. Предложението се сблъска и с широка опозиция от страна на правоприлагащите органи, органите за защита на данните, граждански организации, както и технологичните компании, които са основните доставчици на услуги за съобщения. А основно безпокойство е, че законодателството ще отвори вратата за масово наблюдение.

"Това е проблем за правоохранителните органи, на които ще им е много по-сложно да установяват хора, които разпространяват подобно съдържание", прогнозира старши комисар Владимир Димитров. Той обаче допълва, че това не е единственият канал, по който могат да работят.

"Само контролът в чат приложенията е капка в морето."

Дали обаче уверенията на възрастните, че се прави нещо са достатъчни децата да се чувстват сигурни в интернет средата?

"Невинаги родителите се интересуват особено от децата си. Мои съученици стават агресори поради тази причина, заради това, че не им се обръща достатъчно внимание вкъщи", споделя ученичката Вили от Разлог, която призовава възрастните да се интересуват какво правят децата в социалните мрежи.

"Аз съм имала включително заплахи. Най-често от профили, които се представят за едно, но всъщност са съвсем друго. Изкуственият интелект започва да е проблем. Преди ИИ е имало измами, в момента е по-засилено - пишат текстове по-лесно или го нагласят така, че да изглежда по-реалистично."