Китайський уряд випустив новий звід правил використання віртуальної реальності і створення дипфейків. Використання цих технологій без явного позначення буде вважатися кримінальним злочином, повідомляє Reuters з посиланням на Управління з питань кіберпростору КНР.
За останні роки технології підміни осіб досягли вражаючих результатів, дозволяючи правдоподібно замінити обличчя на відео практично кому завгодно, не вимагаючи при цьому спеціалізованих навичок. Не останню роль у приверненні уваги громадськості до такого використання нейромереж зіграв користувач Reddit, зареєстрований під ніком deepfakes, який у 2017 році почав підміняти обличчя актрис у порнороликах - сьогодні дипфейками називають не тільки перероблені порноролики, а й взагалі будь-які відео з підміною осіб.
Оскільки для тренування нейромереж потрібна велика кількість вільно доступних зображень людини, в першу чергу творці дипфейків звернули увагу на знаменитостей: акторів і політиків. Результати роботи таких алгоритмів стає все складніше розпізнати, і при цьому технологія підміни осіб, очевидно, може використовуватися не тільки як жарт, але і для створення правдоподібно виглядаючих роликів, які можуть використовуватися на шкоду і мати різні наслідки залежно від конкретного застосування.
Поки що безпосередньо дипфейки мало де забороняли, або забороняли, але із застереженнями. Так, нещодавно Каліфорнія заборонила передвиборчі дифпейки, але заборона стосується тільки роликів з політиками і триває в період 60 днів перед виборами.
Тепер стало відомо, що в Китаї фактично заборонять використання віртуальної реальності і дипфейків. Управління з питань кіберпростору КНР вимагає при виробництві і розповсюдженні подібних матеріалів у явному вигляді вказувати використання відповідних технологій, а невиконання цих вимог буде вважатися кримінальним злочином.
«Нові технології, такі як дипфейки, прижилися у відео- та аудіоіндустрії і існують ризик того, що такий контент може нашкодити суспільству та інтересам окремих людей, а також здатний створити політичні ризики і негативно вплинути на національну безпеку і стабільність у суспільстві», - передає позицію Управління з питань кіберпростору КНР видання South China Morning Post.
Нові правила стосуються як виробників контенту, так і власників онлайн-майданчиків, на яких поширюватиметься відео або аудіо, і набувають чинності вже 1 січня 2020 року.
Від редактора
По-перше, незрозуміло, яким чином у регулятора на одну полицю стали дипфейки і VR - подібні дивацтва нерідко виникають, коли чиновники намагаються регулювати сферу, в якій не до кінця розбираються. По-друге, гарантоване виявлення дипфейків - вкрай складне завдання, тому незрозуміло, яким чином буде виконуватися перевірка вимог регулятора. Можливо, на практиці все обмежиться появою дисклеймера, що накладається на відеоролики, що генеруються додатками типу Zao.
Крім окремих країн і регіонів на боротьбу з дипфейками переключилися і великі IT-компанії. Наприклад, свій датасет для боротьби з дипфейками вже зібрала Google, а Facebook і Microsoft на додаток до датасета оголосили про початок конкурсу для розробників.