У травні Google представив Veo 3 — нову версію свого генератора відео на базі штучного інтелекту. І хоча ця технологія вражає якістю зображення та реалістичністю сцен, її вже активно використовують не лише для безневинних роликів. На жаль, TikTok заполонили расистські відео, згенеровані саме за допомогою Veo 3 — і це сигнал тривоги для всієї AI-індустрії.
Veo 3: прорив чи проблема?
Коли Google анонсував Veo 3, це був технологічний прорив: відео з роздільною здатністю 1080p, складна генерація руху та сцен, глибока деталізація. Але з великою силою приходить і велика відповідальність. І саме з цим аспектом Google, схоже, не впорався. Попри заявлені “запобіжники” та правила, Veo 3 здатен генерувати контент, що явно порушує стандарти спільноти.
Що відбувається на TikTok?
Згідно з розслідуванням MediaMatters, останніми тижнями десятки TikTok-акаунтів почали масово публікувати відео, створені AI, з використанням расистських та антисемітських образів. У центрі ненависті — темношкірі люди, зображені як “типові злочинці”, відсутні батьки або навіть у вигляді мавп із кавунами. Окремі відео також принижують іммігрантів та єврейську спільноту.
Ці відео тривають у середньому по 6–8 секунд, мають водяний знак “Veo” і набирають тисячі, а то й мільйони переглядів. Вони шокують — і саме на це розраховують творці. Адже у соцмережах емоції, особливо гнів, швидко розлітаються.
Політика є, а от дій — ні
TikTok чітко забороняє мову ворожнечі у своїх правилах:
“Ми не дозволяємо контент, що пропагує ненависть або напади на захищені групи — прямо чи опосередковано.”
Однак ці “захищені групи” щодня стають мішенню в AI-роликах, які TikTok просто не встигає модераувати. Алгоритми й люди працюють — але потік контенту колосальний. І навіть коли акаунти видаляють (за словами представника TikTok, понад половина згаданих у звіті MediaMatters профілів уже заблоковані), десятки нових з’являються щодня.
А як же Google?
Google також має чітку політику проти використання своїх AI-сервісів для:
- мови ворожнечі,
- цькування,
- образ,
- дискримінації.
Проте, схоже, що сам генератор не завжди в змозі відрізнити “нешкідливу фантазію” від расистської символіки. Як показує практика, досить завуалювати запит — і Veo 3 виконає його без питань. До того ж, схоже, що поточні фільтри Google недостатньо чутливі до тонких, але болючих расових підтекстів — таких, як зображення людей у вигляді мавп.
ТикТок — ідеальний ґрунт для ненависті?
Попри все, TikTok залишається одним із наймасовіших та найвпливовіших відеосервісів світу. Тому саме тут подібні AI-відео знаходять найбільшу аудиторію. І хоча проблема не обмежується TikTok — у X (колишній Twitter) модерація взагалі майже відсутня — саме TikTok є лакмусовим папірцем для проблеми.
А тепер уявіть, що Veo 3 з’явиться в YouTube Shorts — функції, яка вже стала TikTok-аналогом від Google. Це створить ще більше можливостей для поширення подібного контенту.
Хибне відчуття контролю
Хоч TikTok і Google мають політики, які прямо забороняють расистський або ненависницький контент, їхня ефективність залишає бажати кращого. TikTok просто не встигає переглядати все. Google покладається на “захисні бар’єри” AI, які на ділі легко обходяться.
Варто зазначити: ми протестували Veo 3 з простими, “невинними” запитами — і змогли відтворити тривожні елементи з расистських відео. Це доводить, що система може легко дати збій. І з кожним новим інструментом AI світ стикається з одним і тим самим питанням: як утримати технологію від перетворення на зброю?
Висновок
Поки Google і TikTok зволікають із ефективною модерацією, соціальні мережі стають розсадниками цифрової ненависті, згенерованої штучним інтелектом. Технології, що мали б надихати й допомагати, перетворюються на дзеркало найгірших упереджень суспільства.
Можливо, жодні “запобіжники” не зможуть зупинити зловживання — але мовчати не можна. Потрібна відповідальність: з боку компаній, користувачів, законодавців. Бо без неї AI залишиться дитиною без нагляду — розумною, талановитою, але абсолютно безконтрольною.