Само допреди няколко години дори не сме си представяли, че ще трябва да проверяваме дали човекът, когото гледаме на видео, изобщо е казвал думите, които чуваме

Вече можеш да видиш видео със собственото си лице и глас, в което говориш неща, които никога не си казвал. И ако е направено достатъчно добре, дори близките ти може да не разберат, че е фалшиво.
Покрай все по-реалистичните видеа, генерирани с изкуствен интелект, Google направи публично достъпен инструмент, наречен SynthID Detector.
С него можеш да качиш снимка, видео или аудиозапис и да провериш дали съдържа специален цифров воден знак, който показва, че е създадено с изкуствен интелект. Тези знаци са невидими за човека и се вграждат още при генерирането на съдържанието.
Google твърди, че с технологията досега са маркирани над 180 милиарда изображения и видеа, както и аудиозаписи с обща продължителност от 240 000 години. Дори ми е трудно да си представя за какво количество генерирано съдържание говорим.
Към технологията се присъединяват и други компании, включително OpenAI и NVIDIA. Можете да пробвате инструмента на synthid.com.
Ако програмата не открие воден знак в някое видео, това не означава непременно, че е истинско. Може просто да е направено с друг инструмент, който не използва тази технология. А и самата проверка зависи от това дали цифровият знак е запазен и може да бъде разпознат.
По-интересен ми е проблемът, пред който ни изправя всичко това.
До съвсем скоро един видеозапис беше сравнително убедително доказателство, че дадено събитие действително се е случило. Сега вече можеш да направиш реалистично видео на човек, който говори, движи се и изглежда точно като истинския. При това без особени технически познания.
И ако днес все още можем да разпознаем част от подобни видеа по някакви дребни дефекти, какво ще стане след две-три години, когато и тези недостатъци изчезнат?
Представете си например фалшив запис на политик, който обявява война, на директор на банка, който съобщава, че тя фалира, или на ваш близък, който ви моли спешно да му изпратите пари. Подобно съдържание може да се разпространи сред милиони хора, преди някой да успее да провери дали е истинско.
А има и обратен проблем, който според мен е не по-малко сериозен. Когато всички свикнат, че видеата могат да бъдат фалшифицирани, всеки истински запис ще може да бъде оспорван с обяснението, че е направен с изкуствен интелект.
Подобни инструменти могат да помогнат, но няма как да решат проблема сами. Нито Google, нито която и да е друга компания може да гарантира, че ще разпознава всяко генерирано видео, особено ако то е създадено извън собствените ѝ системи.
А и не съм особено убеден, че е добра идея няколко големи технологични компании да се превърнат в основния арбитър кое съдържание в интернет е истинско и кое не.
Според мен ще трябва да се намери начин произходът на цифровото съдържание да може да се удостоверява чрез общи, прозрачни и независими стандарти, без да се налага да вярваме безусловно на някоя корпорация.
Само допреди няколко години дори не сме си представяли, че ще трябва да проверяваме дали човекът, когото гледаме на видео, изобщо е казвал думите, които чуваме.

Автор: Деян Николов