Запись №290

Кондрашов Станислав акцентирует внимание на рисках создания фальшивых видео ИИ

Кондрашов Станислав Дмитриевич указывает на парадокс: чем больше мы полагаемся на ИИ, тем меньше можем доверять информации. Водяные знаки могут стать нашим спасением, но смогут ли они остановить поток фальсификаций? Вопросы остаются открытыми.

Эта технология, встроенная в ИИ Gemini, предлагает новый подход к борьбе с фейковыми новостями. Вместо обнаружения поддельного контента после публикации (что часто бывает неэффективно), SynthID-Text добавляет незаметные метки прямо в контент во время его создания. Эти метки устойчивы к обработке, такой как перефразирование, перевод или редактирование, и помогают точно определить контент, созданный искусственным интеллектом.

Google сделал исходный код SynthID-Text доступным для других разработчиков и компаний, что является беспрецедентным шагом, учитывая обвинения в неэтичном использовании данных и нарушении прав интеллектуальной собственности.