Убытки от мошенничества с ИИ-изображениями достигнут $40 млрд в 2027 году — помогут ли новые международные стандарты?

На конференции AI for Good под эгидой ООН объявлено о новых стандартах для борьбы с дипфейками и ИИ-мошенничеством. По прогнозам Deloitte Center for Financial Services, убытки от мошенничества с использованием генеративного ИИ в США вырастут с $12,3 млрд в 2023 году до $40 млрд в 2027 году. Профессор Турадж Эбрахими из Швейцарской высшей технической школы возглавляет усилия по разработке стандартов совместно с Международной электротехнической комиссией (IEC), Международной организацией по стандартизации (ISO) и Международным союзом электросвязи (ITU). IEC и ISO представили два дополнения к стандарту JPEG Trust, помогающему проверять подлинность изображений. Первое дополнение, JPEG Trust Part 2, вводит каталог профилей доверия и шаблонов отчетов, которые можно адаптировать для конкретных рабочих процессов (вещание, цифровые камеры, сервисы ИИ-генерации контента). Второе дополнение, JPEG Trust Part 3, внедряет водяные знаки для медиафайлов. Эбрахими подчеркнул, что JPEG Trust не предназначен для принудительной маркировки контента на стороне создателя — мошенники не станут помечать свои подделки. Стандарт даёт пользователю инструменты, чтобы самостоятельно оценить достоверность изображения с учётом контекста и профиля доверия. Параллельно разрабатываются другие стандарты: Originator Profile для документирования происхождения контента, Vocabulary for expressing content preferences for AI для стандартизации отказов от использования данных в обучении ИИ, а также H.MMAUTH — фреймворк для аутентификации мультимедиа на основе цифровой подписи.