Искусственный интеллект умеет подделывать документы? Уже да

OpenAI представила улучшенную модель генеративного ИИ, способную создавать поддельные изображения чеков с высокой точностью. Об этом сообщил портал Naked Science.

Модель версии GPT-4o справляется с задачами, с которыми её предшественники не могли — она точно имитирует структуру, шрифты и детали фискальных документов. Эксперты отмечают, что технология теперь позволяет создавать изображения, почти неотличимые от настоящих.

Как это было продемонстрировано
Глава венчурной компании Menlo Ventures Диди Дас опубликовал в сети фотографию чека, созданного GPT-4o. Он выглядел как подлинный — с разбивкой блюд, промежуточными итогами и правильно рассчитанными чаевыми. При этом заведение действительно существует, что усилило правдоподобность. Пользователи в сети приняли изображение за настоящий документ.

Что это значит для цифровой безопасности
Naked Science подчёркивает, что с подобными возможностями ИИ способен подделывать не только чеки, но и другие документы. Среди них — налоговые формы, удостоверения личности и даже свидетельства о рождении. Это ставит под сомнение достоверность любых изображений, размещённых в интернете. Возникает риск широкого распространения фальсификаций.

О чём предупреждают эксперты
Развитие генеративных моделей делает подделку визуального контента простой задачей. Особенно опасны случаи, когда такие изображения применяются в мошеннических схемах. Без дополнительных механизмов проверки отличить фейк становится почти невозможно. Эксперты призывают усилить контроль и разработать новые стандарты верификации изображений.