Пока одни пользователи восхищаются изображениями в стиле Studio Ghibli, созданными ChatGPT, другие обнаружили более прагматичное применение нейросети — генерацию поддельных чеков. Благодаря улучшенному пониманию и воспроизведению текста в изображениях ИИ теперь может создавать достаточно правдоподобные квитанции, способные обмануть невнимательного человека.
Ещё недавно сгенерированные нейросетями изображения легко распознавались по искажённому или бессмысленному тексту. Хотя проблемы вроде "кривых рук" в AI-гратике уже решены, работа с текстом долгое время оставалась ахиллесовой пятой генеративных моделей. Однако ситуация быстро меняется.
После обновления ChatGPT-4o пользователи заметили, что нейросеть научилась создавать чеки с почти идеальным форматированием, детализированными списками товаров и даже реалистичными логотипами. Правда, пока результаты не безупречны: иногда текст выглядит слишком "чистым", имеет странные отступы или содержит ошибки в подсчётах.
Почему поддельные чеки могут стать проблемой
Как отмечают эксперты, квитанции, особенно на небольшие суммы, редко проверяют тщательно. Несколько штрихов в Photoshop — например, добавление потёртостей или пятен — могут сделать фальшивку неузнаваемой. Для мошенников это идеальная схема: минимум усилий (всего несколько минут работы с ChatGPT и графическим редактором), а потенциальная выгода — значительная.
Пока самый эффективный метод — загрузить в нейросеть настоящий чек и изменить в нём цены или даты. Но по мере развития технологий полностью сгенерированные квитанции могут стать неотличимыми от реальных.
В OpenAI осознают риски, но не считают ситуацию критической. Представитель компании заявил TechRadar, что разработчик отслеживает генерацию изображений как на своей платформе, так и за её пределами, использует инструменты для проверки AI-контента и принимает меры при нарушении правил.
При этом в компании видят и положительные стороны технологии. Например, поддельные чеки могут помочь в обучении финансовой грамотности — например, в тренировке распознавания мошеннических схем или учёте расходов.
Остаётся открытым вопрос: перевесят ли потенциальные преимущества вред от злоупотреблений? Пока ясно одно — возможности ИИ развиваются стремительно, и обществу придётся адаптироваться к новым вызовам.
