Пользователи ChatGPT нашли новое развлечение — использование нейросети для угадывания местоположения по загруженным изображениям. Эта возможность выглядит как безобидная игра, но уже вызывает обеспокоенность в вопросах конфиденциальности, особенно когда речь заходит о потенциальном доксинге.
На прошлой неделе OpenAI представила свои новые модели o3 и o4-mini. Обе версии обладают способностью к «визуальному рассуждению», что позволяет им анализировать загруженные изображения: увеличивать, обрезать, поворачивать и интерпретировать даже фото низкого качества.
Пользователи начали загружать снимки — от ресторанных меню до селфи — и просить ИИ сыграть в аналог GeoGuessr, популярной игры, где нужно определить место, отталкиваясь от изображений Google Street View. И надо признать, модель справляется с этой задачей весьма неплохо.
Однако у этой способности есть и обратная сторона. Технология может быть использована для доксинга — то есть раскрытия информации о местонахождении человека без его согласия. Простое селфи или кадр из сторис в соцсетях могут невольно выдать локацию, если передать их модели на анализ.
Хотя пользователи хвалят точность o3, важно понимать, что подобная функциональность была доступна и ранее. Как отмечает TechCrunch, даже модель GPT-4o, не оснащённая визуальным анализом, зачастую давала такие же точные ответы, как o3 — и делала это быстрее. В одном из тестов, правда, именно o3 угадала, что фиолетовая голова носорога на стене принадлежит бару в Вильямсберге, тогда как GPT-4o приняла это место за британский паб.
Стоит помнить, что даже o3 ошибается: не всегда точно определяет местоположение и иногда «застревает» в попытках анализа.
В OpenAI подчёркивают, что визуальное распознавание открывает новые возможности в области доступности, научных исследований и помощи в экстренных ситуациях. При этом компания уверяет, что встроила в модели защитные механизмы — они отказываются выполнять запросы, касающиеся частной информации, и не должны распознавать частных лиц по изображениям.
Тем не менее, широкое применение таких инструментов требует осторожности. То, что начинается как игра, может обернуться угрозой для личной безопасности.
