Искусственный интеллект становится все более эффективным в написании естественно выглядящих текстов. И эта эффективность заставляет разработчиков всерьез опасаться за наше будущее.
Некоммерческая исследовательская компания OpenAI, основанная Илоном Маском, разработала алгоритм, который умеет составлять очень правдоподобные вымышленные истории на абсолютно любую тему. Для работы алгоритму нужна лишь горстка ключевых слов, которые будут служить в качестве отправной точки.
Изначально система планировалась, как обычный языковой ИИ, который мог бы отвечать на вопросы на основе проанализированного текста. Но вскоре исследователи поняли, что изобрели настоящее чудовище.
Чем опасна эта технология?
По мнению разработчиков, система может быть использована для создания убедительной дезинформации в “промышленных масштабах”.
Представьте, что вы - некая публичная персона, и у вас есть враги. Недоброжелатели могут вредить вам придумывая о вас различные фейковые новости, но количество таких историй не будет массовым. В конце концов человеческое воображение не безгранично, и чтобы по-настоящему утопить ваше имя в потоках информационных помоев, вашим врагам придется раскошелиться на приличный штат “писателей”.
Искусственный интеллект сильно упрощает задачу. Ему не нужна зарплата, не нужен отдых, он работает быстро. За сутки он сгенерирует такие объемы убедительного бреда, что в нем бесследно затеряются любые крупицы достоверной информации. Это - мощнейший инструмент информационной войны, которым будут пользоваться люди, желающие скрыть правду, напустить как можно больше пыли и наплодить побольше противоречивых версий.
Что дальше?
Пока - ничего. Разработчики из OpenAI настолько испугались собственного создания, что решили ни при каких обстоятельствах не выставлять его на показ. Общественности будет доступна лишь базовая версия ИИ, не способная к продуктивному фейкотворчеству.
Да и в нынешнем виде технологию было бы трудно использовать во вред. По словам Джека Кларка, директора по политике OpenAI, разработка все еще остается слишком сырой. Довольно часто она пишет истории, которые явно скопированы или слишком бессвязны. Но иногда ИИ рождает вполне убедительные фейки. Джек Кларк утверждает, что система способна к самообучению, так что ей потребуется всего год или два, чтобы набрать полную силу.
Проблема лишь в том, что OpenAI - одна некоммерческая организация. Эта компания была создана специально для того, чтобы следить за этикой разработок в сфере ИИ. Представители OpenAI могут предупреждать мир об опасности, но реальной власти у них нет. Если кто-то другой решит создать аналогичный инструмент, никто ему не помешает. А значит, в ближайшем будущем интернет может превратиться в настоящую помойку, где отличить ложь от правды станет практически невозможно.
