Является ли ChatGPT основным распространителем фейковых новостей?

May 27, 2023

22 августа 2023 г.

ChatGPT покорил мир в 2023 году. Если вы не жили под скалой, вы уже знаете, что это такое — чат-бот с искусственным интеллектом (ИИ), который может отвечать на вопросы или выполнять любую задачу, которую вы ему поставите (не включая руководство, реальные задачи).

Лоренс Сандерс, старший инженер по продажам Commvault SEEMEA

О преимуществах широко говорят: экономия времени и ресурсов, сокращение затрат и создание инновационного контента, и это лишь некоторые из них.

Потенциальные ловушки

Однако становится все более очевидной проблема того, что ChatGPT не всегда на 100% точен. Если спросить о чем-то, чего он не знает, чат-бот уверенно даст вам ответ, даже если он неправильный, и, не зная иного, большинство потребителей, скорее всего, ему поверят. Фактически, ChatGPT даже будет спорить с пользователями, которые предполагают, что это неправильно, и объяснять, почему ответ, который он дал, правильный.

Это происходит потому, что ChatGPT не похож на поисковую систему. Поисковые системы собирают информацию из баз данных, ранжируют наиболее популярные результаты и показывают пользователям эти результаты, чтобы они могли найти ответ, который они ищут.

ChatGPT аналогичным образом находит информацию в своей базе данных, но вместо того, чтобы передавать ее пользователю в точности так, как она найдена, он создает ответ, делая серию предположений на основе результатов. Именно здесь все может пойти не так, и начнут генерироваться фейковые новости.

Но не только создание ответов ChatGPT приводит к риску создания фейковых новостей. Будучи чат-ботом с искусственным интеллектом, ChatGPT не обладает способностью рассуждать, как люди. Он не может отличить мнение от фактической новостной статьи, поэтому принимает все за чистую монету. Поскольку фейковые новости, по оценкам, составляют 62% всей интернет-информации, вероятность того, что ChatGPT обнаружит ложную информацию на этапе ее обнаружения и передаст ее вам в качестве окончательного ответа, высока.

Более того, учитывая рекордно быстро растущую базу пользователей, вполне вероятно, что пользователи ChatGPT будут задавать схожие вопросы и получать схожие, если не совсем одинаковые, ответы. В результате в сети могут оказаться многочисленные дубликаты фейковой информации. Повторенное и заявленное столько раз, оно закрепится как факт.

Рискованный бизнес

Однако ChatGPT может быть полезен в самых разных бизнес-подразделениях — от маркетинга до разработки продуктов. При создании последней маркетинговой кампании или разработке новейшего продукта многие сотрудники обращаются к Google за вдохновением, возможно, спрашивая о последних болевых точках, с которыми сталкивается отрасль, чтобы они могли посвятить свою работу решению проблемы. Благодаря тому, что ChatGPT доступен каждому, он быстро становится полезным инструментом на этапе генерации идей новых проектов.

Тем не менее, как отмечалось выше, существует огромный риск того, что ChatGPT даст неправильный ответ на вопрос, вокруг которого команды затем строят целый продукт или кампанию. Например, ChatGPT может предположить, что проблема отрасли, возникшая пять лет назад, является одной из болевых точек отрасли в настоящее время.

Приняв это как факт, маркетинговая команда может построить вокруг этой идеи целую кампанию, что приведет к огромному репутационному ущербу, в результате которого бизнес будет считаться оторванным от реальности и устаревшим. Хуже того, если бы компания создала целый продукт вокруг этой предполагаемой болевой точки, миллионы рандов могли бы быть инвестированы в решение, которое не нужно их клиентам. Это не только окажет огромное влияние на репутацию, но и приведет к значительным финансовым потерям.

Держите людей

Ошибок, подобных описанным выше, можно избежать, если наряду с технологией применить немного опыта. Людей пока не следует исключать из уравнения, и любая информация, которую предоставляет вам ChatGPT, должна быть проверена, а затем дважды проверена экспертами в этой области.

Кто знает, будут ли однажды наши рабочие места полностью заменены роботами, но, по крайней мере, на данный момент, человеческий опыт по-прежнему важен в бизнесе. Думайте о ChatGPT больше как о «сотруднике по искусственному интеллекту», который помогает вам с определенными задачами и предлагает идеи, но, в конце концов, вам все равно придется выполнять свою часть работы.