На Амазон появились книги, созданные ИИ
В эпоху, когда цифровой мир становится все более насыщенным информацией, мы сталкиваемся с новыми вызовами и возможностями, которые предлагает искусственный интеллект. От автоматизации процессов до повышения производительности, ИИ играет все более важную роль в различных областях нашей жизни. Одной из сфер, где ИИ занимает все более значимое место, является создание текстового контента.
Эксперты предупреждают, что это только вершина растущего айсберга автоматически создаваемого контента, который распространяется по всему интернету благодаря новым языковым программам. Мы узнаем о плюсах и минусах этого явления, о том, как ИИ может предложить нам более индивидуализированные статьи, но также может создавать дезинформацию и манипулировать нашими представлениями о политике, продуктах и других важных вещах.
В этом контексте показательна история Криса Коуэлла, разработчика программного обеспечения из Портленда, чей опыт написания книги перекрывается появлением почти идентичной книги на амазоновской платформе. Подозревая использование искусственного интеллекта в написании книги-двойника, Коуэлл начинает исследовать это явление и открывает гораздо больший масштаб использования ИИ в создании контента, чем он мог себе представить.
Крис потратил более года на написание технической книги-инструкции. Три недели до ее выхода на рынок на Amazon появилась другая книга на ту же тему с таким же названием.
"Моя первая мысль была: неприятно", - сказал Кауэлл. "Моя вторая мысль была: знаете что, это очень длинное, специфичное и громоздкое название, чтобы случайно выбрать его".
Книга, названная "Автоматизация DevOps с помощью GitLab CI/CD Pipelines", так же, как и книга Кауэлла, указывала в качестве автора Мари Карпос, о которой Кауэлл раньше никогда не слышал. Когда он попытался найти информацию о ней в Интернете, он ничего не обнаружил - ни следа. Вот тогда он начал подозревать.
В книге есть признаки того, что она была написана в значительной степени или полностью искусственными интеллектуальными моделями языка, использующими программное обеспечение, такое как ChatGPT от OpenAI. (Например, фрагменты кода выглядят как снимки экрана ChatGPT). И это не единственный случай. Издатель книги, мумбайская фирма по образовательным технологиям inKstall, разместила на Amazon десятки книг по техническим темам с разными авторами, необычными отказами от ответственности и одинаковыми пятизвездочными отзывами на Amazon от того же набора рецензентов из Индии. inKstall не ответила на запросы о комментарии.
Эксперты говорят, что эти книги, вероятно, являются лишь вершиной стремительно растущего айсберга содержания, написанного искусственным интеллектом, который распространяется по всему вебу, поскольку новое языковое программное обеспечение позволяет любому быстро создавать огромные объемы текста почти на любую тему. От обзоров товаров до рецептов, блогов и пресс-релизов, человеческое авторство онлайн-материала становится исключением, а не правилом.
"Если у вас есть подключение к интернету, вы потребляли контент, созданный ИИ", - говорит Джонатан Грингласс, инвестор из Нью-Йорка, специализирующийся на электронной коммерции. "Он уже здесь".
То, что это может означать для потребителей, - это более гиперспециализированные и персонализированные статьи, но также больше дезинформации и манипуляции, касающейся политики, продуктов, которые они могут захотеть купить, и многого другого.
По мнению Маргарет Митчелл, главного этического ученого стартапа по искусственному интеллекту Hugging Face, с появлением все большего количества материалов, написанных ИИ, обширные и непроверенные массивы онлайн-данных могут потерять связь с реальностью. "Основная проблема заключается в потере ориентации в том, что такое правда", - сказала она. "Без опоры система может придумывать вещи. И если это одно и то же выдуманное вещество повсюду в мире, как вы свяжете его с реальностью?".
Инструменты генерации ИИ привлекли внимание всего мира с момента выпуска ChatGPT в ноябре. Однако ряд онлайн-издателей уже несколько лет используют автоматизированные инструменты написания на основе предшественников ChatGPT - GPT-2 и GPT-3. Этот опыт показывает, что мир, в котором творения ИИ свободно и порой неприметно смешиваются с работой человека, не является спекулятивным; он процветает на страницах продуктов на Amazon и в результатах поиска Google.
Semrush, ведущая компания по цифровому маркетингу, недавно провела опрос среди своих клиентов о использовании автоматизированных инструментов. Из 894 ответивших 761 заявили, что они хотя бы экспериментировали с какой-то формой генеративного ИИ для создания контента онлайн, в то время как 370 заявили, что теперь используют его для генерации большей части, если не всего нового контента, сказал главный стратег Semrush Юджин Левин.
"За последние два года это перестало быть новинкой и стало практически неотъемлемой частью рабочего процесса", - сказал Левин.
В отдельном отчете на этой неделе компания по оценке новостной достоверности NewsGuard выявила 49 новостных веб-сайтов на семи языках, которые, по-видимому, в основном или полностью генерируются ИИ. Сайты носят имена, такие как Biz Breaking News, Market News Reports и bestbudgetUSA.com; некоторые используют фальшивые профили авторов и публикуют сотни статей в день, говорит компания. Некоторые новостные истории являются вымышленными, но многие просто являются автоматически созданными резюме на основе реальных историй, популярных на других ресурсах.
Несколько компаний защищают свое использование ИИ, говоря The Post, что они используют языковые инструменты не для замены человеческих писателей, а для повышения их производительности или создания контента, который они в противном случае не смогли бы создать. Некоторые открыто рекламируют свое использование ИИ, в то время как другие раскрывают это более скрыто или скрывают от публики, ссылаясь на воспринимаемую стигму в отношении автоматического написания.
Ingenio, онлайн-издатель из Сан-Франциско, стоящий за сайтами, такими как horoscope.com и astrology.com, - один из тех, кто принимает автоматизированный контент. В то время как его флагманские гороскопы все еще написаны людьми, компания использовала языковые модели GPT от OpenAI для запуска новых сайтов, таких как sunsigns.com, который фокусируется на знаках зодиака знаменитостей, и dreamdiary.com, который содержит анализ снов.
"Мы находимся в начале пути, и мне кажется, что весь процесс будет пройден нашей индустрией", - сказал главный исполнительный директор Ingenio Крис Рендон. "Но в конечном итоге мы все еще создаем вещи, и наши читатели знают, что их написали люди".
По мнению экспертов, эти новые возможности генерации контента, предоставленные искусственным интеллектом, вызывают необходимость более прозрачных и этичных стандартов. Вопросы безопасности, авторства, дезинформации и контроля качества становятся все более актуальными в свете распространения автоматически создаваемого контента.
Однако с развитием технологий и осознанием этических вопросов, возможно будет создание инструментов и протоколов, которые помогут контролировать и использовать эти возможности искусственного интеллекта в наилучшем интересе потребителей и общества в целом.
Внедрение и использование искусственного интеллекта (ИИ) в медиа и интернет-сфере вызывает множество вопросов и вызовов. Хотя ИИ пока имеет свои ограничения, особенно в области языковых моделей, он нашел применение в мире кликбейт-контента и партнерского маркетинга, где успех определяется не репутацией, а способностью обмануть алгоритмы крупных технологических платформ.
Деловая модель такого контента основана на балансе между затратами на создание статьи и возможным доходом от нее. Главная цель - привлечь как можно больше кликов, чтобы предложить читателям рекламу, которая приносит лишь копеечные доходы за каждое посещение. В эту модель вписываются и многие ИИ-генерируемые "новостные" сайты, предлагающие сенсационные новости или переписывающие материалы из локальных источников.
Такие сайты обнаруживаются благодаря поиску фраз, указывающих на использование модели ИИ без тщательного редактирования. Вместе с тем, появляются и сайты, специально созданные для продвижения товаров, часто более прибыльные, чем простой кликбейт. Некоторые из них используют ИИ-сгенерированные отзывы о продуктах, которые кажутся подлинными, но созданы без участия человека.
Раньше подобные сайты обычно привлекали фрилансеров, чтобы получить недорогой контент. Однако, сейчас некоторые из них обходятся без таких услуг и используют ИИ вместо этого. Это снижает затраты на создание контента, но ведет к появлению все большего числа дешевого ИИ-сгенерированного контента, конкурирующего за места в результатах поиска Google или отзывах на Amazon. В результате возникает поток ИИ-сгенерированных веб-сайтов, большая часть из которых никогда не видится человеческим глазом.
Но ИИ влияет не только на текстовый контент. Пользователи Google недавно столкнулись с примерами появления ИИ-сгенерированных изображений в результатах поиска. Это подчеркивает, что роль ИИ уже ощутима и может повлиять на различные аспекты медиа и контента в будущем.
Однако, многие наблюдатели и представители компаний, занимающихся созданием контента, отмечают, что ИИ пока лучше всего работает в качестве помощника писателя, а не полноценного автора. Человеческое вмешательство остается необходимым на этапе создания контента, чтобы обеспечить качество, правильность тона и предотвратить ошибки и плагиат.
Между тем, опасения авторов и журналистов о росте ИИ-генерированного контента непременно вызывают вопросы о будущем профессионального писательства и журналистики. Сомнения по поводу качества и конкуренции со стороны ИИ подталкивают людей откладывать планы на написание специализированных технических книг или других произведений. Время покажет, как эта ситуация повлияет на будущее профессионального контента и наше восприятие его ценности.
Несмотря на все преимущества и недостатки использования ИИ в медиа, одно становится ясно: сбалансированное взаимодействие между ИИ и человеком определит будущее этой отрасли. Онлайн-медиа будет продолжать развиваться и приспосабливаться к постоянно меняющейся технологической среде, и вопросы этики и качества будут продолжать задавать тон и направление развития в области контента.